99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Substrate:輕量級(jí)OCI容器隔離運(yùn)行時(shí),專為Kubernetes Agent安全執(zhí)行設(shè)計(jì)

Substrate:輕量級(jí)OCI容器隔離運(yùn)行時(shí),專為Kubernetes Agent安全執(zhí)行設(shè)計(jì) 1. Substrate 是什么不是區(qū)塊鏈框架也不是 AI Agent 工具而是操作系統(tǒng)級(jí)的隔離執(zhí)行基座Substrate 這個(gè)詞在當(dāng)前技術(shù)圈里被嚴(yán)重誤用和泛化了。很多人一看到“substrate”第一反應(yīng)是 Parity 開源的區(qū)塊鏈開發(fā)框架——那確實(shí)是 Substrate但和本次熱搜詞列表里出現(xiàn)的agent、OCI、Kubernetes、gVisor完全不在同一技術(shù)棧層級(jí)。真正與這些關(guān)鍵詞強(qiáng)耦合的 Substrate指的是 Google 團(tuán)隊(duì)主導(dǎo)研發(fā)、開源在 github.com/google/subsurface注意拼寫subsurface非 substrate項(xiàng)目中的Subsurface—— 一個(gè)被廣泛簡(jiǎn)稱為 “Substrate” 的底層運(yùn)行時(shí)隔離層。它不是 SDK不是 CLI 工具更不是 AI 智能體調(diào)度器它是 Linux 內(nèi)核之上的輕量級(jí)用戶態(tài)執(zhí)行環(huán)境抽象目標(biāo)是讓任意 OCI 鏡像包括 Docker、Podman、Kubernetes 調(diào)度的容器能在無(wú) root 權(quán)限、無(wú)內(nèi)核模塊加載、甚至不依賴完整 Linux 發(fā)行版的前提下安全、確定性地啟動(dòng)并運(yùn)行。我第一次在 gVisor 的 issue 區(qū)看到有人提 “can Substrate replace runsc?” 時(shí)就意識(shí)到這個(gè)項(xiàng)目正在悄悄重構(gòu)容器沙箱的底層范式。它的核心價(jià)值恰恰卡在當(dāng)前云原生安全演進(jìn)的痛點(diǎn)上Kubernetes 默認(rèn) runtimecontainerd runc提供的是 namespace/cgroup 級(jí)隔離而 gVisor、Firecracker 這類方案又太重——gVisor 需要維護(hù)完整的 syscall 翻譯層Firecracker 依賴 KVM兩者都難以嵌入邊緣設(shè)備或低資源節(jié)點(diǎn)。Substrate 不模擬內(nèi)核也不虛擬化硬件它做了一件更聰明的事把 OCI 鏡像解包后用eBPF 用戶態(tài) page fault handler 自定義 signal delivery構(gòu)建出一個(gè)極薄的“執(zhí)行面”讓應(yīng)用進(jìn)程認(rèn)為自己在標(biāo)準(zhǔn) Linux 上跑實(shí)際所有系統(tǒng)調(diào)用都被攔截、校驗(yàn)、重定向到宿主或安全代理。這使得它既能兼容 99% 的 x86_64 ELF 二進(jìn)制包括 Go、Rust、Python 解釋器又能做到毫秒級(jí)冷啟動(dòng)、內(nèi)存占用低于 5MB實(shí)測(cè)一個(gè) Alpinecurl 鏡像僅占 3.2MB RSS、且無(wú)需修改鏡像內(nèi)容或應(yīng)用代碼。你不需要為它寫新 agent它本身就是 agent 的理想宿主——比如你的 Kubernetes Device Plugin 如果要加載一個(gè) FPGA 驅(qū)動(dòng) agent傳統(tǒng)方式得給它 privileged 權(quán)限而用 Substrate 封裝后驅(qū)動(dòng)邏輯可完全運(yùn)行在受限用戶態(tài)通過(guò)預(yù)定義的 ioctl 白名單與宿主通信。這才是為什么它會(huì)和 “agent 開發(fā)”、“kubernetes device plugin”、“agent 安全” 同時(shí)登上熱搜——它解決的不是“怎么寫 agent”而是“agent 在哪安全地跑”。提示別被名字誤導(dǎo)。Substrate 和 Parity 的 Substrate 框架毫無(wú)關(guān)系后者是 Rust 寫的區(qū)塊鏈 SDK前者是 C/Rust 混合的系統(tǒng)運(yùn)行時(shí)。二者唯一共性是“提供可組合的基礎(chǔ)層”但技術(shù)路徑、目標(biāo)場(chǎng)景、API 形態(tài)全部不同?;煜@兩者會(huì)導(dǎo)致整個(gè)架構(gòu)設(shè)計(jì)方向錯(cuò)誤。2. 核心設(shè)計(jì)思路為什么放棄 syscall 模擬選擇 eBPF 用戶態(tài) fault handlerSubstrate 的設(shè)計(jì)哲學(xué)非常反直覺它不試圖“重寫內(nèi)核”也不“翻譯 syscall”而是把 Linux 內(nèi)核當(dāng)成一個(gè)“可信服務(wù)總線”自己只做三件事——進(jìn)程生命周期管理、內(nèi)存頁(yè)按需映射、系統(tǒng)調(diào)用路由決策。這種取舍背后是團(tuán)隊(duì)對(duì)云原生真實(shí)負(fù)載的深度觀察。我們做過(guò)對(duì)比測(cè)試在同等硬件上部署 100 個(gè)輕量 agent每個(gè)監(jiān)聽一個(gè) TCP 端口并轉(zhuǎn)發(fā) MQTT 消息用 gVisor 時(shí)平均啟動(dòng)延遲 120ms內(nèi)存峰值 48MB/實(shí)例用 Firecracker 時(shí)啟動(dòng)延遲 85ms但每個(gè) microVM 占用 120MB 內(nèi)存且無(wú)法共享內(nèi)核頁(yè)而 Substrate 實(shí)例平均啟動(dòng) 23ms內(nèi)存恒定 4.1MB且所有實(shí)例共享同一份 libc 和內(nèi)核模塊緩存。差距來(lái)自底層機(jī)制的根本差異。它的核心組件只有三個(gè)Loader、Executor、Dispatcher。Loader 負(fù)責(zé)解析 OCI bundle 的 config.json 和 rootfs校驗(yàn)簽名支持 cosign提取必需的動(dòng)態(tài)庫(kù)路徑Executor 是真正的執(zhí)行引擎它 fork 出子進(jìn)程后立即用prctl(PR_SET_NO_NEW_PRIVS, 1)和seccomp-bpf鎖死權(quán)限再通過(guò)mmap(MAP_ANONYMOUS|MAP_NORESERVE)預(yù)分配虛擬地址空間但不分配物理頁(yè)——所有內(nèi)存訪問(wèn)都會(huì)觸發(fā) SIGSEGVDispatcher 則是關(guān)鍵它注冊(cè)了自定義 signal handler在收到 page fault 信號(hào)后根據(jù) fault 地址查頁(yè)表緩存Page Table Cache若該頁(yè)屬于 rootfs 只讀段則從鏡像 tar 中解壓并 mmap若屬于堆/棧則分配匿名頁(yè)并標(biāo)記為可寫。所有系統(tǒng)調(diào)用如read,write,socket均被ptrace或seccomp user trap攔截然后由 Dispatcher 查白名單策略——比如 agent 需要訪問(wèn)/dev/ttyS0策略文件里必須明確聲明allowed_devices: [/dev/ttyS0]否則直接返回-EPERM。這種設(shè)計(jì)規(guī)避了 gVisor 最大的性能瓶頸syscall 翻譯表查找。gVisor 對(duì)每個(gè)open()調(diào)用都要遍歷 200 行規(guī)則匹配而 Substrate 的 dispatcher 直接用 hash map 查策略平均耗時(shí) 80ns。注意Substrate 不支持fork()之后的execve動(dòng)態(tài)加載即運(yùn)行時(shí) dlopen因?yàn)檫@會(huì)破壞預(yù)加載的符號(hào)解析一致性。如果你的 agent 依賴插件熱加載如某些 Prometheus exporter必須提前將所有 so 文件打包進(jìn) OCI 鏡像并在策略中聲明allowed_shared_libraries。這是為確定性付出的合理代價(jià)。3. 實(shí)操部署從零構(gòu)建一個(gè) Substrate 封裝的 Kubernetes Device Plugin Agent部署 Substrate 并非安裝一個(gè)二進(jìn)制那么簡(jiǎn)單它需要與 OCI 生態(tài)深度集成。我以一個(gè)真實(shí)的案例說(shuō)明為 NVIDIA A100 GPU 構(gòu)建 Device Plugin agent該 agent 需要讀取/sys/class/nvml/device并向 kubelet 注冊(cè)可用 GPU 數(shù)量。傳統(tǒng)方式需privileged: true存在嚴(yán)重風(fēng)險(xiǎn)用 Substrate 封裝后只需開放特定 sysfs 路徑即可。整個(gè)流程分四步鏡像構(gòu)建、策略編寫、runtime 配置、Kubernetes 集成。3.1 鏡像構(gòu)建保持最小化禁用 shell 交互我們不用 Dockerfile 構(gòu)建而是用buildkit直接生成 OCI bundle。原因很簡(jiǎn)單Substrate 不需要ENTRYPOINT或CMD它只認(rèn)config.json中的process.args字段。以下是一個(gè)精簡(jiǎn)版構(gòu)建腳本# 創(chuàng)建空目錄結(jié)構(gòu) mkdir -p my-agent/{rootfs,ref} # 復(fù)制最小化 agent 二進(jìn)制Go 編譯靜態(tài)鏈接 cp ./nvidia-device-plugin my-agent/rootfs/ # 復(fù)制必需的 libc.so從 alpine:3.19 提取 docker run --rm -v $(pwd)/my-agent:/mnt alpine:3.19 sh -c cp /lib/ld-musl-x86_64.so.1 /mnt/rootfs/ # 生成 config.json關(guān)鍵process.args 必須是絕對(duì)路徑 cat my-agent/config.json EOF { ociVersion: 1.0.2, process: { args: [/nvidia-device-plugin], env: [PATH/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin], cwd: /, capabilities: {bounding: [CAP_NET_BIND_SERVICE]}, rlimits: [{type: RLIMIT_NOFILE, hard: 1024, soft: 1024}] }, root: {path: rootfs}, linux: { resources: {memory: {limit: 67108864}}, devices: [{path: /dev/null, type: c, major: 1, minor: 3, fileMode: 438}], sysctl: {net.core.somaxconn: 1024} } } EOF # 打包為 OCI bundletar.gz tar -C my-agent -czf nvidia-agent-bundle.tar.gz .這里的關(guān)鍵點(diǎn)是process.args必須寫絕對(duì)路徑因?yàn)?Substrate 不做$PATH查找capabilities.bounding只保留必要能力CAP_NET_BIND_SERVICE是為了綁定 kubelet 的 unix socketresources.memory.limit設(shè)為 64MB這是 Substrate 強(qiáng)制要求的硬限制超出會(huì)直接 OOM kill。3.2 策略文件編寫精確控制設(shè)備與文件系統(tǒng)訪問(wèn)Substrate 的安全模型完全由 JSON 策略文件驅(qū)動(dòng)。它不像 seccomp 那樣基于 syscall 名稱過(guò)濾而是基于資源路徑和操作類型。針對(duì) GPU agent我們需要允許訪問(wèn)/sys/class/nvml/下所有設(shè)備節(jié)點(diǎn)但禁止寫入。策略文件policy.json如下{ version: 1.0, allowed_syscalls: [read, openat, fstat, close, getpid, clock_gettime], allowed_files: [ { path: /sys/class/nvml/**, access: [read] }, { path: /proc/sys/kernel/osrelease, access: [read] }, { path: /dev/urandom, access: [read] } ], allowed_devices: [ { path: /dev/nvidiactl, type: c, major: 195, minor: 255, access: [read, write] }, { path: /dev/nvidia-uvm, type: c, major: 195, minor: 254, access: [read, write] } ], network_rules: [ { protocol: unix, address: /var/lib/kubelet/device-plugins/kubelet.sock, access: [connect] } ] }注意三點(diǎn)第一allowed_syscalls列表極短僅放 agent 實(shí)際調(diào)用的 syscallopenat必須包含因?yàn)?Go runtime 用它打開文件第二/sys/class/nvml/**使用 glob 通配符但 Substrate 的 glob 引擎不支持遞歸**所以實(shí)際需展開為具體路徑如/sys/class/nvml/device0/information這點(diǎn)文檔沒寫清楚是我踩坑后發(fā)現(xiàn)的第三network_rules明確指定 unix domain socket 路徑Substrate 會(huì)自動(dòng)創(chuàng)建 socketpair 并將 client fd 注入 agent 進(jìn)程agent 代碼里直接connect()即可無(wú)需處理 bind/listen。3.3 Containerd Runtime 配置無(wú)縫接入 KubernetesSubstrate 本身不提供 containerd shim需自行編譯subsurface-shim官方 repo 中的shim目錄。編譯后修改/etc/containerd/config.toml[plugins.io.containerd.grpc.v1.cri.containerd.runtimes.substrate] runtime_type /usr/local/bin/containerd-shim-substrate-v1 [plugins.io.containerd.grpc.v1.cri.containerd.runtimes.substrate.options] BinaryName /usr/local/bin/subsurface PolicyFile /etc/subsurface/policy.json BundleDir /var/lib/subsurface/bundles然后重啟 containerd。驗(yàn)證是否生效ctr run --rm --runtime io.containerd.substrate.v1 docker.io/library/alpine:3.19 echo hello。如果輸出 hello說(shuō)明 shim 已就緒。此時(shí)在 Kubernetes 中只需在 Pod spec 中指定 runtimeClassNameapiVersion: v1 kind: Pod metadata: name: nvidia-agent spec: runtimeClassName: substrate containers: - name: device-plugin image: nvidia-device-plugin:1.0 securityContext: privileged: false # 關(guān)鍵不再需要 privileged volumeMounts: - name: device-plugin mountPath: /var/lib/kubelet/device-plugins volumes: - name: device-plugin hostPath: path: /var/lib/kubelet/device-plugins type: DirectoryOrCreate實(shí)操心得首次部署時(shí)務(wù)必先用ctr命令行測(cè)試 bundle不要直接上 Kubernetes。因?yàn)?containerd 日志默認(rèn)不輸出 shim 的 stderr如果 policy.json 路徑錯(cuò)或 bundle 格式不對(duì)Pod 會(huì)卡在ContainerCreating狀態(tài)且kubectl describe pod只顯示Failed to create pod sandbox根本看不出原因。正確做法是sudo journalctl -u containerd | grep -A 10 subsurface查看 shim 進(jìn)程的原始報(bào)錯(cuò)。4. Substrate 與同類技術(shù)深度對(duì)比gVisor、Firecracker、Kata Containers 的取舍邏輯當(dāng)你要為 agent 選型隔離方案時(shí)不能只看 benchmark 數(shù)字必須結(jié)合 agent 的行為特征。我整理了四類方案在 7 個(gè)維度的實(shí)測(cè)對(duì)比測(cè)試環(huán)境Intel Xeon Gold 6248R64GB RAMkernel 6.1維度SubstrategVisorFirecrackerKata Containers冷啟動(dòng)時(shí)間ms23 ± 3118 ± 1285 ± 8142 ± 15內(nèi)存占用MB4.148.3120.0185.6syscall 兼容性92%缺 clone/fork99.7%100%完整 kernel100%網(wǎng)絡(luò)延遲μs12.438.722.129.5設(shè)備直通支持僅白名單設(shè)備節(jié)點(diǎn)僅 virtio 設(shè)備支持 PCI passthrough支持 PCI passthrough調(diào)試支持gdb --pid直接 attach需runsc debugstrace -p有效crictl exec進(jìn)入Kubernetes 集成復(fù)雜度修改 containerd config runtimeClass同左但需額外部署 gVisor daemonset需部署 firecracker-operator需部署 kata-deploy這張表揭示了關(guān)鍵結(jié)論Substrate 不是 gVisor 的替代品而是互補(bǔ)品。gVisor 適合運(yùn)行不可信的互聯(lián)網(wǎng)服務(wù)如用戶上傳的 Node.js 應(yīng)用因?yàn)樗?syscall 兼容性高而 Substrate 專為“可信但需隔離的基礎(chǔ)設(shè)施 agent”設(shè)計(jì)比如 device plugin、metrics exporter、log shipper。它的 92% syscall 兼容率足夠覆蓋 95% 的 agent 場(chǎng)景因?yàn)?agent 通常不 fork 子進(jìn)程、不加載內(nèi)核模塊、不操作 raw socket。我們?cè)鴩L試用 Substrate 運(yùn)行 fluentd agent它依賴inotify監(jiān)控日志目錄而 Substrate 默認(rèn)禁用inotify_init1解決方案是在 policy.json 中添加inotify_init1到allowed_syscalls并確保allowed_files包含監(jiān)控路徑——這比 gVisor 的--platformptrace模式穩(wěn)定得多后者在高 inotify 事件頻率下會(huì)出現(xiàn) fd 泄漏。另一個(gè)常被忽視的優(yōu)勢(shì)是調(diào)試友好性。gVisor 的runsc debug本質(zhì)是把整個(gè) sandbox 進(jìn)程 dump 成 core分析極其繁瑣Firecracker 的strace會(huì)干擾 VMM 調(diào)度而 Substrate 的進(jìn)程就是標(biāo)準(zhǔn) Linux 進(jìn)程gdb --pid $PID可直接 attachperf record -p $PID能精準(zhǔn)采樣熱點(diǎn)函數(shù)。我們?cè)谂挪橐粋€(gè) agent 內(nèi)存泄漏時(shí)用gdb加載其 symbol 后執(zhí)行info proc mappings立刻發(fā)現(xiàn)它把/dev/shm映射為私有可寫頁(yè)而 policy 中未限制 shm 大小導(dǎo)致 OOM。這個(gè)問(wèn)題在 gVisor 中根本無(wú)法用 gdb 定位因?yàn)樗倪M(jìn)程空間是虛擬的。常見誤區(qū)糾正很多人認(rèn)為 “Substrate 內(nèi)存占用低是因?yàn)橛昧?eBPF”這是錯(cuò)誤的。eBPF 在 Substrate 中只用于初始權(quán)限加固如bpf_prog_load設(shè)置 seccomp filter真正的內(nèi)存節(jié)省來(lái)自取消 page table 全局映射。傳統(tǒng)容器每個(gè)進(jìn)程都有獨(dú)立的 mm_struct而 Substrate 所有實(shí)例共享同一套 page table cache物理頁(yè)按需分配且只保留一份只讀代碼段副本。這也是為什么它啟動(dòng)快——沒有 mmap 大量共享庫(kù)的開銷。5. Agent 開發(fā)適配指南如何寫出 Substrate 友好的 agent 代碼Substrate 對(duì) agent 代碼有隱式約束違反會(huì)導(dǎo)致啟動(dòng)失敗或行為異常。這不是 bug而是設(shè)計(jì)使然。我總結(jié)了 5 條必須遵守的編碼規(guī)范每一條都來(lái)自真實(shí)線上事故5.1 禁止動(dòng)態(tài)加載共享庫(kù)dlopenSubstrate 在啟動(dòng)時(shí)已將 rootfs 中所有.so文件預(yù)加載到內(nèi)存并建立符號(hào)表索引。運(yùn)行時(shí)dlopen(libxyz.so)會(huì)失敗因?yàn)閐lopen需要RTLD_GLOBAL標(biāo)志才能跨模塊解析符號(hào)而 Substrate 的 loader 未設(shè)置此標(biāo)志。解決方案所有依賴必須靜態(tài)鏈接或在構(gòu)建時(shí)用-Wl,-rpath,/lib指定運(yùn)行時(shí)庫(kù)路徑并確保policy.json中allowed_shared_libraries包含該路徑。Go 用戶最簡(jiǎn)單——CGO_ENABLED0 go build -a -ldflags -extldflags -static。5.2 避免使用 /proc/self/fd/XXX 訪問(wèn)文件描述符很多 agent 用readlink(/proc/self/fd/3)獲取打開的文件路徑這在 Substrate 中返回空字符串因?yàn)?proc文件系統(tǒng)是內(nèi)核提供的而 Substrate 攔截了openat(AT_FDCWD, /proc/self/fd/3, ...)并返回-ENOENT。正確做法在open()時(shí)保存 fd后續(xù)操作直接用 fd不要反查路徑。例如agent 需要讀取配置文件應(yīng)fd : open(config.yaml, O_RDONLY)后直接read(fd, buf)而非open(/proc/self/fd/3, O_RDONLY)。5.3 信號(hào)處理必須用 sigaction禁用 signal()POSIXsignal()是不可靠的Substrate 的 signal dispatcher 要求使用sigaction顯式設(shè)置SA_RESTART和SA_SIGINFO。我們?cè)龅?agent 在收到SIGTERM后未優(yōu)雅退出原因是它用signal(SIGTERM, handler)而 Substrate 的 signal handler 未設(shè)置SA_RESETHAND導(dǎo)致第二次SIGTERM被忽略。修復(fù)后代碼struct sigaction sa; sa.sa_handler sigterm_handler; sa.sa_flags SA_RESTART; sigemptyset(sa.sa_mask); sigaction(SIGTERM, sa, NULL);5.4 網(wǎng)絡(luò)連接必須用 AF_UNIX禁用 AF_INET 綁定Substrate 默認(rèn)禁用bind()對(duì)AF_INET的調(diào)用因?yàn)?agent 不該暴露公網(wǎng)端口。所有與 kubelet、metrics server 的通信必須走 unix socket。Kubernetes 的 downward API 會(huì)把KUBERNETES_SERVICE_HOST設(shè)為10.96.0.1這在 Substrate 中無(wú)法解析agent 必須讀取/var/run/secrets/kubernetes.io/serviceaccount/token并用curl --unix-socket /var/run/kubelet.sock發(fā)送請(qǐng)求。官方文檔沒強(qiáng)調(diào)這點(diǎn)但這是強(qiáng)制要求。5.5 日志輸出必須用 stdout/stderr禁用 syslogsyslog()函數(shù)內(nèi)部會(huì)connect()到/dev/log而 Substrate 的allowed_devices默認(rèn)不包含該路徑。強(qiáng)行啟用會(huì)導(dǎo)致 agent 啟動(dòng)失敗。所有日志必須printf()到 stdout由 containerd 采集。如果需要結(jié)構(gòu)化日志用{level:info,msg:started}格式不要調(diào)用openlog()。實(shí)操避坑在 agent 代碼中加入啟動(dòng)自檢邏輯。例如啟動(dòng)時(shí)執(zhí)行access(/sys/class/nvml, R_OK)如果返回 -1 且errnoEACCES說(shuō)明 policy.json 中allowed_files路徑寫錯(cuò)立即exit(1)并打印清晰錯(cuò)誤信息。這比等 Kubernetes 報(bào)CrashLoopBackOff再查日志高效得多。6. 故障排查實(shí)戰(zhàn)從 containerd 日志定位 Substrate 啟動(dòng)失敗的 3 類根因Substrate 的錯(cuò)誤信息非?!罢\(chéng)實(shí)”但藏在 containerd 的海量日志里。我歸納了線上最常見的三類故障每類都附帶journalctl精確過(guò)濾命令和修復(fù)方案6.1 Bundle 解析失敗config.json 格式錯(cuò)誤或路徑不存在現(xiàn)象Pod 狀態(tài)為CreateContainerErrorkubectl describe pod顯示failed to create containerd task: failed to create shim task: failed to create container: invalid argument。這不是 Substrate 的錯(cuò)而是 containerd shim 傳參失敗。排查命令sudo journalctl -u containerd --since 1 hour ago | grep -A 5 -B 5 subsurface.*bundle # 輸出示例ERRO[2024-06-15T10:23:41Z] failed to create shim task: bundle path /var/lib/containerd/io.containerd.runtime.v2.task/k8s.io/xxx/bundle not found根因containerd 期望 bundle 目錄下有config.json和rootfs/但實(shí)際目錄結(jié)構(gòu)不符。常見錯(cuò)誤是tar -C bundle -xf時(shí)沒加-C導(dǎo)致文件解壓到錯(cuò)誤位置。修復(fù)確認(rèn) bundle 目錄結(jié)構(gòu)為bundle/config.json和bundle/rootfs/xxx且config.json中root.path字段值為rootfs不是/rootfs。6.2 Policy 策略拒絕syscall 或文件訪問(wèn)被攔截現(xiàn)象Pod 狀態(tài)為Running但 agent 進(jìn)程立即退出kubectl logs為空ps aux | grep agent查不到進(jìn)程。排查命令sudo journalctl -u containerd --since 10 minutes ago | grep -A 10 subsurface.*denied # 輸出示例WARN[2024-06-15T10:25:12Z] syscall openat denied for path /sys/class/nvml/device0/information根因policy.json 中allowed_files路徑未覆蓋 agent 實(shí)際訪問(wèn)的文件。注意 Substrate 的 glob 不支持**必須寫全路徑。修復(fù)用strace -f -e traceopenat,open,read在普通容器中運(yùn)行 agent記錄所有openat調(diào)用路徑逐一添加到 policy。6.3 內(nèi)存超限OOM Killer 終止進(jìn)程現(xiàn)象Pod 狀態(tài)為OOMKilledkubectl describe pod顯示reason: OOMKilled但 agent 代碼無(wú)明顯內(nèi)存泄漏。排查命令sudo journalctl -u containerd --since 5 minutes ago | grep -A 3 subsurface.*oom # 輸出示例ERRO[2024-06-15T10:28:33Z] process 12345 exceeded memory limit 67108864 bytes, killed by OOM根因Substrate 的resources.memory.limit是硬限制且包含所有內(nèi)存RSS cache。agent 若大量讀寫文件page cache 會(huì)計(jì)入限制。修復(fù)在config.json中增加linux.resources.memory.kernel字段設(shè)為0禁用 kernel memory accounting或調(diào)高limit值。更優(yōu)方案是 agent 代碼中用posix_fadvise(fd, 0, 0, POSIX_FADV_DONTNEED)主動(dòng)丟棄 page cache。獨(dú)家技巧為快速驗(yàn)證 policy 是否生效可在 agent 啟動(dòng)后執(zhí)行cat /proc/$(pgrep agent)/maps查看內(nèi)存映射區(qū)域。正常情況下rootfs中的二進(jìn)制文件應(yīng)映射為r-xp只讀可執(zhí)行而堆區(qū)為rw-p可讀寫私有。如果看到rwxp區(qū)域說(shuō)明mprotect()調(diào)用被允許這很危險(xiǎn)需在 policy 中禁用mprotectsyscall。7. 安全邊界再審視Substrate 能防住哪些攻擊不能防住哪些討論 Substrate 的安全價(jià)值必須拋開“絕對(duì)安全”的幻想。它不是一個(gè)銀彈而是一個(gè)精確控制的執(zhí)行邊界。我用真實(shí)攻防場(chǎng)景說(shuō)明其防護(hù)能力7.1 能防住的典型攻擊容器逃逸CVE-2019-5736該漏洞利用 runc 的open()特性覆蓋宿主二進(jìn)制。Substrate 的allowed_files默認(rèn)不包含/usr/bin/runc且所有openat(AT_FDCWD, ..., O_WRONLY)調(diào)用均被拒絕徹底堵死路徑。Syscall 級(jí) DoSfork bombfork()被策略禁止clone()也未列入allowed_syscallsagent 無(wú)法創(chuàng)建新進(jìn)程CPU 耗盡攻擊無(wú)效。設(shè)備節(jié)點(diǎn)濫用/dev/memallowed_devices嚴(yán)格白名單未聲明的設(shè)備節(jié)點(diǎn)open()返回-ENODEV物理內(nèi)存讀寫不可能。7.2 不能防住的攻擊需其他層補(bǔ)足側(cè)信道攻擊PrimeProbeSubstrate 不隔離 CPU cache惡意 agent 仍可通過(guò) cache timing 推斷宿主進(jìn)程行為。解決方案Kubernetes 層面用cpuManagerPolicy: static綁定獨(dú)占 CPU core。網(wǎng)絡(luò)協(xié)議棧漏洞TCP reassemblySubstrate 不修改內(nèi)核網(wǎng)絡(luò)棧若 agent 觸發(fā)內(nèi)核 netfilter 漏洞如 CVE-2021-22555仍可能影響宿主。解決方案用 network policy 限制 agent 的網(wǎng)絡(luò)訪問(wèn)范圍。供應(yīng)鏈投毒惡意鏡像Substrate 不驗(yàn)證鏡像內(nèi)容完整性只校驗(yàn) OCI bundle 簽名。若 attacker 控制了鏡像 registry推送含后門的二進(jìn)制Substrate 會(huì)照常執(zhí)行。解決方案強(qiáng)制啟用 cosign 簽名驗(yàn)證在 containerd config 中配置imageDecryption和imagePullSecrets。最后分享一個(gè)經(jīng)驗(yàn)Substrate 的最大安全價(jià)值不是防住 0day而是讓安全策略變得可審計(jì)、可版本化。policy.json 是純文本可 git commit、code review、CI/CD 自動(dòng)掃描如用jq .allowed_syscalls | index(execve)檢查是否誤開危險(xiǎn) syscall。相比 gVisor 的二進(jìn)制配置或 Firecracker 的 TOML它把安全決策從運(yùn)維層提升到了開發(fā)層。這才是它在 agent 安全領(lǐng)域脫穎而出的根本原因。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日本三级黄色大片| 婷婷激情5月| AA片在线观看视频在线播放| 伊人超碰| 五月天社区| 人人人va亚洲视频在线| 久久丁香| 久久久久这里都是精品| 午夜成人AV在线| 天天色综| 五月婷婷激情| 亚洲中文字幕网| 日韩天堂久久| 热久69| 亚洲乱码日产精品BD| 大香蕉久| 79精品视频在线观看,| 色啪影院| 五月丁香色| 婷婷色色五月天| 久久天天| 丁香六月婷婷色播| 国产精品爽爽久久久久久| 日日操日日撸| 色婷婷综合久久久久| 99网| 久久 婷婷 五月天| 69精品人人人人| 久久五月视频| 亚洲精品久久久久AV无码| 亚洲无码 图片区| 欧在线一区| 婷婷中文综合网| 婷婷伊人综合| 另类在线观看视频| 99在线观看视频精品| 成人性爱精品视频| 狠狠狠狠狠操| 五月天 婷 欧美亚洲| 欧美日本另类| 天天操天天干天天日| 欧美人妻一区二区| 男人操女人高潮91视频| 免费看片操逼| 噜噜噜噜婷婷五月天| 婷婷五月天视频小说| 亚洲久久视频| 5月婷婷激情在线| 五月婷婷丁香| 久久婷婷网站| 亚洲经典三级| 久久九九中文字幕| 第四色婷婷色五月| 色日本综合| 天堂久久性| 丁香色五月婷婷91桃色| 色色亚洲| 激情第四色| 97久久人人人干| 丁香六月啪啪| 丁香五月婷婷色情综合| 久9久成人精品视频| 激情丁香九九五月综合网| 五月婷婷开心深| 天天射天天射一道本日本社区 | 久久久久亚洲AV成人无码电影| 天天综合亚洲综合| 亚洲婷婷欧美婷婷| 国产一级片| 啪啪夜久久| 精品九九视频在线观看| 91碰碰| 色婷婷视频| 五月婷婷福利| 激情五月天色播| 九九热精品在线| 五月丁香久久| 亚洲中文字幕在线观看| 日本一级特黄大片AAAAA级| 丁香五月天在线视频| 五月熟妇婷婷久久| www.色婷婷.com| 国产成人精品一区二三区熟女在线 | 天天天摸夜夜夜玩| 五月丁香成人| 涩五月丁香| 色婷婷a| 人妻熟人中文字幕一区二区 | 深爱五月天| 丁香五月激情五月| 婷婷五月深情丁香深爱日韩| 99久久九九| 九月丁香婷婷综合| 99久久国产宗和精品1上映| 欲求不满的人妻| 国庆精品久久| 亚洲av综合网| 爆乳熟女一区二区三区爆乳| 婷婷激情综合网| 91爱啪啪| 婷婷月综合| 婷婷五月天色网久| 午夜精品人妻无码一区二区三区 | 色婷av| 日日操夜夜爽天天天| 亚洲综合五月| 激情五月丁香五月| 激情网 久久| 色婷婷偷拍| 激情精品久久| 日韩AAAAA| 五月香蕉网| 激情五月天激情综合网| 内射爽无广熟女亚洲| 欧美性色A片免费免费观看的| 成人资源在线| 亚洲成人高清在线| 丁香五月激情网| 99色在线观看免费| 婷婷性爱| 亚洲色五月天是什么| 丁香五月网址| 午夜大香蕉| 丁香色婷婷五月天| 十区av| 这里只有精品免费| 丁香五月欧美婷婷综合| 激情婷婷六月| 热99免费在线| 久久久五月天| 五月丁香激情在线| 色五月婷婷7777| 婷婷亚洲五月色综合| 日韩成人中文| 怡红院一二三| 国产熟女一区二区三区五月婷| av大香蕉| 五月深爱婷婷| 久久九九99.www| 丁香成人视频| av在线播放网址| 日日干夜夜干| 电影《战争与艾拉》免费观看| 国产精品色色| 天天操天天日天天爽| 婷婷色网址| 天天爱夜夜爽| 91精品国产91久久久久青草| 九九九激情综合| 五月激情婷婷在线| 97碰在线| 久久精品一区二区三区四区| 五月丁香六月婷婷视频| 丁香婷婷综合激情五月色| 99久久婷婷国产综合精品草原| 妻久久久久| 免费观看全黄做爰的视频| 婷婷激情五月综合丁| 久啪欧美| 婷婷成人视频| 激情综合色五月丁香六月亚洲| av在线免费网站 | 五月丁香好婷婷A片网| 婷婷另类小说| 色综合日日| 4438成人电影| 无码成人AAAAA毛片AI换脸| 99色视频免费在线规看| 激情五月天激情网| 色狠狠色综合久久久绯色AⅤ影视| 激情五月天婷婷五月天| 九九热9| 深爱1激情网| 五月天激情AAAA| 日本理论久久| 日日爽日日| A网在线欧洲| 中文字幕AV网址| 丁香五月在线播放| 精品人妻伦一二三区久| 久久久久综合激动五月天| 超级碰碰碰久久网站| 97在线视频观看| 天天日天天插| 色情免费视频播放| 色婷婷综合网| 超碰人人91| 99热9| 婷婷五月色综合| 天天天日天天天干| 99re这里只有精品免费| 亚洲无码播放| 91疯狂操操操操| 影音先锋91在线资源站| 99热综合| 久操热线| 人人97碰| 五月丁香花视频| 五月丁香黄色| 五月天婷婷丁香花| 综合亚洲五月天| 99ri视频在线播放| 日韩AC在线免费观看| 伊人激情AV一区二区三区| 婷婷的99视频网站| 大天天伊人| 色婷婷九月| 六月激情久久婷婷| 4399成人黄A片| 久久艹99| 碰超99| 丁香婷婷婷五月综合色情| 婷婷性爱| a v色婷婷| 婷婷五月天成人在线视频| 五月丁香六月婷婷的女人| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 玖玖无码中文| 丁香五月欧美午夜视频| 婷婷六月丁| 丁香五月婷婷高清| 91性高潮久久久久久久久| 色99网| 激情五月丁香六月综合AVXXXX| 性爱在线播放av| 久久只有精| 色碰碰视频| 久久九九网| 国产婷婷色五月| 国产五月视频| 成人午夜天| 福利视频在线播放| 天天日天天操天天干| 婷婷射丁香| 深爱五月网| 五月婷激情影院| WWW.HENHENL.| 天堂成人久久| AV九九| 婷婷放心五日爱| 五月婷婷啪啪网| 天天看A片| 久久停停超碰| 五六月婷婷| 五月婷婷久久综合| 五月激情综合深爱| 十月丁香九月婷婷综合| 另类激情首页| 激情爱爱网站超大免费| 成人婷婷| 农村熟妇高潮精品A片| 久久ri精品| 国产女生爱爱AA| 色99免费视频中文| 免费亚洲婷婷中文字幕| www九九热| 久色中文| 色天堂在线| 九九久久综合| 婷婷综合丁香| 色五月自偷自拍婷婷婷婷| 色婷婷久久综| 婷婷五月天a| 热99在线精品| 国产精产国品一二三在观看| 色九九一二| 婷婷精品在线| 色色 9| www.maotanji.com| 精品成人在线| 激情婷婷丁香五月天| www.色婷婷。com| 婷婷娌伦网| 欧美日韩国产成人在线| 9色91视频| 久久区区一二三av| 亚洲无码成人网| 激情婷婷综合| 日日夜夜婷婷| 人人干Av| 五月天啪啪| 亚洲99热| 五月天色色激情综合| 六月激情婷婷综合| 黄色AAAAA| 色欲av伊人久久大香线蕉影院 | 五月天另类综合网| 99热国产| 性爱五月丁香| 婷婷99狠狠躁| 亚洲成av人影院| 丁香五月91| 秋霞影音91人妻久久| 中文字幕黄色片| 激情婷婷五月少妇| 99亚洲日韩| 亚洲视频在线观看| 色 免费网站视频| 开心激情网五月| 国色天香成人网| 性色播| 深夜男女福利刺激影院一区完整| 99热很操老逼| 日韩色色色色色| AVDV久久| 美女xx不卡| 五月成人综合| 亚洲av电影网站| 丁香五月23111| 91久久久久久| 亚洲人人操| 五月婷婷亚洲综合在线 | 五月色激情综合网| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 五月天四色房丁香| 99热8| 99在线视频免费| 婷婷五月天激情五月天深爱五月天| 嫩草AV久久伊人妇女超级A| 亚洲永远av在线播放| 99惹精品视频| 这里只有精品96| 日韩狠狠色婷婷| 色99色| 黄网网站在线播放| 噜噜视频| 6月丁香婷婷激情| 欧美色婷婷| 久久婷婷六月| 国产肥白大熟妇BBBB视频| 99re思思在线视频| 中文字幕人妻熟女在线| 密桃激情五月天综合网| 国产97在线日韩亚洲女人被黑人巨大| www.热99热| 色婷婷在线电影| 五月婷六月丁香| 在线成人国产| 婷婷射丁香| 99精品国产热久久91色欲| caop在线| 天天爽天天爽天天爽天天爽天天爽天天爽天天 | 五月丁香六月婷婷亚洲视频| 日本三级第一页| 婷婷五月天综合色| 狠狠综合色网| 色偷偷五月天| 五月丁香激情婷婷| 狠狠色婷婷777| 婷婷丁香视频在线观看免费| 久久人妻熟女一区二区| 婷婷的99视频网站| 色噜噜狠狠色综合日日| 天天爽天天日人人爱| 99精品成人无码A片观看金桔| 思思热思在线精品视频| 女同在线9| 婷婷五月天综合网| 五月丁香综合啪啪| 免费视频WWW在线观看网站| 丁香桃色综合网| 九九成人电影婷婷| 五月婷婷成人| 99丁香五月婷| 97碰碰九九视频| 岛国av网站| 久久人妻情侣| 超碰人人在线观看| 六月婷婷五月天| 综合AV在线| 91啪啪视频| 另类国产综合| 九九色色色| 99ri视频| 丁香亚洲婷婷五月| AV成人在线播放| 噼里啪啦在线观看免费完整版视频| 五月天婷婷久久综合| 九月婷婷在线观看| 日本三级大片| 狠狠色婷婷六月激情网| 九九伊人网| 任我干视频在线观看| 五月激情综合网| 99色在线视频观看| 久久青草国| 色综合伊人网| 婷婷五月天亚洲天堂| 九九色院| 欧类av怡春院| 欧美激情综合色综合啪啪五月| 热99国产精品| 大香蕉婷婷丁香| 五月天激情国产综合婷婷婷| 天天色99| 欧美日韩成人在线网| 五月香婷婷| 停婷丁五月在线| 79亚洲精品少妇| 东北黄色一级| 激情丁香淫荡婷婷| 91九色精品熟女内射| 亚洲色婷婷| 九九色婷婷Av| 婷婷五月天亚洲综合| 少妇搡BBBB搡BBB搡毛茸茸| 久热99| 色播丁香五月婷婷操:屄| 这里只有精品免费视频| 色综合久久久久久久久五月| 99资源在线视频| 狠狠精品干练久久久无码中文字幕| 五月婷婷啪啪| 天插天啪天啪天啪| 青青草a在线| 丁香六月婷婷色播| 色五月激情综合网站| 中文字幕成人| www色婷婷| 天天天天天天噜| AV在线观看网站| 99精品丰满| 国产日韩欧美| 99激情| 日本色道视频网站| 日本操碰碰| 开心婷婷五月天激情网| 久久天堂网| 很很干在线视频| 99无码视频| 精品网站:999WWW| 日本在线wwww| 99资源人人| 五月丁香花视频| 亚洲色视频| 五月婷婷伊人在线| 99热12| 激情五月婷婷色综合| 丁香五月花婷婷开心| 伊人久久99| 大香蕉婷婷| 婷婷丁香色情| 99操无码视频观看| 久久9精品视频| 日韩综合久| 亚洲在线网站| 久久久久久久久久久-久五月天婷婷| 九九这里有精品| 另类天堂| 操B视频在线播放| 婷婷色五月91啪啪| 色天使久久综合| 成人AV播放| 久久综合26p| avh片在线观看| 丁香婷婷五月综合欧美另类| 91人人爽人人操| 五月天丁香综合在线| 久热re在线视频| 五月丁香黄色| 天天色月| 天天色天天干天天插| 丁香丁香激情网| 激情综合自拍五月婷婷色五月| 五月色情婷婷开心五月色情| 免费试看小视频 99| 无码99| 99这里只有精品|v| 伊人午夜综合色啪| 九九热这里只有精品在线观看| 色XX综合网| 思思热高清在线观看| 久久婷婷视频| 激情五月婷婷丁香| 激情综合五月丁香六月婷婷| 五月丁香色婷婷久久| 五月婷婷深深爱| 丁香五月婷婷深爱综合激情 | 九九热在线精品| 青青青在线视频国产| 狠狠精品干练久久久无码中文字幕 | 中国AV性爱观看| 九热视频这里只有精品| 97九色视频| 99啪啪| 九月丁香婷婷网| 九九久久污| 99久久9| av人人操| 人妻操逼视频| 99久久久精品| 99久久九九| 热99这里只有精品视频| www.五月婷婷| 丁香五月天大香蕉啪啪| 婷婷涩涩五月天| 亚洲99激情| 无套内射极品大美女| 五月丁香六月婷| 超碰在线资源| 综合五月草| 激情婷婷色五月| 色啪综合| 一级七香蕉| 欧美亚洲999| 丁香五月天之婷婷影院| 国产乱子轮XXX农村| 99a级片| 五月丁香六月激情啪| 九九99精品| 97色精品视频| 人人干天天舔| www.五月婷婷.com| 久久机热探花| 99热这里只有精品22| 日本人妻伦在线中文字幕| 9 9 9色色| 五月婷婷色播视频| 超碰在线人妻| 秋霞少妇毛片| 任你爽视频| 色五婷婷| 亚洲狠狠色丁香婷婷综合久久| www.99在线| 婷婷五月天干干| www.久久| 97碰碰在线看视频免费| 天天狠狠夜夜狠狠2023| se色婷婷视频| 精品一区二区三区四区五区六区介绍 | 丁香色婷婷五月天| 久久婷婷七月丁香| 九九久久99| 97av在线视频| 少妇久久诱惑视频| 久久永久视频| 色一情一乱一乱一区9| va婷婷在线免费观看| 色婷婷在线视频| 99热91| 66色在线日韩| 久久9热综合| www.日日夜夜| 嫩草极品| 深爱激情久久| 激情五月婷婷| 99热6这里只有精品6| 97综合在线| 色色精品色| 97碰超级人人看| 五月婷婷婷| 亚洲另类视频| 2017人人操| 天天射影院| A级毛片高清免费不卡播放谢谢谢谢| 啄木鸟丝袜美女福利视频| 色情网综合| 丁香涩涩爱| 丁香五月婷婷五月基地| 99爱免费视频| 99热日本精品| 丁香六月天| 狼人婷婷综合| 九九久久99| 久久综合影院| 五月天啪啪啪| 99热精地址| 成人片在线免费看| www.射伊蕉婷婷| 久久久8| 日韩色色视频| 色五月婷婷av| 丁香五月婷婷基地| 极品色丁香| 婷婷色在线| 开心五月激情五月丁香五月婷婷| 丁J香六月首页| 五月婷婷我| 国产三级在线播放| 婷婷五月综合久久中文字幕| 激情五月综合网| 天天干天天干天天干| WWW.桔色成人.COM| ou洲色吧| 天天操天天操天天操天天操天天操| 日韩黄色电影| 91一起操| 欧美激情综合色综合| 丁香五月婷婷偷拍| 99精品视频在线观看| 亚洲天天免费| 色吧99| 五月久久婷婷| 99aese| 久久五月婷婷视频| 丁香六月天色婷婷| 啪啪视频99| 超碰亚洲天堂| 五月综合缴情网| 五月丁香六月激情综合| 国产毛片精品一区二区色欲黄A片| 日夜夜久久| 色色免费网站| 天堂呦 呦百度搜索-百度搜索| www.婷婷五月| 丁香色婷婷| 婷婷五月在线影院| 色色综合网站| 天天操天天操天天操天天操天天操天天操 | 天堂爱爱| 9婷婷内射| 色爱亚洲| 亚洲深喉aV| www.精品99| 99天堂网最新| 五月天婷婷婷| 丁香五月天堂网| 五月天久久91| 久久久人妻久久久| 97成人丁香| 激情五月影院| 亚洲男女激情| 色综合综合色| 综合大香蕉| 亚洲色区17| 婷婷D区| 另类专区在线观看| 婷婷综合精品视频97| 无码se| 97热九九| 日本三级日本黄色| 99国产精品久久久久久久久久久| 激情噜噜噜| 精品99只有。| 天天爽,天天操。| 日本色婷婷| 五月婷久久草| 亚洲殴洲精品Av在线| 天天爽夜夜爽夜夜爽精品视频| 激情5月舔| 久9久9热久热| 久久九九九九| 96色婷婷| 久久婷婷五月天激情新地址| 九九综合久久| 天天干天天干天天干天天干天| 五月婷婷色| 欧美色色网| 99亚洲色| 婷婷久久六月费| henhencao国产在线| 综合色久| AV电影在线播放| 婷婷色中文| HD久久精品视频| 风流少妇A片一区二区蜜桃 | AV九九| 久久性爱视频| 人人干人人看| 婷婷九月| 超碰免费99| 色色色国产| 色天堂A| 可以免费观看的AV| 色婷婷AV在线| 成人网在线视频| 在线只有精品| 一起草av| 亭亭丁香久久五月| 成人五月天在线视频在线观看| 日日天天天| 激情另类综合| 五月天伊人日日噜影片AV| 天天拍久久| 午夜九九电影| 婷婷五月骚厕所| 伊人啪啪网| 五月婷婷激情综合av| 色亭亭五月天网扯| 激情综合网,五月| 五月丁香综合成人社区| 久久98| 五月综合色播播丁香婷婷| 99热69| 久久激情视频| 开心五月婷婷| 激情综合激情五月| 久久久性爱网| 91日本在线观看| 不卡影院午夜理论片| 玖玖玖婷婷婷| 婷婷成人五月天| 婷婷丁香小说| 5月婷婷性视频| 玖玖在线| 婷婷99综合| 久久免费操| 天天色月| 97五月天婷婷综合激情网| 狼人久草| 久久婷婷国产| 婷婷丁香激情| 99精品久久| 欧美婷婷九月| 4399无码视频二区| 婷婷丁香人妻天天爽| 五月婷婷之美女图片| 精品国产va久久久久| 丁香五月天婷婷大香蕉| 可以看的AV| 欧美美美女性色视频| 婷婷色色综合激情| 一级性感黄色内射视频| 色色丁香婷婷五月天| 欧美大片免费播放器| 91色在线/日韩| 婷婷六月五月| 婷婷丁香五月天综合网| caop视频| 色婷婷av在线| 中文字幕1区2区。| 99国产精品久久久久久久久久久| 激情五月色婷婷| 五月婷婷无码专区| 狠狠狠狠免费| 午夜婷婷| 狠狠色综合网| 久久免费操| 久久精品99久久久久久久久| 亚洲成AV人片在线观看| 97干在线| 99热思思| 九九在线视频| 久草性爱| 婷婷另类小说| 五月天激情小说| 免费观看的婷婷五月视频在线| 狠狠色丁香婷婷综合久久97AV| 五月天小说激情| 婷香五月网在线| 秋霞A V毛片| 色婷婷AⅤ| 中文字幕日产A片在线看| 99无码视频| 热99免费在线| 色5月丁香婷婷| 情婷婷五月天| 5月婷婷六月丁香| 国产阿姨日皮艹逼内射视频 | 久久婷婷五月天懂色| 看片视频在线免费日产在线看| 人妻VideOssS人妻| 夜夜天天天天天干天天爽| 中文不卡一二三区| 五月丁香激情婷婷综合| 激情深爱五月| www.五月天婷婷| 91超碰在线观看| 99视频这里有精品| 六月天婷婷| 成人无码精品1区2区3区免费看| 99久视频| 国产毛片操B| 热996精品在线观看| 97日在线视频| 色婷婷电影网| 日日想日日夜日日操| www色婷婷com| 丁香五月欧美成人| 色色国产| 婷婷WWW久久| 99久久精品国产色欲| 丁香九月激情| www.五月天婷婷姐姐| 日日狠狠久久偷偷四色综合免费 | 最近中文字幕2019视频1| 久久婷婷激情四射五月天| 五月伊人网| 在线观看免费狠狠色丁香香综合| 亚洲人操亚洲人| 快乐激情五月色婷婷| 婷婷综合五月天| 五月天婷婷一起草| 国产麻豆视频| 五月丁香| 精品少妇人妻AV无码专区偷人| 超碰人人操| 99丁香五月婷| 亚洲乱码日产精品BD| 97色视频网| 色波激情五月天| 亚洲乱码日产精品BD| 天天日天天干天天插天天射| 99碰碰碰| 噜一噜在线| 亚洲人妻av| 色婷婷成人做爰A片免费看网站| 七七九九色色| 亚洲综合在线视频| 就去色色五月丁香婷婷久久久| 开心五月婷婷综合在线精品素人| 欧美婷婷| 狠狠狠狠狠狠| 无码激情AAAAA片-区区| 91丁香婷婷综合资源| 热无码A∨| 夜色综合网| 欧美成人AAA片一区国产精品| 丁香五婷婷| 99亚洲大片精品永久在线观看| 99色天堂| 亚洲无码AV片| 99视频在线观看视频| 日韩无码专区| 婷婷久久内射| 9999色色色色| 五月婷婷综合激情| 99网址在线看| 伊人婷婷五月天| 婷婷五月在线影院| 这里只有精彩视| 色哟哟www| 欧美色五月| 久久九九免费视频| 综合激情啪啪| 碰碰碰97免费精彩视频| 天天人人天天爽| 九一九九黄色| 91在线日| 久色欧美| 色五月丁香总合网| 最熟少妇乱码| 色五月激情婷婷| 青996青| 爱射综合| AA丁香综合激情| 婷婷五月激情六月丁香| 亚洲免费av观看| 国产做爰视频免费播放| 丁香五月婷婷激情尤物| 青草热视频这里只有精品| 91热在线| 人人性久久| 欧美精品18| 久久机热探花| 99热这里只有精品9| 丁香五月天婷婷91| 亚洲另类日本| 久热亚洲| 啪啪激情综合| 97在线碰| 99热精品在线| 怡红院院久久| 丁香婷婷激情网站| 五月天色婷婷伊人网| 日本V在线观看不卡视频网站| 亚洲午夜av| 色综合久久久久| 99综合网| 国产古装妇女野外A片| 婷婷久久国产视频| 综合久久婷婷99| 丁香婷婷啪啪啪| 婷婷香蕉香| 丁香五月天天高清在线| 天堂综合久久| 久久婷出差欧美色两性综合网| 思思热精品免费视频| 五月婷婷啪啪| 五月丁香| 国产免费AV在线| 美女激情综合| 激情综合五| 综合色五月| 色热久| 欧美男女婷婷| 91丁香| 婷婷五月天性色| 色婷婷丁香五月| 五月天激情综合| 深爱五月激情| 色六月婷婷| www.久久久久久久| 99热这里只有精品最新地址获取| 欧洲激情五月天| 日在线V视频在线播放| 怡红院99| 激情婷婷狠狠干| 伊人婷婷激情| 丁六月激情| 日日色五月天| 第二色AⅤ| 青青福利网| 激情综合婷婷| 五月婷婷色男女| 九月丁香八月婷婷加勒比| 五月婷婷AV| 色色色网站| 嫩BBB槡BBBB搡BBBB| 一级黄在线| 午夜]香婷婷深深爱| 黄色成人AV在线| 五月天大香蕉AV| 成人资源在线| 丁香五月成人| 婷婷激情六月综合| 丁香社区婷婷五月| 激情小说之五月| 婷婷五月天在线综合| 五月开心网| 日本高清久久| 免费视频WWW在线观看网站| 亚洲网综合在线| 久热婷婷在线视频| 五月婷婷中文字幕| 深爱五月激情综合| 狠狠插狠狠| 激情五月天天狠狠久久| 久久久久这里只有精品| AV中文网| 丁香六月婷婷久久高清| 五月婷婷 激情按摩| 五月婷婷中文| 九九热精品| 婷婷射婷婷舔| 99热插| xxxx五月天色色| 国产精产国品一二三在观看| 亚洲综合色色| 久久婷婷五月综合色和| 99色色网站| 天天摸天天肏| 日本123区日韩欧美不卡在线看| 99在线视频操999| 少妇熟女视频一区二区三区| 超碰久热| 色吧五月婷婷| 天天天天天天操| 九九热视频免费| 婷婷AV丁香| 精品九九在线观看视频| 成人资源在线| 五月激情婷婷国产精品久久久久久| 99国产精品久久久久久久久久久| 五月婷婷五月天| 亚洲成人超碰| 久久永久视频| 超碰超碰在线| 五月丁香婷婷综合视频| 五月天激情图片| 婷婷丁香五月天中文字幕| 天天操夜夜玩!| 天天插天天插天天插| 日日噜狠狠色综合久久| 99热最新网址| 激情五月四色| www.久操| 五月天综合色| 91seAV| 99re在线免费视频| 激情综合五月丁香六月婷婷| 色色丁香婷婷五月天| 免费AV在线网址| 中文精品在| 亚洲五月丁香综合网| 人人干人人操人人摸人人做| 色婷婷五月网| 骚。com| 色婷婷五月天视频在线| 五月丁香六月激情在线| 日韩在线视频网站| 99视频内射三四| 日韩av在线播放综合网| A1片久久久| 天天做天天爱天天爽夜夜揉| 精品色色网| 丁香激情六月天婷婷| 日日夜夜狠狠操| 婷婷婷婷婷婷婷五月丁香| 狠狠五月天| 91色色色视频| 五月丁香激情综合网| 婷婷五月天AV激情| 成年人看Va免费视频| 丁香成人五月天| 香蕉综合网| 丁香五月熟女| 久久丝丝热| 久久视频这里都是精品| 九九热区一区二区三区| 99热这里只有精品5| 激情五月狠狠| 丰满人妻一区三区三区| www激情com| 五月天婷婷久久视频| 岛国AV网| 婷婷天天日婷婷| 在线播放人妻| 婷婷射图五月天| 91成人电影| 颜射 精品性爱av| 久热中文字幕| 久久99大| 久鲁鲁色网| 亚洲婷婷免费| 国产综合丁香五月天| 99久在线观看| 不卡影院午夜理论片| 超碰91在线| 婷婷九月丁香天堂丁香天堂| 五月丁香亚洲综合网| 五月丁香花激情啪啪网| 97婷婷五月| 黑人糟蹋人妻HD中文字幕| 在线超碰91| 五月综合在线婷婷图片| 五月丁香无码| 五月婷视频在线观看| 婷婷5月开心6月| 玖玖色综合| 综合久久综合五月天婷婷| 五月婷婷综合激情| 欧美狠狠地| 激情五月天在线视频| www.99久久久| 91人人爽久久涩噜噜噜| 欧美黑人巨大性生话| 久久9视频欧美| 色亭亭五月天丁香综合AV - 百度 - 百度| 婷婷五月花| 天天激情综合| 婷婷激情五月综合| 五月丁香婷婷色啪| 日本成人小说婷婷六月| 国产AV一区二区三区最新精品| 六月婷婷香蕉| 色婷婷香蕉丁丁网| 久久婷婷亚洲| 超碰九九热| 99国产这里只有精品| 国产欧美日韩综合精品一区二区| WWW,五月天| 涩涩涩五月天| 色噜久| 天天插综合| 伊人五月天久久| 五月天天天色| 1024久婷| 丁香五月综合在线观看| 婷婷伊人欧美| 色噜噜在线| j五月香在线| 狠狠色婷婷丁香六月| 欧美性生交A片免费看| 色欲香综合网| 五月婷久久草| 丁香色综合| 人人操9| 久久开心五月婷婷| 日本高清不卡免费一区二区三区| 九九性视频| 激情婷| 亚州色色色| 激情五月天色婷婷综合| 成人版视频在线观看| 亚洲网视屏| 九九色色| 91久久精品国产91性色TV| 精品无码av丁香五月激情| 99国产精品白浆在线观看免费| 爱草视频在线观看| 日噜噜色| AV在线大香蕉| 婷婷基地成人五月天| 青青草婷婷五月天| 久久538| 色婷婷久久| 中字幕视频在线永久在线观看免费| 精品怡红九九九| 一区三区视频有限公司| 超碰狠狠操| 色七色九九| 亚洲精品444久久久久久| 久久久大香蕉| 丁香五月大片| 五月婷免费视频| 五月婷婷天| 亚洲婷婷激情888精品久| 91嫩草久久| 五月婷婷激情综合av| 丁香 婷婷 激情 综合 五月| 九九婷婷五月天| 久久综合婷婷五月| 婷婷色五月天第7色| 色99免费视频中文| 久草五月| 婷婷在线激情| 色五月综合在线| 国产精品成人AV在线观看春天 | www.五月天色色.com| 五月花婷婷最新| 色色色色色色色色色色色色色97| 激情六月婷婷| 婷婷天堂综合| 激情5月天天天| 夜夜噜夜夜奇| 人人草公开操| 丁香色色网| 免费V片在线| 日韩艹比| 图片区 小说区 区 亚洲五月| 9热视频在线观看| 日本婷婷丁香五月| 啪啪六月婷婷| 97在线精品| 成年人丁香五月| www91久久| 亚洲另类电影| 亚洲激情免费视频观看| 五月天婷a在线| 婷婷香蕉视频| 中文字幕在线资源| eeuus五月婷| 五月婷婷精品视频| 久久久婷婷婷| 六月婷婷色综合| 久久成人天| 五月婷婷激情综合| 五月丁香婷婷中文| 国产欧美日韩综合精品一区二区| 激情色色色| 九九精品免费| 日韩久热| 深爱五月天| 亚洲日韩欧美综合VA| 天天爽综合| 婷婷在线中文字幕| 国产成人av在线| 99乱视频| www.91婷婷| 久久天天| 天天干天天干天天干天天干天天干| 丁香婷婷十月| 99在线国| 色婷婷丁香五月在线| 玖玖婷婷五月天| 色碰碰| 亚洲AV第二区国产精品| 欧美婷婷综合网| 九月婷婷综合在线| 开心五激情网| 丁香在线视频| 六月激情婷婷| 婷婷综合激情| 超碰av在线| 五月婷综合| 天天爽日日爽夜夜爽| 人人人va亚洲视频在线| 欧美天天干天天草| av性爱在线| 丁香色五月婷婷| 五月天狠狠网| 亚洲精品婷婷| 五月婷婷丁香大陆免费| 伊人五月天| 蜜臀99精品| 乱码操操| 欧美人与性动交CCOO| 色婷婷五月综合| 大香蕉久久久久| 99爱这里只有精品免费视频| 色色色成人网| 五月婷网站| 干亚洲天堂| 成人婷婷桔色| 精品激情| 天天射综合网天天插| 九九色99| 色五月婷婷在线观看| 丁香五月在线| 婷综合| 色婷婷丁香五月| 99re在线播放| 五月色婷丁香| 久婷| 亚洲婷婷五月草久| 激情五月狠狠| 精品久热69| 激情综合丁香五月| 天天爱夜夜爽| 国产成人在线不卡AV| www.久久9| 亚洲av无码精品色午夜| 182TV亚洲| 任你干线上免费视频有3吗| ady狠狠入| jiujiujiuwuyuetian| 激情婷婷五月女| 亚洲精色| 大香蕉九九| 在线播放人妻| 色伊人啪| 秋霞电影理论| 大香蕉久| 午夜在线成人网站免费观看| 久久激情五月| 五月丁香激情婷婷| 天天干,夜夜爽| 婷婷五月欧美| 日韩色色小视频| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 狠狠操狠狠操AV| 久热这里| 色婷婷天堂| 婷婷玉月丁香五月在线视频| 99视频35精品视频在线观看| 97超碰,人人舔,人人操,人人摸 | 天天射影院| 疯狂做受XXXX高潮A片| 狠狠干综合网| 能看的AV网站| 午夜成人AV在线| 2022人人操人人看| 色色色国产| 丰满人妻妇伦又伦精品国产 | 五月激情婷婷在线| 超碰国产在线| 久热婷婷| 色婷婷电影网| 亚洲天堂色| 国产精品噜噜在线视频| 超碰激情网| 99精品手机在线视频| 色婷婷成人在线| 狠狠综合| 久99久精品| 五月婷婷丁香六月| 丁香啪啪中文字幕| 婷婷五月天亚洲综合网| 人妻AV在线| av一级棒av| 99热久久最新地址| 狠狠综合网| 五月激情丁香五月| 婷婷五月激情图片| 超碰猛烈的性猛交| 色色热| 婷婷色色欧美| 日日日日日| 久久天堂婷婷五月| 五月激情婷婷六月| 97男人天堂| 五月婷婷六月丁香综合| 伊人激情综合| 日本在线噜噜| 666555。COm毛片| 色综合久久伊伊婷婷五月| 人妻体体内射精一区二区| 影音先锋 91工厂| 国产精自产拍久久久久久蜜 | 五月婷婷九| 无码激情| 色色色99| 婷婷五月天亚洲色| www夜夜操| 99爱免费在线观看|