99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座?,F(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月丁香婷婷在线综合蜜桃| 色色五月天婷婷| 深爱丁香激情| 国产67194| 精品一二三区久久AAA片| 精品福利911| 天天婬色综合| 夜夜爽天天爽| 开心五月深爱五月丁香五月激情五月 | 日日夜夜综合| 久久五月婷婷电影| 欧美一线视频| 7777国产盗摄农村女人| 激情五月天婷婷| 啄木鸟丝袜美女福利视频| 五月天婷婷綜合院| 九月av在线| 国产成人亚洲综合A∨婷婷| 操逼福利视频| 五月噜噜噜色综合| 亚洲超级碰| 久草热久草在线视频| 久久婷婷五月免费视频| 天天操天天爱天天玩| 性一交一乱一交A片久久四色| 精品欧美一区二区三区久久久 | 五月婷婷丁香六月| 国产亚洲色婷婷久久99精品91| 色婷婷丁香五月高清在线| 97超级碰碰碰| site:xmssd.com| 超级黄色片| 亚洲综合婷婷| 涩综合网| 久久小视频| 色五月丁香激情| 亚洲国产精品成人免费一区久久久在线观看AAAA | 97久久超视频| 丁香影院五月综合| 无码人妻一区二区一牛影视| 无码人妻一区二区一牛影视| 99re免费视频| 狠狠干狠狠操狠狠爱| 六月激情网| 久久性爱视频网站| 久草五月天| 五月婷婷六月丁香在线| 丁香六月婷婷综合| 一级黄色影片| 婷婷成人视频| 日本狠狠干| 色婷婷九月综合| 激情四射五月天偷偷看婷婷| 色必久悠悠影院| 五月婷婷狠狠久久| 秋霞日本免费毛片A片| 久久精彩视频99| 久久婷婷六月| 任我肏视频精品| 婷婷六月激情| 色久五月天| 激情综合五月色丁香婷婷 | 综合久久99| 密桃激情五月天综合网| 丁香婷婷成人网站| 丁香色六月婷婷| 综合色色婷婷| 丁香六月激情综合| 另类小说色婷婷| 99色综合| 久久综合久色欧美综合狠狠| 懂色av粉嫩AV蜜臀AV| 激情综合视频| 日本黄色精品| 精品色情一区二区三区四区| 婷婷丁香五月,狠狠综合| 日日日影院| 都市激情小说婷婷| 色欲天天综合| WWW色五月| 久久久宗合视频88| 亚洲综合在线播放| 色五月aV| 99热97| 五月丁香六月婷婷欧美综合| 亚洲网视屏| 九九视频在线观看| 九月停停| 天天久久66xxx| 九九成人精品免费视频| 99re思思热久久| 婷婷国产成人| 三人荫蒂添的好舒服A片| 久久R激情| 五月婷婷国产| 另类小说婷婷色| 男人的天堂五月丁香| 五月综亚洲| 日日夜夜天天爽| 日本婷婷| 嫩草极品| 久久ww| 就爱干 在线| 日日夜夜天天爽| 99这里只有精品视频| 色偷偷色婷婷| 国产精品久久久久久久久久免费| 另类小说婷婷色| 丁香色婷婷五月天| 五月婷婷视频| 亚洲 综合中文| 天天干,噜噜色,狠狠色| 五月天综合激情网| 久久久天堂国产精品女人| WWW.五月com| 99九无网码| 色欲久久综合| 六月丁香五月天| 久99| 午夜成人天堂久久无码日韩久久| 亚洲欧美一区二区三区爱爱动图 | 婷婷伊人綜合中文字幕| 亚洲综合另类| 久久 天天| 99无码免费视频| 午夜婷婷六月天| 久热中文字幕| 国产XXXX搡XXXXX搡麻豆| 色婷婷很很丝袜| 97色热| 天堂婷婷丁香六月网| 超碰色色综合| 国产婷婷综合| 人妻久久久久久久| 99热免费18| 激情99。| 另类少妇人与禽zOZZ0性伦| 99热加勒比| 亚洲va欧美| 婷婷五月六月| 久久婷婷夜| WWW激情五月天| 天天爱天天做天天操| 五月天大香蕉AV| 日韩av干| 亚洲色无码A片一区二区麻豆| 99色色| 99er热精品视频| av国产精品| 五月天婷婷色在线视频免费观看| 五月婷婷深深爱| 欧美一黄一色一乱一伦| 综合狠狠干| 狠狠搞狠狠操| 欧美激情五月天在线观看| 激情色播| 深爱激情网五月| 九九激情综合| 大香蕉久久伊人婷婷五月丁香| 九九热婷婷| 九九视频在线观看视频在线播放69| 婷婷五日b| 九九久久综合| 这里只有精品偷拍| 亚洲精品无AMM毛片| 91大神操美女| 丁香五月综合| 色综合久久88色综合中文字幕| 97人人射| 婷婷五月深爱五月| 成人小说色图婷婷五月| 婷婷玖玖五月天| 青青草99热久久精品国| 婷婷久热| 久久996re热这里只有精品无码| 久久99网站| 九九热这里精品| 欧美电影在线播放| 色五月天婷婷| 日本本土色网第一区| 日韩婷婷| 色色COm| 五月天婷婷涩涩| 亚洲视频色婷婷| 五月婷婷色啪| 色色热| 99热这里只有精品一| 六月丁香网| 一本道综合网| 色婷婷91| 国产精产国品一二三在观看| 五月婷六月婷婷| 丁香激情五月少妇| 98国产精品综合一区二区三区| 丁香五月中文字幕久色| 色综合com| 亚洲妇女熟BBW| 天天做天天爱天天玩夜夜爽| 激情五月婷婷| 亚洲超级碰| 六月丁香婷| 丁香五月亚洲天堂| 激情伊人六| 色婷亚洲| 色综合视频在线| 五月婷婷日| 另类图片五月天婷婷| 国产探花一片区| 亚洲丁香花色| 免费播放片大片| 丁香久久AV| aaa9区免费在线观看| 色婷婷电影网| 99久久99九九99九九九| 99这里有精品视频| 欧美色色网| 成人在线日韩| 久久多色| 久色激情| 99热国产婷婷| 一区无码| 婷婷激情五月呦呦| 无码少妇高潮喷水A片免费 | 婷婷五月天a| 操九色| 男人先锋久久| 成人做爰高潮A片免费视频| 欧美啪啪9| 五月四色色| 久热欧美| 婷婷丁香久久| 深夜男女福利刺激影院一区| 97碰碰视频在线观看免费| 操日本99| 婷婷成人av| 国产精产国品一二三在观看| CHINESE熟女老女人HD视频| 色色丁香五月天| 色五月婷婷很很操| 无套内射极品大美女| 亚州日本欧州韩美高青高潮一| 婷婷操逼| 激情小说五月天社区丁香| 欧美、日韩、中文、制服、人妻| 日本少妇AA一级特黄大片| 97在线观视频免费观看| 国产免费一区二区三州老师F1……| 五月天色图| 久久99久久99精品免视看婷| 色婷婷五月在线| 五月天婷婷成人网| 九九色婷婷五月天| 久久AV无码精品人妻系列试探| 五月丁香婷中文| 丁香五月AV| 丁香五月另类小说| 激情文学五月丁香六月婷婷| 大香蕉久艹| 久热免费| 五月婷婷色| AAA久久| 九九综合色综合| 六月丁香婷婷综合在线| 超碰在线观看9| 中文av网站| 人人干人人看| 99人妻碰碰碰久久久久视| 九热在线这里有精品6| 99精品97| 婷婷六月激情| 色播婷婷大香蕉| 丁香五月婷婷亚洲另类| 亚洲av日韩无码| 台湾无码A片一区二区| 99精品高潮| 七月激情六月婷婷综合在线播放| 五月色亚洲| 婷婷成人在线| 久久久8| 久综合| 婷婷丁香五月亚洲欧美| 天天天久久久| 99热这里只有精品50| 色婷婷五月综合在线| 99精品在| 欧洲激情精品婷婷| 五月丁香影视| 国av网| 婷婷五月丁香五月| 99人妻碰碰久久久禁片| 中文字幕有多少字| 国产综合丁香五月天| 99视频日韩| 中文字幕av久久爽| 91干| 亚洲丁香网| 婷婷色情六月| 99性视频| 99久99久| 国产成人av在线| 五月丁香爱婷婷深深| 丁香五月天殴美激情| 丁香六月天之亚州热女 | 激情五月综合色婷婷| www.日日夜夜| 97干视频| 丁香婷婷五月色综合| wwww.色婷婷| 色色五月丁香婷婷综合| 丁香综合伊人| 丁香五月婷婷五月| 久久精品一区二区三区四区| 最新日韩久热免费视频看看| 99亚洲综合| 51国精产品自偷自偷综合| www.久久99| 天天色综网| 亭亭五月基地在线| 99热这里只有精品69| 五月婷亚洲精品| 色婷婷网| 婷婷va| 五月婷婷开心色伊人| 五月花综合视频| 99热这里只有精品青草| 九九色之九九色之88| 天天肏屄夜夜爽| 国产成人99久久亚洲综合精品| www色婷婷| 日本在线观看99| 狠狠色丁香婷婷| 国产99精品免费视频| 六月丁香六月婷婷欧美| 99riav 亚洲| 中文字幕av在线播放| 午夜婷婷五月天在线| www.91久久| 九月丁香欧美综合| 亚洲性爱区无码区| 96精品成人无码A片观看金桔| 久久98热re| 日操| 少妇被下春药玩弄A片| 色色色区| 天天色天天日天天舔| 无码人妻丰满熟妇奶水区码| 欧美99| AV成人在线播放| 91色呦哟| 五月天色导航| 成人婷99最新| 婷婷综合五月| 玖玖在线视| 五月天亚洲色| 色站9/| 99re思思热这里| 99热这里只有精品2| 4399伦理午夜| 欧美丁香五月97色| 99熟女视频| 99精品综合| ai97re99一本| 99av视频| 在线观看免费狠狠色丁香香综合| 26uuu欧美| 色婷婷文字幕| 99狠狠操一| txt五月激情四射网综合俺也来了| WWW.夜夜| www色婷婷com| 婷婷五月色激情欧美激情| Caoporn公开| 色5月婷婷| 狠狠婷婷色| 激情二色月| 超pen个人视频97| 丁香色六月婷婷| 九九激情| 2w在线视频| 91碰碰视频在线观看| 丁香激情六月天婷婷| 色狠狠色噜噜AV天堂五区| 丁香午月AV中文字幕| 99色色网| 激情的五月| 久久久亚洲精品一区二区三区浴池| 婷婷五月激情六月丁香| 久久九九激情五月天| 九九九午夜影院成人| 国产毛片欧美毛片久久久| 99热精这里只有精品| 超碰人妻公开在线| 狠狠摸狠狠摸| 久久婷婷影院| 亚洲无码免费看| 五月丁香婷婷AV| 亚州操操| 国产日韩精品SUV| 婷婷五月天美女视频| 婷婷五月天大香蕉| 超碰在线看| 丁香婷婷六月天| 大香蕉婷婷婷| 色综合99| 国产XXXX搡XXXXX搡麻豆| 天天日日天天| 99re66热这里只有精品| 五月天成人小说| 久久网婷婷| 丁香99| 欧美色五月| 狼人婷婷综合| 欧美日韩国产伦精品日韩人妻一| 美国色五月天婷婷资源站| 国产69久久久欧美黑人A片| 亚洲综合99| 生活片五区| 激情丁香久久| 亚洲婷婷五月天| 国产综合丁香五月天| 五月激情久久| 吾爱AV导航| 激情亚洲网| 另类婷婷五月天啪帕帕| 色色色色网色色网色色| 亚洲自拍天堂| 热九九精品| 96丁香六月婷婷蜜桃综合久久| 超碰网站在线观看| www99精品| 天天色宗合| 色色丁香婷婷| 九月婷婷| WWW.国产| 久久在线人妻| 五月丁香A∨在线| 久久五月天婷婷| 亚洲成Av人片乱码色第1集| 久久丁香久久| 色五月综合在线| 五月天激情四射| 色婷婷丁香五月| 狠狠操狠狠操AV| 玩熟女五十AV一二三区| av人人操| 日本一级特黄大片AAAAA级| 超碰色色综合| 夜夜躁狠狠 | www.色婷婷| 天天狠狠婷婷在线| 日韩AV免费电影在线播放| 天天干天天 亚洲| 热99色| 天天日天天插| 秋霞免费三级片| 第九色区av天堂| 99热视精品| 人妻激情网| 99操碰| 人人草成人视频| 少妇AB又爽又紧无码网站| 岛国av电影网站| 九九精品系列| 亚洲精品色| 人人干AV| 天堂久久婷婷| 五月婷婷五月天| 五月丁香综合啪啪啪啪啪| 久久XX日本综合| 99热在线看| 99色综合| 丁香深五月婷婷| 亚洲成人av在线播放| 色九月| 日本无码专区| 99久在线视频| 色噜综| 26.uuu丁香五月婷婷| 深爱激情五月天| 日本五月视频| 色色色激情| 久久久天堂国产精品女人| 色中色综合| 九九综合视频在线观看| 奇米影视在线视频| 色色五月天婷婷| 亚洲色优| 婷婷丁香亚洲五月天| 成人网在线视频| 五月天另类视频| 99热在线精品观看| 99热综合网| 久久久国产精品黄毛片| 99视频自拍| 婷婷欧美激情| 精品无码人妻一区| 99er6免费视频热播| 99热黄| 99在线资源| 天天爽夜夜爽夜爽精品| 99热情这里只有精品在线播放| 婷婷五月丁香综合瑟瑟| 狠狠狠狠狠| 婷婷丁香六月| 激情综合网五月天| 狠狠五月激情婷婷直播片| 99热日韩| 二级黄色毛片| 欧美日本97| 欧美成人精品A片免费一区99| 超碰99热精品| 久久一热| 看久久性爱视频| 国内婷婷丁香社区在线播放| 99九色视频在线观看| 久草婷妨| 啪啪啪丁香五月| 日韩无码成人电影| 99热这里精品| 99ri在线观看视频| 天天色五月婷婷91久久久久久久| 久久98| 噜噜操操| 五月婷婷啪啪综合网| 开心激情站婷婷五月天| 另类国产综合| www,五月丁,com| 在线视频色五月| 丁香六月婷婷综合激情欧美| 久久婷婷网| 五月丁香婷婷成人版| av在线不卡播放| 九九色网专区| 欧美熟女视频 色婷婷| 国产成人精品一区二区三区视频| 丁香五月婷婷啪啪| 亚洲午夜av| 日韩九九| 色婷婷在线视频| 亚洲成人免费在线| www.婷婷| 桃色成人网| 欧美成人猛片AAAAAAA| 中文字幕 码精品视频网站| www.五月婷婷| 午夜免费试看| 婷婷亚洲色| 色香蕉影院| 99操逼| 91丨九色丨国产打屁股| 中字幕视频在线永久在线观看免费 | 亭亭玉月丁香| 国产资源在线视频| 丁香五月色五月| 色综合婷婷| 91avse| 丝袜人妻| www久久五月com| 天天操天天操综合| 亚洲久热无码| 久久久精品人妻| 激情五月色婷婷| 亚洲九九夜夜| 丝袜大香蕉| 日本猛少妇色XXXXX猛叫| 99在线免费视频| 激情婷婷丁香| 久久机热探花| 综激情网| 国内婷婷丁香社区在线播放| 91AV视频| 99热99久久| 丁香五月天AV在线| www.伊人天堂偷偷婷婷| www.99情趣网| 99久久婷| 国产午夜精品AV一区二区麻豆 | 99色视频在线| 久操婷婷| 免费看欧美成人A片无码| 9色小视频在线观看| 猫咪伊人久久| 色五月无码| site:feetmall.com| 国产激情综合五月久久| 丁香五月av| 久久久天堂国产精品女人| 日日操无码| 超碰9| 亚洲五月丁| 桃色激情网| 婷婷精品视频| 五月综合激情啪啪啪啪啪| 91无码高清| 婷婷久久午夜网| 中文字幕性爱丰满| 中文字幕永久免费| 丁J香六月首页| av在线观看免费| 狠狠干在线视频| 五月婷婷丁香五月婷婷丁香| 无码激情AAAAA片-区区| 五月婷婷,狠狠操| 【乱子伦】黄色| 夜夜躁爽日| 五月婷久久| 五月天激情黄色网址| 99综合| 99久在线精品99re8热| 思思久久99| 热婷婷在线视频| 精品久久二6| 停婷丁五月在线| 99热综合| 大香蕉网站,大香蕉综合| 五月花婷婷最新| 亚洲操b| 六月婷婷操逼| 五月熟妇婷婷久久| 五月天激情图片| 中文字幕日产A片在线看| 69色婷婷| 婷婷丁香五月综合| 人妻中文在线| www色五月| 亚洲精品国产A久久久久久| 婷婷操超碰| 深爱婷婷丁香五月激情| 99热精品在线观看| 大香蕉五月婷婷| 婷婷五月俺要去| 久草五月天| 午夜日韩久久久网站| 涩涩五| a久久| 天堂久久精品| 天天婷婷综合亚洲亚洲| 五月婷婷色在线| site:jszngf.com| 91超碰在线观看| 激情久久婷婷| 久久A区B区| 丁香花社区av| 婷婷五月天视频小说| 色五月天在线观看| 九九热这里只有精品7| 99久久这里只有精品| 热99色| 五月丁香六月婷婷色| 午夜色婷婷| 99热伊人| 九九操操| 99在线精品观看99| 五月丁香婷中文| 伊人久热91| 丁香五月激情六月| 最近中文字幕2019视频1| 99精品久久| 成人版视频在线观看| 激情九月丁香婷婷| 色婷婷亚洲在线| 丁香五月花| 国产Va视频| 99这里只有精品| 99亚色色色| 五月丁香婷婷色| yw国产AV| 五月丁香六月婷婷的女人| 日本不卡高字幕在线2019| 天天舔天天摸天天射| 国产激情视频在线观看| 亚洲综合激情五月天婷婷| 91精品久久久久久77777| 欧美日韩国产一二区| 狠狠五月天婷婷激情网。| 草草夜夜操| 天天操夜夜玩!| 婷婷综合九色伊人| 天天激情| 在线资源av-超碰中文在线-成人AV| 丁香婷婷基地| 婷婷九月狠狠色| 开心五月天激情| 婷婷色色色| 97好吊操| 伊人久久中文网| www.日本91| 色综合综合色| 色噜噜狠狠色综无码久久合欧美| 婷婷激情五月天在线视频| 日本欧美成人片AAAA| 人人操Av| 在线不卡的视频| 97干视频在线| 色五月在线观看| 亚洲色婷婷色| 六月婷婷综合网2| 丁香月六月| 日本三级黄色大片| 中文成人在线| 99这里只有精| 久久精彩综合视频| 久久五月综合| 丁香五月人妻熟女| 99九九视频精彩在线| 免费黄色片子| 天天插插天天| 丁香五月婷婷超碰在线| 极品少妇XXXX精品少妇偷拍| 天天色,天天日,天天做| 色色色婷婷五月天| 99精在线| 99小视频网站| 丁香花色色网| 伊人久久婷婷五月综合97色| 99热最新精品| 天天综合在线网| 五月天婷婷在线视频| 久久久久久丁香五月| 婷婷激情综合色五月久久图片| 久久综合九九| 激情综合网五月天天| 久热re在线视频| 五月激情影院| 五月婷婷基地| av 一区三区四区| 9999热免费视频视频| 色情综合| 婷婷狠狠干| 五月花综合网| 91人人操人人看| 少妇性按摩无码中文A片| 婷婷伊人网| 久久黄色免费视频| 色亭亭九月| 99精品热| 久久人妻精品| 99热都是精品| 午夜激情久久| 日本精品人妻无码77777| 色爱99| 天天爽天天干天天| 人人爽在线视频综合网| 精品99在线观看| 国产小精品| 成人综合AV| 丁香婷婷六月在线资源观看| 五月天激情网图片 - 百度| www.久久久久久| 99热这里是精品| 一月婷婷色色| 日日天天操| 色色五月天丁香婷婷| 五月天丁香婷婷久久九| 婷婷色五月天在线| 色五月大| 亚洲成人五月天| 五月丁香婷婷激情久久| 国产成人AV在线| 最新久久99视频网站| 亚洲日本韩国| 久久综合五月天| 伊人婷婷大香蕉| 婷婷五月av| 99视频精品全部免费观看| 五月丁香婷婷爱激情综合网| 乱码操操| 狠狠色97| 日韩国产在线免费观看| 20253AV| 人与禽A片啪啪| 婷色五月| 亚洲综合草草| 激情无码网| 五月丁香六月婷婷手机无线| 激情五月婷婷欧美极品 | 久久只有18视频| 丁香婷婷久久老熟女综合网| 99色啊| 久热只有这里有精品| 亚洲婷婷在线播放十月| 九九色人| 大香蕉五月天婷婷| 婷婷五月开心六月AV| 久久婷婷老| 九九色精品| 国产va在线视频| 五月婷五月婷伊人伊人五月婷| 蜜乳AV成人| 婷婷桃色网| 五月婷婷六月色| 久热这里只有精品6| 91久热| 午夜五月天| 五月丁香六月婷婷中文版| 99丁香五月婷| 天天肏屄夜夜爽| 婷婷五月丁香高清无码| 成人婷婷五月天| 丁香五月天天日| 好好日激情五月天| 狠狠操天天日| 五月丁香基地| 噜噜吧天天爱| 国产免费一区二区三区三州老师F1F1.CC | 丁香五月天堂婷婷| 开心婷婷五月综合| 99五月婷| 亚洲综合婷婷五月| 久久久久婷婷| 噜综合| 综合激情网| 激情五月com| 色播播五月| 五月婷婷丁香大陆免费| 天天天天天日| 精品人妻伦一二三区久久| 无人区码一码二码三码医生系列| 五月综合色| 婷婷五月综合色小姐小说| 丁香久久| 99精品热视频| 五月开心网| 精品一二三区久久AAA片| 亚洲精品一区无码A片| 99cao婷婷| 超碰伊人碰婷婷五月| 亚洲综合激情五月久久| 狠狠干2007| 天天操狠狠操| 丁香五月激情啪| 97综合在线| 伊人久久丁香五月91| 久9久成人精品视频| 97色碰| 成人AV在线电影| 五月色欧洲| 四月丁香五月婷婷久久| 精品激情| 97在线观看| 色综合婷婷99| 六月丁香婷婷五月天| 26UUU欧美激情一区二区| 日韩视频99| 久99热| 九一牛视频探花| 91干| 五月丁香六月综合激情网| 五月天婷婷久久| www.色99| 亚州男人天堂婷婷五月| 插逼综合网| 激情综合网亚洲色图| 五月天婷婷成人网| 性爱视频久久| 天天综合91入口| 天天天操天天天爰| 热99只有精品| 色欲一区二区三区精品A片| 色播jjjj| 91九色网| 丁香五月婷婷色情综合| 五月婷婷丁香| 91久久久久久久91| 欧美综合婷婷网| 少妇人妻人伦A片| 亚洲精品又粗又大又爽A片| 色婷婷AⅤ| 99热国产国产| 在线视频另类| 五月天丁香啪啪网| 大香蕉久久婷婷精品综合| 丁香色成人| 欧美天天干天天草| 99色性爰网络| 成人片在线免费看| 国产欧美日韩性爱| 亚洲国产99| 五月天网址在线刘玥| 91男同| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 日日日日做夜夜夜夜无码 | 激情综合色| 香港九九六区八区99| 天天色综和网| 99精品综合| 激情五月婷婷| www.99热| 婷婷丁香五另类网站| 91熟妇大香蕉| α久久| 日韩啪啪视频| 91视频免费后入强操| 人妻自慰高清合集| 丰满少妇乱A片无码| 91狠狠色丁香| 天天干夜夜想| 天天色2017| 成人久久天天x资源站| 亚州色婷婷| 丁香五月最新网址| 久久精品性爱| 五月丁香亚州综合网| 五月婷婷亚洲综合网| 26uuu在线观看| 啪啪激情综合| 色播婷婷五月天| 欧美人人女女精品综合五月天| 激情五月婷婷五月| 色色97丁香婷婷五月天| 欧美丁香五月天| 亚洲亚洲人成综合网络 | 夫妻超碰在线| 五月婷婷AV| 亚洲欧美成人在线观看| 少妇婷婷五月天| 婷婷五月综合激情| 五月婷婷六月丁香免费| 99热首页| 成人看片网站| 91碰碰碰| 99re66热这里只有精品| 亚州色色色| 丁香五月激情宗合| 色婷婷六月天| 狠狠色情婷婷| 激情色色色| 婷婷色婷婷亚洲成人| 五月丁香综合| 97色色色视屏| 日本WwW色偷偷丁香花久久久京东热| 色婷五月天亚洲| 中文字幕免费高清电视剧| 人妻操逼| 99原创自拍视频在线观看| 天天谢天天操| 狠狠久久婷| 婷婷五月骚厕所| 丁香六月婷婷激情| 思思热精品在线视频| 激情婷婷综合网| 中文字幕激情综合| 日韩人人操| 日韩啊啊啊| 9久国产| 97干在线| 欧美色骚婷婷五月天| 久久久8| 五月天婷婷色播综合在线| 天天做天天爱天天高潮| 国产综合激情五月久久| www.91五月| 国精产品久久| 婷婷99丁香| 97人人操人人| 色婷婷激情小说网| 99A片| 五月激情婷婷国产精品久久久久久| 嫩草视频观看| 亭亭五月丁香综合欧美| 任你草| 开心五月婷婷在线| 啪啪六月婷婷| 五月婷婷中文字幕| 秋霞电影理论| 99ri国产精品| 久久99精品久久只有精品| 在线播放成人网站| 9999久久久久| 99热的无码| www91久久| 五月婷婷色色| 久久九九在线视频| 日韩AV在线免费观看| 天天爽天天| 五月激情婷婷女| 色999亚洲人成色| 精品二区| 久久与婷婷| 色婷丨日丨天丨综合久久| 五月激情婷婷四射| 亚洲激情网| 国产精品五月天婷婷| 熟女网站久久| 午夜无码熟熟妇丰满人妻| 五月婷婷亚洲| 777.色色| 丁香香蕉婷婷| 香蕉AV777XXX色综合一区| 六月综合在线| 久久视这里只有精品| 免费色婷婷| 99免费在线| 五月丁香五月综合欧美| 天天艹天天综合网| 9 大屁股在线视频精品| 精品人妻伦一二三区久久| 日本激情综合| 激情婷婷| 亚洲成人影视在线| AV在线中文| 激情综合亚洲色婷婷五月| 台湾无码A片一区二区| 国产精产国品一二三在观看| 婷婷永久在线| www激情五月天| 亚洲色色爱| 久草丁香婷婷五月天婷| 国内外色色色色色成人视频| 五月天婷婷综合免费| yazhou seshipin| 99久久99视频| 亚洲深喉AV| 噜噜噜狠狠色综合| 99热这里只有精品一区| 女人露出p毛视频www网站| 青青999| JAPANRCEP老熟妇乱子伦视频| 六月丁香激情| 亚洲丁香五月深爱五月| 男人天堂99| 九九热123| 色五月激情五月| 久久99网| 五月婷婷影| 五月婷婷co.m| 干亚洲天堂| 操逼毛片国语对白| 色欲婷婷五月天丁香| 色图亚洲91| 丁香五月色| 色人久久| 婷婷在线午夜| 天天做天天爱天天日| 亚洲第一成人无码A片| 伊人久热91| 黄色AAAA韩国guochansanji| 97在线观看| 国产免费一区二区在线A片视频| 操操人人| 色婷婷激情| 五月天婷婷在线观看| 婷婷五月天熟妇| 99热 在线观看| 色综合色综合网| 成人在线不卡| 91porn一起草| 欧美天堂久久| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 色亚洲视频| 六月婷婷天天操夜夜爽视频| 999精品久久久久久久| 色九九综合色| 亚洲国产精品VA在线看黑人| 丁香六月啪| 久青操| 久久九九视频| www天天干| 婷婷丁香五月天综合AV| 婷婷丁香久久| 五月天丁香网| 26uuu欧美日韩| 色五月婷婷婷婷婷婷婷婷婷婷| 色婷操逼| 天天做天天要天天爱| www.zbzhongsen.com| 激情色色| 天天做天天要天天爱| 激情五月伊人婷婷| 久久激情综合| 激情综合色五月丁香六月亚洲| 综合久久五月| 操操操AV| 开心五月网 | 伊人玖玖精品| 综激情网| 六月婷婷激情| 六月婷婷开心| 99久久66综合| 日本性视频| 操人视频91| 色v综合网| 日韩成人AV在线| 婷婷爱在线观看| 爱爱色五月天| 婷婷五月天人妻| 国产成人99久久亚洲综合精品| 天天五月天综合网址| 精品久久9| 婷婷中文字幕| 久久精品A片777777| 日韩久久系列| 先锋资源91| 久久婷婷五月| 天天插天天干天天舔| 色五月丁香伊人| 五月丁香婷婷导航视频| A片一曲| 欧美三级欧美一级| 五月亭亭开心网| 日韩二区搞逼插逼毛片| 成人片在线免费看| 99精品视频在线观看免费| 婷婷成人综合免费视频| 日撸夜撸日操| 五月婷婷六月色| 色狠狠色| 99碰碰。| 欧亚洲在线高清视频| 亚洲日韩26uuu| 79精品视频在线观看,| 51XX午夜影福利| 亚洲欧洲中文日韩久久AV乱码| 亚洲欧美日韩另类| 伊人网欧美在线男人天堂五月丁香| 色婷婷五月基地在线| 无码网站视频| 91在线日| 丁香婷婷AV| 97热在线精品| 99亚洲大片精品永久在线观看| 欧美丁香六月激情视频| 五月激情六月丁香| 美女网黄| 婷婷福利影院| 婷婷久久婷婷| 人人干人人干骚美女| 色欲一区二区三区精品A片| 级情九色| 丁香五月婷婷www..com| 99精品在线观看| 国产,欧美,日韩,性爱| 六月婷婷激情图片| 97碰 在线视频观看| 亚洲成人在线播放| 婷婷午夜天| 大香蕉五月天婷婷| 国内在线99视频| 深爱 五月天| 欧美日本黄色| 亚洲五月六月婷婷| 99这里有精品视频3| 色色色.com| 色婷婷大香蕉| 久草婷| 婷婷 久综合| 日日噜噜夜夜狠狠久久丁香五月| 五月天激情四射| 婷婷五月丁香啪啪| 五月婷婷丁香色吧网| 色综合久久久久| 七七色色综合| 五月丁香六月婷婷综合伊人| 激情综合在线观看| 99热日本精品| 婷婷中文无码| 99av视频| 久久99最新地址| 天天做天天爱高潮片| 99精品视频免费观看| 日韩丰满少妇无码内射| 九月丁香婷婷| 五月天伊人| 91色欲综合| 婷婷五月色影视先锋| 人妻人人操| 色九九中文字幕| 婷婷色色综合激情| 91碰| 欧美啪啪五月天| 五月综合亚洲婷婷| 五月天婷婷成人网| 欧美熟女99| 月婷婷婷婷五月| 色婷婷狠狠禁18久久| www.激情在线| 97热这里只有精品| 99视频在线播放大全| 久热这里只有精品视频免费观看| 人人操日| 婷婷久久亚洲| 欧美激情综合色综合啪啪五月| 亚洲九九99精品视频在线播放| 只有精品在线观看| 99热国产这里只有精品| 亚洲成人无码专区| 色综合爽| 五月天激情小说| 亚洲中文av| 干一干xxxx| 9 99免费视频| AV人人操| 婷婷狠狠干| 五月丁香在线国产 | 日本色色色| 日本女天天爽| 思思热在线播放| 影音先锋一区| 九九大香视频| 九热...av| 夜夜操,天天撸| 99九九免费精品| 天天综合色| 日韩淑女人妻luan伦激情精品一区二 | 九一娱乐在线观看视频| 激情五月天无码| 亚洲乱码日产精品BD| 天天天添天天操| 日本精品人妻无码77777| 99 频99热国里只有精品| 丁香激情五月天| 99久久国产成人精品| 97精品人人A片免费看| 一本久久亚洲五月婷婷| 99色爱| 色婷婷五月天综合网| 影音先锋五月婷婷| 婷婷激情六月综合| 五月综合激情啪啪啪啪啪| 色婷婷视频| 超碰v| 激情婷婷啪啪| 久人人操| 99精品国产在热久久婷婷| 五月丁香久久呀| 9热视频在线观看| 最熟少妇乱码| 这里只有精品99www| 九九精品9| 99视频激情四射| 97香蕉久久超级碰碰高清版| 99热免费在线| 色综合久| 亚洲愉拍99热成人精品| 成人性爱精品视频| 月丁香久久久| 大香蕉婷婷丁香视频在线| 热婷婷在线视频| 免费观看亚洲AV片| 桃色激情婷婷伊人网| 亚洲AV在线免费看| 五月色天情| 亚洲mm免费| 久99久精品| 五月丁香拍拍激情综合| 九九99精品免费播放| 思思热在线观看| 久久婷丁香五月| 人妻人人操| 思思热再线视频| 色五月综合97| 女人天堂AV| 五月天婷婷青青草| 五月天婷婷狠狠| 超碰久热| 五月婷婷久| 色综合大香蕉| 国产偷人爽久久久久久老妇APP| 日日日天天干| 热九九精品| 99这里有精品视频| 狠狠高潮精品亚洲1| 天天色天天爽| 在线亚洲综合网| 激情小说五月天| 十月色综合|