99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

虛幻引擎像素流送Linux部署全指南:從信令到容器化落地

虛幻引擎像素流送Linux部署全指南:從信令到容器化落地 去年我接手了一個(gè)云端交互展示項(xiàng)目需要在網(wǎng)頁(yè)里直接看到虛幻引擎渲染的實(shí)時(shí)場(chǎng)景——用戶不裝客戶端、不裝UE、不下載任何素材打開(kāi)瀏覽器就能操作。技術(shù)選型幾乎沒(méi)什么懸念UE自帶Pixel Streaming像素流送。但真正讓我頭疼的是部署環(huán)境項(xiàng)目要求放到Linux服務(wù)器上而網(wǎng)上能找到的教程和案例十有八九都是在Windows上跑通的。我前后折騰了將近兩周經(jīng)歷了信令連不上、無(wú)頭渲染黑屏、NVENC編碼器不工作、瀏覽器鼠標(biāo)鍵盤(pán)全部失靈等一系列問(wèn)題。這篇文章就圍繞“虛幻引擎Linux像素流送部署”這件事把完整的部署鏈路、踩坑清單、性能調(diào)優(yōu)和容器化思路都整理出來(lái)。無(wú)論你是要給客戶做云端展廳還是想把自己做的策略游戲搬到瀏覽器里遠(yuǎn)程試玩這套流程都能直接拿來(lái)用。1. 為什么要把像素流送挪到Linux上跑收益與代價(jià)的賬要算清很多團(tuán)隊(duì)第一反應(yīng)是“在Windows服務(wù)器上跑不就完了嗎”畢竟官方文檔、示例工程、同行經(jīng)驗(yàn)絕大多數(shù)都是Windows向的。這個(gè)想法沒(méi)毛病但一旦你開(kāi)始考慮生產(chǎn)環(huán)境Linux幾乎是被逼著選的。1.1 云服務(wù)器選型帶來(lái)的真金白銀差距像素流送的本質(zhì)是UE進(jìn)程在服務(wù)器上實(shí)時(shí)渲染然后把畫(huà)面編碼推給瀏覽器。它非常吃GPU但不吃Windows專(zhuān)有的東西。國(guó)內(nèi)主流云廠商的GPU實(shí)例Windows license普遍要額外收費(fèi)同樣的卡型配置Linux實(shí)例便宜不少。而且很多高性能實(shí)例的默認(rèn)鏡像就是Ubuntu或CentOS系你選Windows反而要多等半小時(shí)初始化。更關(guān)鍵的是擴(kuò)展方式。像素流送要支撐大量并發(fā)用戶常見(jiàn)做法是開(kāi)多個(gè)UE實(shí)例每個(gè)實(shí)例負(fù)責(zé)一路或幾路串流。Linux下一條命令就能拉起幾十個(gè)進(jìn)程配合systemd或者容器編排工具做自動(dòng)擴(kuò)縮容非常順手。在Windows上做同樣的事你要面對(duì)遠(yuǎn)程桌面沖突、服務(wù)啟動(dòng)依賴(lài)、輸入會(huì)話占用這些亂七八糟的問(wèn)題運(yùn)維成本高一個(gè)量級(jí)。1.2 代價(jià)清單編譯耗時(shí)長(zhǎng)、調(diào)試手段少但Linux部署絕對(duì)不是零成本。我踩過(guò)的坑大致可以列成這張清單問(wèn)題類(lèi)型具體表現(xiàn)影響程度Linux打包需要額外安裝交叉編譯工具鏈打包耗時(shí)比Windows長(zhǎng)中無(wú)頭渲染服務(wù)器沒(méi)有顯示器UE默認(rèn)創(chuàng)建窗口會(huì)失敗必須開(kāi)離屏渲染高顯卡驅(qū)動(dòng)編碼器依賴(lài)NVIDIA驅(qū)動(dòng)和CUDA裝錯(cuò)版本就沒(méi)法硬編高信令服務(wù)器自簽證書(shū)、Node版本都會(huì)導(dǎo)致連接失敗中輸入控制瀏覽器Pointer Lock在iframe場(chǎng)景下經(jīng)常失效低音頻回傳無(wú)桌面環(huán)境下沒(méi)有音頻設(shè)備串流聲音直接缺失低你如果只是本地開(kāi)發(fā)機(jī)上臨時(shí)驗(yàn)證一下這些都不是事。但一旦上了生產(chǎn)每一行都能卡住你半天。1.3 哪些項(xiàng)目適合Linux部署哪些反而留在Windows從我實(shí)際接觸的項(xiàng)目來(lái)看適合Linux部署的有這么幾類(lèi)云端展廳/云渲染用戶量大、需要并發(fā)擴(kuò)容的給外部客戶提供試用Demo希望對(duì)方不下載任何文件、打開(kāi)即玩的需要和現(xiàn)有CI/CD體系做集成的因?yàn)長(zhǎng)inux環(huán)境天然適合自動(dòng)化流水線多實(shí)例管理、需要監(jiān)控和自動(dòng)重啟的長(zhǎng)駐服務(wù)。反過(guò)來(lái)如果你的項(xiàng)目還處于“給老板演示一下效果”的階段或者只有一臺(tái)Windows工作站那就不用折騰Linux了先在Windows上把功能跑通再說(shuō)。Linux部署解決的是“穩(wěn)定承載流量”的問(wèn)題不是“實(shí)現(xiàn)功能”的問(wèn)題。2. Linux環(huán)境準(zhǔn)備與UE工程編譯一次配好少走三輪彎路很多人拿到UE工程后第一件事就是拷到Linux服務(wù)器上直接編譯結(jié)果各種報(bào)錯(cuò)。這一章把環(huán)境和編譯的事說(shuō)透。2.1 基礎(chǔ)依賴(lài)少裝一個(gè)庫(kù)編譯期現(xiàn)形在Ubuntu 20.04上我用的依賴(lài)安裝命令如下sudo apt-get update sudo apt-get install build-essential \ libx11-dev libxrandr-dev libxinerama-dev \ libxcursor-dev libxi-dev libgl1-mesa-dev \ libfontconfig1-dev libssl-dev libasound2-dev這些都是UE在Linux上編譯和運(yùn)行需要的基礎(chǔ)庫(kù)。最容易漏掉的是libx11-dev這一組X11開(kāi)發(fā)頭文件如果沒(méi)裝編譯到一半會(huì)報(bào)X11/Xlib.h: No such file or directory。這個(gè)報(bào)錯(cuò)很容易被誤判成代碼問(wèn)題實(shí)際上就是缺庫(kù)。另外UE自帶的構(gòu)建腳本對(duì)LLVM/Clang有版本要求如果你是從UE源碼編譯引擎建議直接用引擎要求的LLVM版本不要圖省事裝系統(tǒng)的clang否則鏈接階段會(huì)出一堆莫名其妙的符號(hào)錯(cuò)誤。如果只是部署現(xiàn)成工程而不是編譯引擎那主要保證系統(tǒng)庫(kù)齊全就行。2.2 Windows上打好Linux包再傳服務(wù)器實(shí)際部署時(shí)我推薦的工作流是在Windows開(kāi)發(fā)機(jī)上用UE編輯器直接打包Linux版本然后把整個(gè)Linux文件夾傳到服務(wù)器上。這樣Linux服務(wù)器上不需要裝UE編輯器也不需要安裝Epic相關(guān)工具鏈?zhǔn)〉粢淮蟀氕h(huán)境問(wèn)題。具體操作很簡(jiǎn)單在Windows上用UE編輯器打開(kāi)項(xiàng)目選擇File - Package Project - Linux目標(biāo)平臺(tái)如果沒(méi)有Linux選項(xiàng)先到Edit - Project Settings - Platforms里勾選Linux并重啟編輯器打包完成后把輸出目錄里的項(xiàng)目名可執(zhí)行文件以及Engine相關(guān)目錄一起傳到Linux服務(wù)器。這里有個(gè)容易忽略的點(diǎn)打包產(chǎn)物不是單文件里面包含了一整個(gè)Engine運(yùn)行時(shí)一堆.so共享庫(kù)和資源傳輸?shù)臅r(shí)候要整個(gè)目錄一起傳別只傳那個(gè)可執(zhí)行文件。我見(jiàn)過(guò)有同事只拷了可執(zhí)行文件跑起來(lái)直接報(bào)缺庫(kù)。2.3 編譯期常見(jiàn)的坑路徑、權(quán)限和鏈接錯(cuò)誤Linux打包過(guò)程中最常見(jiàn)的報(bào)錯(cuò)有這么幾類(lèi)路徑含中文或空格UE在Linux交叉編譯時(shí)對(duì)路徑比較敏感工程路徑和輸出路徑都盡量全英文。沒(méi)有執(zhí)行權(quán)限傳到服務(wù)器后記得chmod x給可執(zhí)行文件加權(quán)限否則Permission denied會(huì)讓人誤以為依賴(lài)問(wèn)題。glibc版本不匹配如果你在Ubuntu 22.04上跑UE 5.4的包大概率沒(méi)問(wèn)題但如果你的跑系統(tǒng)是CentOS 7glibc 2.17基本跑不動(dòng)新版UE。生產(chǎn)環(huán)境建議直接用Ubuntu 20.04或22.04省心。還有個(gè)小技巧加參數(shù)-log啟動(dòng)UE日志會(huì)直接打到標(biāo)準(zhǔn)輸出方便你排查啟動(dòng)階段的問(wèn)題。后面章節(jié)會(huì)反復(fù)用到這個(gè)參數(shù)。3. 信令、連接與會(huì)話像素流送握手的完整鏈路在Linux上部署像素流送一半以上的時(shí)間會(huì)耗在“信令連不上”這件事上。要理解為什么連不上得先理解像素流送的握手過(guò)程。3.1 信令服務(wù)器默認(rèn)在做什么UE像素流送的架構(gòu)分三層UE渲染進(jìn)程、信令服務(wù)器、瀏覽器前端頁(yè)面。UE進(jìn)程負(fù)責(zé)渲染和編碼是一臺(tái)“推流機(jī)器”信令服務(wù)器SignallingWebServer負(fù)責(zé)協(xié)調(diào)UE和瀏覽器之間的連接瀏覽器前端用戶看到的交互頁(yè)面。UE工程打包后像素流送插件目錄下會(huì)帶一個(gè)SignallingWebServer它是基于Node.js寫(xiě)的。它的核心職責(zé)是當(dāng)用戶在瀏覽器里點(diǎn)擊“開(kāi)始”時(shí)把這個(gè)請(qǐng)求轉(zhuǎn)發(fā)給UE進(jìn)程然后在兩者之間傳遞WebRTC建立連接所需的SDP和ICE信息。這個(gè)服務(wù)器有兩種流量一種是HTTP負(fù)責(zé)把前端頁(yè)面HTML/JS發(fā)給瀏覽器另一種是WebSocket負(fù)責(zé)轉(zhuǎn)發(fā)信令。所以默認(rèn)情況下你會(huì)看到兩個(gè)端口HTTP端口通常是80新版也有用其他端口的情況和WebSocket端口默認(rèn)8888。瀏覽器先通過(guò)HTTP加載頁(yè)面再通過(guò)WebSocket建立信令通道。3.2 握手過(guò)程信令、SDP、ICE、WebRTC完整的連接流程是這樣的瀏覽器通過(guò)HTTP向信令服務(wù)器請(qǐng)求頁(yè)面頁(yè)面加載完成后前端JS和信令服務(wù)器建立WebSocket連接用戶點(diǎn)擊Play按鈕前端通過(guò)WebSocket發(fā)送一個(gè)“我要開(kāi)始連接”的消息信令服務(wù)器把這個(gè)消息轉(zhuǎn)發(fā)給UE進(jìn)程UE進(jìn)程收到請(qǐng)求后創(chuàng)建WebRTC PeerConnection生成SDP Offer再把Offer通過(guò)信令服務(wù)器回傳給瀏覽器瀏覽器收到Offer后生成SDP Answer回傳雙方開(kāi)始通過(guò)ICE進(jìn)行網(wǎng)絡(luò)路徑協(xié)商找到一條可用的P2P通道協(xié)商成功后音視頻數(shù)據(jù)直接通過(guò)WebRTC的SRTP通道傳輸信令服務(wù)器只負(fù)責(zé)后續(xù)的控制消息比如鼠標(biāo)鍵盤(pán)輸入。理解這個(gè)流程對(duì)排查問(wèn)題特別重要。比如“點(diǎn)擊Play后頁(yè)面一直轉(zhuǎn)圈”問(wèn)題可能出在WebSocket沒(méi)建立成功也可能出在UE進(jìn)程的SDP沒(méi)有回傳如果頁(yè)面提示“ICE failed”那就是網(wǎng)絡(luò)路徑協(xié)商沒(méi)完成需要檢查UDP端口和STUN配置。后面會(huì)逐一展開(kāi)。3.3 最容易被忽略的自簽證書(shū)與“拒絕不安全連接”這個(gè)坑幾乎每個(gè)新手都會(huì)踩。像素流送自帶的信令服務(wù)器默認(rèn)使用HTTPS配套的證書(shū)是自簽的。你用Chrome打開(kāi)頁(yè)面時(shí)地址欄會(huì)提示“不安全”如果你不點(diǎn)“高級(jí) - 繼續(xù)前往”頁(yè)面就不會(huì)正常加載WebSocket也會(huì)被瀏覽器安全策略攔截。在本地測(cè)試時(shí)很多人直接點(diǎn)了“繼續(xù)前往”沒(méi)當(dāng)回事。但是到了生產(chǎn)環(huán)境如果頁(yè)面被嵌入到iframe里或者需要通過(guò)域名訪問(wèn)自簽證書(shū)引起的麻煩會(huì)無(wú)限放大。我的建議是如果只是內(nèi)部測(cè)試忍一下繼續(xù)訪問(wèn)就行如果要公網(wǎng)使用把信令服務(wù)器的證書(shū)換成Lets Encrypt或者公司簽發(fā)的正式證書(shū)否則用戶根本進(jìn)不來(lái)。4. 啟動(dòng)參數(shù)與首批驗(yàn)證十分鐘讓瀏覽器出畫(huà)面環(huán)境和信令都搞定后最關(guān)鍵的時(shí)刻就到了啟動(dòng)UE進(jìn)程打開(kāi)瀏覽器看能不能出畫(huà)面。4.1 最小可用啟動(dòng)命令在Linux服務(wù)器上我用過(guò)的最穩(wěn)啟動(dòng)命令長(zhǎng)這樣xvfb-run -a -s -screen 0 1920x1080x24 \ ./MyProject -RenderOffScreen \ -PixelStreamingIP127.0.0.1 \ -PixelStreamingPort8888 \ -ResX1920 -ResY1080 -FullScreen拆開(kāi)解釋一下。xvfb-run是X虛擬幀緩沖工具相當(dāng)于給UE一個(gè)虛擬顯示器。我知道有人會(huì)說(shuō)-RenderOffScreen不就是離屏渲染嗎為什么還要xvfb實(shí)測(cè)結(jié)果是UE的Pixel Streaming在初始化RHI圖形接口時(shí)仍然需要一個(gè)顯示環(huán)境特別是Vulkan模式?jīng)]有X server會(huì)直接崩潰。xvfb-run就是為了解決這個(gè)問(wèn)題的。-RenderOffScreen告訴UE不創(chuàng)建窗口、直接在后臺(tái)渲染。-PixelStreamingIP和-PixelStreamingPort指定信令服務(wù)器的地址和端口。如果UE和信令服務(wù)器在同一臺(tái)機(jī)器上寫(xiě)127.0.0.1就行如果分開(kāi)部署這里要改成信令服務(wù)器的實(shí)際內(nèi)網(wǎng)IP。-ResX和-ResY是渲染分辨率不要偷懶省略。缺省情況下UE會(huì)嘗試讀取桌面分辨率而在無(wú)頭服務(wù)器上桌面分辨率根本就不存在結(jié)果就是分母為0畫(huà)面起不來(lái)。4.2 無(wú)窗口模式下的分辨率、日志和進(jìn)程管理分辨率這個(gè)坑我多說(shuō)一句。像素流送的實(shí)際輸出分辨率不一定等于-ResX/-ResY設(shè)定的值瀏覽器端還可以在URL參數(shù)里指定分辨率比如?Resolution1280x720。但服務(wù)器端默認(rèn)分辨率必須存在否則編碼器初始化都會(huì)出問(wèn)題。建議直接設(shè)成你和用戶約定的標(biāo)準(zhǔn)分辨率比如1920x1080。進(jìn)程管理方面直接用./MyProject在前臺(tái)跑SSH一斷進(jìn)程就沒(méi)了。生產(chǎn)環(huán)境建議用systemd或者screen/tmux拉起。我的習(xí)慣是寫(xiě)一個(gè)啟動(dòng)腳本里面把環(huán)境變量、xvfb參數(shù)、啟動(dòng)參數(shù)都放進(jìn)去然后用systemd管理。日志排查是重頭戲。加-log參數(shù)后UE會(huì)把日志輸出到標(biāo)準(zhǔn)輸出同時(shí)也會(huì)寫(xiě)到Saved/Logs/項(xiàng)目名.log。用下面的命令可以實(shí)時(shí)跟蹤像素流送相關(guān)的日志tail -f Saved/Logs/MyProject.log | grep -i pixel4.3 從日志快速判斷是否跑通啟動(dòng)后瀏覽器訪問(wèn)http://服務(wù)器IP:端口點(diǎn)擊Play。整個(gè)過(guò)程能不能成日志里都有信號(hào)。成功時(shí)UE日志里會(huì)出現(xiàn)類(lèi)似這樣的關(guān)鍵行Pixel Streaming streamer started—— 說(shuō)明像素流送插件正常啟動(dòng)Pixel Streaming Player connected—— 說(shuō)明有瀏覽器連上來(lái)了Pixel Streaming ICE connection established—— 說(shuō)明WebRTC通道建立成功。如果一直卡在連接中日志里可能會(huì)出現(xiàn)Failed to connect to signalling server—— UE連不上信令服務(wù)器重點(diǎn)查IP、端口和防火墻No active video stream—— 編碼器沒(méi)輸出重點(diǎn)查GPU驅(qū)動(dòng)和編碼器狀態(tài)ICE failed—— 網(wǎng)絡(luò)協(xié)商失敗重點(diǎn)查UDP端口和STUN配置。只要看到Player connected和ICE connection established兩條畫(huà)面基本就出來(lái)了。如果瀏覽器里還是黑的優(yōu)先檢查顯卡驅(qū)動(dòng)和編碼器下一節(jié)詳細(xì)說(shuō)。5. 并發(fā)、編碼器與性能Linux下的調(diào)優(yōu)記錄畫(huà)面跑通只是第一步。真正上生產(chǎn)之前你得回答一個(gè)問(wèn)題一臺(tái)服務(wù)器能撐多少人同時(shí)在線這跟編碼器有直接關(guān)系。5.1 硬編和軟編怎么選NVENC和CPU的取舍像素流送在Linux平臺(tái)上的編碼路徑主要有硬件編碼NVENC和軟件編碼x264等兩種。默認(rèn)情況下如果檢測(cè)到NVIDIA GPUUE會(huì)優(yōu)先使用NVENC硬編。硬編的好處是CPU占用極低同一臺(tái)機(jī)器可以多跑幾個(gè)UE實(shí)例。軟編的好處是兼容性更好不依賴(lài)NVIDIA驅(qū)動(dòng)版本但CPU占用極高——我用CPU軟編跑一個(gè)1080p畫(huà)面占用能到80%以上稍微復(fù)雜點(diǎn)的場(chǎng)景直接掉幀。所以如果你用的是NVIDIA GPU系列服務(wù)器第一件事就是把顯卡驅(qū)動(dòng)和CUDA裝對(duì)。像素流送的硬編依賴(lài)NVIDIA Video Codec SDK而它和驅(qū)動(dòng)的版本是綁定的。我遇到過(guò)一次驅(qū)動(dòng)版本太老導(dǎo)致NVENC初始化失敗UE自動(dòng)回退到軟編結(jié)果CPU被打滿、延遲飆升最后在日志里看到一句Pixel Streaming encoder failed to initialize才反應(yīng)過(guò)來(lái)。檢查驅(qū)動(dòng)和硬編是否就緒可以在服務(wù)器上跑nvidia-smi如果nvidia-smi能看到GPU下一步檢查驅(qū)動(dòng)支持的編碼器屬性確認(rèn)編碼器沒(méi)被占用。還有一個(gè)容易漏的地方如果服務(wù)器用了虛擬化GPUvGPU或者顯卡透?jìng)鞣桨窷VENC經(jīng)常不工作表現(xiàn)為nvidia-smi正常但像素流送日志報(bào)編碼器初始化失敗。要避免這種情況盡量選物理GPU直通別在云主機(jī)里搞GPU虛擬化。5.2 并發(fā)上限、顯存與延遲的實(shí)測(cè)參考并發(fā)這塊我實(shí)測(cè)下來(lái)的經(jīng)驗(yàn)是一張主流GPU開(kāi)一個(gè)UE實(shí)例一路串流60幀基本沒(méi)問(wèn)題開(kāi)多個(gè)UE實(shí)例每個(gè)實(shí)例一路串流GPU顯存和編碼器帶寬會(huì)成為瓶頸。每個(gè)實(shí)例默認(rèn)會(huì)占用一部分顯存用于渲染緩沖具體量取決于分辨率和場(chǎng)景復(fù)雜度。像素流送的編碼器默認(rèn)會(huì)把幀率、碼率做動(dòng)態(tài)調(diào)整。延遲方面局域網(wǎng)環(huán)境一般能做到50到100毫秒公網(wǎng)環(huán)境受網(wǎng)絡(luò)波動(dòng)影響通常會(huì)在100到200毫秒之間。如果你的項(xiàng)目對(duì)操作手感要求高比如競(jìng)速類(lèi)游戲這個(gè)延遲體感還是明顯的建議盡量讓服務(wù)器和用戶在同城或同區(qū)域不要跨大洲部署。并發(fā)策略資源消耗適用場(chǎng)景單實(shí)例多路流低但單實(shí)例故障影響面大內(nèi)部演示、低并發(fā)多實(shí)例每實(shí)例一路資源翻倍但隔離性好公網(wǎng)并發(fā)用戶容器自動(dòng)擴(kuò)縮容初始成本高長(zhǎng)期最省正式上線、動(dòng)態(tài)流量5.3 幀率和編碼參數(shù)調(diào)整像素流送支持通過(guò)前端URL參數(shù)或服務(wù)器端配置調(diào)整碼率和幀率。比如在URL后面加?MaxBitrate20000000可以把最大碼率調(diào)到20Mbps畫(huà)質(zhì)會(huì)明顯提升但對(duì)帶寬要求也高。實(shí)際調(diào)優(yōu)時(shí)我的建議是先固定分辨率再調(diào)碼率最后調(diào)幀率。分辨率和碼率決定了畫(huà)面清晰度幀率決定了流暢度。對(duì)于展廳類(lèi)應(yīng)用1080p30幀、碼率8到12Mbps是我的常用起點(diǎn)對(duì)于游戲操作類(lèi)場(chǎng)景建議60幀但碼率要相應(yīng)提高否則畫(huà)面會(huì)糊。6. 部署中容易忽略的細(xì)節(jié)音頻、Pointer Lock、STUN與網(wǎng)絡(luò)穿透這三塊內(nèi)容不是“一定要配”但一旦不管用戶實(shí)際體驗(yàn)就會(huì)出問(wèn)題。6.1 音頻回傳從無(wú)聲到有聲音的排查像素流送會(huì)把服務(wù)器端的系統(tǒng)音頻捕獲后傳給瀏覽器。如果項(xiàng)目里有背景音樂(lè)、場(chǎng)景音效服務(wù)器的音頻是必要的。問(wèn)題在于無(wú)桌面服務(wù)器環(huán)境通常沒(méi)有音頻設(shè)備。UE啟動(dòng)時(shí)會(huì)掃描ALSA/PulseAudio設(shè)備如果找不到日志里會(huì)出現(xiàn)類(lèi)似No audio input device found的提示這時(shí)候串流畫(huà)面正常但完全沒(méi)聲音。我的處理辦法是加載ALSA loopback模塊讓系統(tǒng)有一個(gè)虛擬音頻設(shè)備sudo modprobe snd-aloop然后啟動(dòng)UE時(shí)加參數(shù)-AudioInputDevice指定設(shè)備。設(shè)備名可以通過(guò)arecord -l或pactl list sources short查看。裝好PulseAudio并啟動(dòng)服務(wù)后UE通常能自動(dòng)識(shí)別到設(shè)備。如果你的服務(wù)器確實(shí)沒(méi)有音頻需求也可以直接忽略這個(gè)問(wèn)題但不建議在正式交付時(shí)給用戶一個(gè)無(wú)聲版本。6.2 瀏覽器Pointer Lock鼠標(biāo)鍵盤(pán)不聽(tīng)使喚的根源像素流送默認(rèn)會(huì)把鼠標(biāo)鍵盤(pán)事件通過(guò)WebRTC通道回傳給UE進(jìn)程。但在瀏覽器里鼠標(biāo)要被“捕獲”住必須觸發(fā)Pointer Lock API。這個(gè)API的兩個(gè)限制經(jīng)常被忽略其一如果頁(yè)面被嵌在iframe里而iframe標(biāo)簽沒(méi)有allowpointer-lock屬性瀏覽器會(huì)靜默拒絕鼠標(biāo)鎖定請(qǐng)求。表現(xiàn)為用戶點(diǎn)擊畫(huà)面后第一次能控制視角一旦鼠標(biāo)移出畫(huà)面就再也抓不回來(lái)了。其二Pointer Lock需要用戶手勢(shì)觸發(fā)。如果前端代碼不是在用戶點(diǎn)擊Play的回調(diào)里獲取鼠標(biāo)鎖而是在頁(yè)面加載時(shí)自動(dòng)獲取會(huì)被瀏覽器直接攔截。排查方法很簡(jiǎn)單點(diǎn)擊畫(huà)面按F12看Console有沒(méi)有關(guān)于Pointer Lock的報(bào)錯(cuò)。如果有要么給iframe加權(quán)限要么調(diào)整前端代碼的觸發(fā)時(shí)機(jī)。6.3 STUN/TURN跨網(wǎng)絡(luò)訪問(wèn)連不上的隱藏原因這是最容易讓人崩潰的坑。場(chǎng)景是這樣的我在云服務(wù)器上部署好了像素流送本機(jī)測(cè)試完全正常但換個(gè)網(wǎng)絡(luò)比如手機(jī)熱點(diǎn)訪問(wèn)頁(yè)面能加載點(diǎn)擊Play后永遠(yuǎn)處于“connecting”狀態(tài)。根因是WebRTC的P2P特性。瀏覽器和UE進(jìn)程需要通過(guò)網(wǎng)絡(luò)協(xié)商出一條可用的數(shù)據(jù)通道跨網(wǎng)絡(luò)尤其是雙方都在NAT后面時(shí)默認(rèn)的P2P協(xié)商大概率失敗。解決方法是配置STUN服務(wù)器讓雙方發(fā)現(xiàn)自己的公網(wǎng)地址如果網(wǎng)絡(luò)環(huán)境特別嚴(yán)格還需要TURN服務(wù)器做中繼轉(zhuǎn)發(fā)。信令服務(wù)器的配置文件里通常有iceServers字段加上STUN地址{ iceServers: [ { urls: stun:your-stun-server:3478 } ] }STUN服務(wù)器可以自己搭用coturn是常見(jiàn)方案sudo apt install coturn turnserver -a -f -n --stun-only --listening-port3478如果你的用戶群體都集中在公司內(nèi)網(wǎng)這個(gè)配置可以跳過(guò)。但如果要做公網(wǎng)訪問(wèn)STUN/TURN就是必須項(xiàng)不是可選項(xiàng)。7. 容器化與生產(chǎn)環(huán)境把這套流程固定成基礎(chǔ)設(shè)施手動(dòng)敲命令啟動(dòng)UE實(shí)例只能撐住演示階段。一旦要正式上線容器化是繞不開(kāi)的。7.1 Docker鏡像從系統(tǒng)依賴(lài)到UE產(chǎn)物的打包Linux像素流送容器化的關(guān)鍵在于基礎(chǔ)鏡像要匹配UE編譯環(huán)境。如果你的UE版本是在Ubuntu 20.04上打包的那容器基礎(chǔ)鏡像最好也用Ubuntu 20.04否則glibc版本不匹配會(huì)直接跑不起來(lái)。一個(gè)能跑的最小Dockerfile骨架是這樣FROM nvidia/cuda:12.2.0-base-ubuntu20.04 RUN apt-get update apt-get install -y \ libnss3 libxcomposite1 libxcursor1 libxi6 \ libasound2 libpulse0 xvfb curl WORKDIR /app COPY MyProjectLinux /app/MyProjectLinux EXPOSE 8888 CMD [xvfb-run, -a, ./MyProjectLinux, -RenderOffScreen, \ -PixelStreamingIP127.0.0.1, -PixelStreamingPort8888, \ -ResX1920, -ResY1080]這里有幾個(gè)注意點(diǎn)基礎(chǔ)鏡像要帶xvfb否則UE在容器里沒(méi)有顯示環(huán)境用nvidia/cuda鏡像而不是普通Ubuntu鏡像可以省去在容器里再裝NVIDIA驅(qū)動(dòng)的環(huán)節(jié)啟動(dòng)命令里的-PixelStreamingIP要指向信令服務(wù)器可達(dá)的地址如果信令服務(wù)器也在容器里建議直接用Docker的network模式別寫(xiě)死IP。7.2 顯存透?jìng)骱唾Y源調(diào)度UE像素流送必須訪問(wèn)GPU所以普通Docker跑不起來(lái)需要NVIDIA Container Toolkit來(lái)把宿主機(jī)的GPU透?jìng)鹘o容器。安裝好后啟動(dòng)命令是docker run --gpus all --network host -d --name pixel-stream my-pixel-image這里用--network host可以避免端口映射和STUN穿透的問(wèn)題信令服務(wù)器和UE進(jìn)程直接共享宿主網(wǎng)絡(luò)棧延遲也更低。缺點(diǎn)是端口管理要靠系統(tǒng)層面去做每個(gè)UE實(shí)例監(jiān)聽(tīng)不同的信令端口。如果你打算跑多個(gè)UE實(shí)例并動(dòng)態(tài)擴(kuò)縮容建議給每個(gè)實(shí)例分配獨(dú)立的信令端口比如8888、8889、8890再在前端做一個(gè)會(huì)話調(diào)度把用戶分配到空閑實(shí)例上。這個(gè)調(diào)度環(huán)節(jié)可以自己做也可以參考云渲染平臺(tái)的思路但核心思想都是一樣的一個(gè)UE實(shí)例對(duì)應(yīng)一路串流實(shí)例池按需擴(kuò)容。7.3 服務(wù)編排一條命令拉起整套環(huán)境用Docker Compose可以同時(shí)管理信令服務(wù)器和若干個(gè)UE實(shí)例示例version: 3 services: signalling: image: node:18 command: node /app/SignallingWebServer/server.js volumes: - ./SignallingWebServer:/app network_mode: host streamer-1: image: my-pixel-image network_mode: host environment: - PIXEL_STREAMING_PORT8888真正上線前我建議把“健康檢查”加上定期檢查UE進(jìn)程的WebSocket端口是否響應(yīng)如果一個(gè)實(shí)例崩潰了自動(dòng)從調(diào)度池里摘掉并拉起一個(gè)新的容器。這一套做完才算真正把Linux像素流送部署成了可運(yùn)維的基礎(chǔ)設(shè)施。我在實(shí)際項(xiàng)目里的體會(huì)是Linux上跑像素流送最大的敵人不是技術(shù)本身而是“不知道往哪查問(wèn)題”。只要把信令握手、編碼器、網(wǎng)絡(luò)協(xié)商這三條線的日志和排查鏈路建立起來(lái)絕大多數(shù)問(wèn)題都能在十分鐘內(nèi)定位。如果你正準(zhǔn)備上線建議先從單實(shí)例跑通開(kāi)始再逐步加容器化和自動(dòng)擴(kuò)縮容不要一上來(lái)就搞復(fù)雜架構(gòu)。這套流程比我第一次部署時(shí)少了至少一半的試錯(cuò)成本照著做應(yīng)該能幫你省下不少時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷丁香久综合| 欧美性丁香色色五月天| 激情亚洲色图片丁香综合| 日日操,日日爽| 狠狠色丁香婷婷综合久久97AV| 在线A色| 狠狠狠狠操| 久久婷婷六月综合| 九九99久久| 婷婷五月在线视频| 伊人大香蕉在线视频| 精品人妻一区二区三区四区不卡在| 噜噜五月天综合| 天天干天天干天天操| 五月综合视频| 亚洲色综久久五月| 亚洲婷婷丁香五月天激情小说| 天天干天天操天天上| 人人摸人人| 91爱啪啪| 变态另类色图 | 婷婷五月天丁香久久| 五月天综合激情网| 五月天影院婷婷在线观看| 天天做天天爱综合| 久久丁香五月| 日本人妻操| 国产1区2区3区在线观| 色五月婷婷五月丁香五月| 99乱视频| 久久性爱激情| 99视频精品全部免费观看| 久久精品亚洲一级牲爱综合| 色五月天电影| 五月婷婷日本| 人人干Av| 99这里只有| 婷婷色情 | 五月婷久久草| 思思久日精品视频| 26UUU亚洲欧美| 丁香五月六月激情久久| 婷婷99| 色色色色色日韩午夜激情 | 亚洲色图欧美色图日本视频| 久久激情五月天| 337p午夜影院| 五月天另类小说| 丁香五月天操B| 操久久精| 五月网在线| 久久久久er热| 久久五月天丁香| 久久久久久久综合狠狠综合| www.射伊蕉婷婷| 午夜69成人做爰视频| 一起草av在线观看| 国产精品激情五月天色婷婷| 9久久精品| www.综合久久| 丁香婷五月天| 99热这里只有精品99| 色播五月丁香综合| 1010日日无码| 中字幕视频在线永久在线观看免费| 97人妻碰碰碰久久久久-最近国语高清| 丁香伊人激情| 农村熟妇高潮精品A片| 九九热这里只有精品23| 伊人干练久| 99精品久久| 久久综合婷| 天天做综合网色综合| 亚洲综合另类| 人人干人人干骚美女| 六月丁香中文字幕| 五月婷六月| 激情综合激情五月一起草| 亚洲亚洲人成综合网络 | 国产乱妇乱子伦| 欧美99| 超碰九色| 丁香色色网| www91久久| 国产精品人人妻人人爽| 碰碰碰91| 五月丁香婷婷婷激情爱爱| 操逼视频网址| 丁香婷婷深情五月亚洲| 日韩在线一级| 99A级片| 99久久精品亚洲综合| 亚洲色色香蕉| 六月婷婷网| 五月丁查人人| 婷婷va| 天天爽天天爽视频| 99热性色| 久热九九| 丁香5月激情网| 在线五月色播| 成人免费120分钟啪啪| 六月丁香成人| 亚洲精品字幕| 天天操电影院色狼性av| 五月天大香蕉AV| 久久婷婷五月免费视频| 狠狠干天天内射| 五月婷婷亚洲天堂激情在线| 中字幕视频在线永久在线观看免费 | www.五月婷| 性日本精品| 久久五月热| 天天综合天综合| H亚洲| 丁香网五月天激情| 婷婷综合一二三| 色老久久| 天堂AV三级| 久久久激情| 99热这里只有精品98| 久久激情五月| 日逼免费视频 | 91操操| 婷婷五月大| 久久婷婷热| 26uuu色噜噜精品一区| 99热久久这里只有精品| 深爱1激情网| 亚洲成人中文字幕| 亚洲性爱干干| 婷婷五月丁香国产| 国产综合色婷婷精品久久| 色情丁香五月婷婷精品| 开心婷婷五月| 久久机热/这里只有精品| 久久婷婷激情四射五月天| 九九热re99re6在线精品| 色色丁香婷婷| 久久人妻超碰一区| 久久色9| 大香蕉精品视频| 91九色首页| 五月伊人视频在线看| 成人国产网| 婷婷五月天色播| 伊人久久大香网| 开心激情婷婷| 婷婷五月天激情网站| www91精品| 久久综合九九| 手机免费福利视频| 九九碰九九爱97超碰| 性一交一乱一交A片久| 九九无码视屏| 五月天啪啪| 人与禽A片啪啪| 桃色激情网| 99久热在线精品| 亚洲成人在线播放| 色婷婷五月天在线观看| 色色色视频| 五月久久婷婷| 天天操夜夜玩!| 丁香五月婷婷色偷偷| 丁香五月婷久久| 五月丁香拍拍激情综合| 91激情五月开心| 99色色视频| 欧美激情综合色综合| 色情久久久| 日产精品一线二线三线芒果 | www色婷婷| 一本色道久久88综合日韩精品| 日韩爱操视频| 九九热只有精品6| 超碰在线网站| 丰满少妇乱A片无码| www.久久综合| 99亚洲色| 五月丁色AV| 九九综合88| 六月婷婷中文字幕| 碰97久久| 四色五月婷婷在线观看| 久久伊人日日夜夜| 五月婷婷综合网| 六月婷婷天堂| 国产精品国产成人国产三级| 大香蕉婷婷色| 精品乱码久久久久| 狠狠干青青草| 五月激情丁香五月| 日本一级一片免费视频| 天堂网亚洲色图| 婷婷五月天色色| 超碰av在线| 色欲AVV| 九九综合色| 色综合久久88色综合天天| 五月激情丁香五月| 色婷婷激情| 久久免费高| 泰州成人视频| 亚洲啪啪啪啪| 人妻激情在线| 色五月婷婷基地| 婷婷开心青青草| 婷婷综合色色| 久久综合中文字幕| 97在线日本| 国产午夜精品AV一区二区麻豆 | www.十八禁不禁AV.com| AV色五月婷婷| 久久久18| 人人操97| 91网站黄| 日本免费91| 久久久91精品| 九九综合九| 97色色色| 五月天偷拍| 少妇搡BBBB搡BBB搡毛茸茸 | 99热这里只有精品在线观看| 五月丁香淫淫婷婷婷| 天天艹夜夜爽| 亚洲丁香五月美女| 婷婷五月免费观看| 色色综合日韩| 色亭亭九月| 激情五月天丁香| 99热国产精品| 国产精品电影| 五月婷婷大香蕉| 九九综合色综合| 五月天另类视频| 成人性爱精品视频| 九九色综合视频| 婷婷五月天手机版视频| 伊人狠狠操| 夜夜天天久久婷婷| 天天艹夜夜爽| WWW.桔色成人.COM| 99热这里只有精品 搜| 色婷婷成人在线| 婷婷五月激情四月综合| 九九热色视频| 激情综合4月| 狠狠色婷婷在线| 另类图片天天影视在线观看| 超碰在线99| 九九热av| 天天爽在线视频| 六月婷婷激情图片| 性爱综合网| 91九色精品女同系列| www.henhenl| 超碰成人av| 六月撸婷婷| 亚洲99在线| 超碰人人99| 成人AV综合在线| 色色色五月天激情资源| 怡红院91a√| 日韩国产在线免费观看| 97婷婷狠狠| 九九婷婷综合| 五月婷婷香蕉| 丁香六月婷婷久久亚洲天堂| 性爱五月丁香| 国产99热| 亚洲五月婷婷在线| 色婷婷六月天在线| 丁香五月伊人| 久久久97| 性做久久久久久久免费看| 天天日夜夜爽| 久久久婷丁香五月| 丁香五月天婷婷91| 国产精品电影| 激情婷婷狠狠干| 色情久久久| 成 久久| 青青草原精品久久| 99ri精品在线| 激情六月婷婷| 婷婷天堂伊人| 色五月天丁香婷婷色| w婷婷五月婷婷w| 婷婷久久综合久| 亚洲视99| 九色色| 色播五月| 另类天堂| 日韩在线看AV| 激情五月天色婷婷综合| 激情网第九色| 六月五月婷婷| 婷婷五月精品中文字幕| 五月丁香成人网| 国色天香成人网| 91狼友视频网页更新| 999九九九久久久99HD| 欧美精品999| 91碰碰碰| 五月婷婷黄色毛片| 五月丁香六月综合情在线观看| 99色看这里只有精品| 激情小说 五月天| 激情五月婷黄版| 九九黄色网| 欧美成人精品A片免费一区99| 99在线视频操999| yazhochengrenavwang| 国产精品成人AV在线| 国产五月丁香在线| 久青草影院| 久色| 97人妻碰碰碰碰碰久久久久久| 91人人爽狠狠狠| 97涩涩丁香五月天| 日韩在线99| 97人人超| 99热色婷婷| 人人干人人干骚美女| 操你av| 97视频.干com| www.金莲av| 九九99九九99| www.av骚货| 丁香六月婷婷开心| 色播激情婷婷| 五月花婷婷在线精品视频| 操逼棍操逼| 色情五月丁香| 碰碰碰碰碰99| 高清无码 一区 二区 三区| 人人视频人人干人人做| 国产午夜精品一区二区三区嫩草| 色综合视频| 久久这有这里精品| 强伦轩人妻一区二区电影| 国产暴力强伦轩1区二区小说| 亚洲蜜乳AV| 九九综合精品| 婷婷激情视频| 手机旧版看人妻1025| 熟妇无码乱子成人精品| 久久五月网| 五月婷导航| 深爱激情综合网| 婷婷五月综合免费在线| 婷婷五月AA五月在线| 影音先锋91| j五月香在线| 婷婷五月天影院| 婷婷五月天偷拍| 亚洲成人在线播放| 国内久久久精品99| 六月婷婷九月丁香亚洲综合| 被强行糟蹋的女人A片| 色综合中文| 五月丁香欧美在线| 伊人无码高清| 激情五月天婷婷图| 色婷婷五月在线| 97碰碰草| 激情5月婷婷狠狠干| 碰碰91| 亚洲综合碰| 色日本丁香婷婷| 久久视频婷婷视频| 九九综合网色全集| 五月六月婷| 人与禽A片啪啪| 久er免费视频| 久久综合爱| 9九色首页| 婷婷五月中文字幕国产| 农村熟妇高潮精品A片| 91色色色| 91精品婷婷国产综合久久| 色播色丁香五月| 丁香五月综合在线播放| 99国产精品久久久久久久久久久 | 欧美性猛交99久久久久99按摩| 久久九九爽| 五月天婷婷小说| 欧美日本不卡黄色片| 99小精品| 精品一区二区三区四区五区六区| 思思热久久阴99| 亚洲av综合网| 欧美综合五月丁香六月婷| 久久婷婷五月天蜜桃| 久草热在线视频| 婷婷色五月91啪啪| 久久这里有精品99| 丁香花社区av| 人人操人av| 激情又色又爽又黄的A片| 五月丁香久人妻中文| www.五月婷婷| 另类视频综合| 99热这里只有精品2| 综合性爱网| 欧美丁香五月夫妻天| 九热av| 性生活久久人妻| AⅤ网站在线看| 久久九九99字幕| 国产全是老熟女太爽了| 丁香五月骚喷水视频| 超碰免费在线| 亚洲激情丁香五月基地| 久久色六月| 色婷婷狠狠久久综合五月| 无码少妇高潮喷水A片免费| 操国产人妻| 日日夜夜狠狠| 婷婷成人综合五月| 97婷婷五月| 99热只有这里才是精品| 国产黄色大片| 天天射影院| 色色综合激情| 九九人人操| 丁香五月情色| 日本不卡高字幕在线2019| 婷婷五月天无码视频| 国产偷人爽久久久久久老妇APP| 亚洲狠狠婷婷综合久久久| 99ree6| 丁香五月在线视频黑人| 无码动漫AV| 夜夜久久综合网| 亚洲综合五月天婷婷丁香| 337p大胆噜噜噜噜噜91Av| 久久久这里都是精品| 99热啪啪| 影音先锋人妻出差| 五月丁香人妻| 久久综合丁香激情五月| 99热精在线九九久久保| 9热成人在线视频| 天天日天天草| 国产成人网站在线观看| 日韩免费视频| 欧美黄色AA片哗啦啦啦| 久久作爱| 国产又色又爽又黄又免费| 婷婷五月中文字幕国产| 99视频在线观看网址| WWW.99热| 亚洲 在线 性爱| 五月天婷婷Av| 97干97色| 九九热这里只有精品12| 综合网网欲色| www.minyis.com【JT】实力收量可预付QQ2101460746 | 97操碰| 婷婷开心激情综合五月天| 婷婷五月丁香激情图片| 91丨九色丨东北熟女| 亚洲激情五月婷婷日日| 五月婷婷国产| 偷拍五月丁香| 精品草原久久视频| 欧美色99| 97超碰婷婷五月天| 丁香婷婷色九月| eeuus五月婷| 亚洲黄色操逼| 激情小说五月天| 婷婷丁香五另类网站| 成人 九九九九| 欧美日韩99| 伊人日日干| 99色久| 99精品在线| 99色最新在线视频网站| 国产67194| 婷婷操无码| 久久久999精品| 伊人婷婷激情| 丁香六月啪啪啪| 国产精产国品一二三在观看| 黄色一级影片| 亚洲 小说 欧美 激情 另类| 超碰色综合| AV大片在线播放| 丁香久久综合| 五月婷婷五月天亚洲无码| 五月丁香啪综合| 欧美成人AAA片一区国产精品| 色色国产| 亚洲99在线| 亚洲五月天婷婷| 99热在线极品极品| 亚洲综合婷婷| 91超级碰在线| 婷婷丁香五月,狠狠综合| 日韩啪啪视频| 日本123区日韩欧美不卡在线看| 26uuu日韩| 色女伊人| 成人网站免费sxj| 久操大| 亚洲无码影音| 色五月综合网| 婷婷无码视频| 夜夜爽天天干| 婷婷丁香五月欧美人| 婷婷九月激情| 九九99男女视频在线观看| 99精品免费| 手机旧版看人妻1025| 丁香婷婷久久老熟女综合网| 久久婷婷青草五月天| 色婷婷情片| 色色欧美。| 国产亚洲色婷婷久久99精品91| 五月丁香淫淫婷婷婷| 色综合色欲综合天天免费| 99综合一区| 在线sebiav精品视频| 精品影院| 九九亚洲| 欧美色五月| 婷婷另类小说| www.深爱激情| 色婷婷a三区麻| 久久只有精品| 丁香五月天激情网址| 亚洲人妻Av| 99ri视频在线观看| 蜜臀av 粉嫩av 懂色av| 亚洲A片成人无码久久精品青桔| 久久99网站| 99.N在线视频| www.色婷婷.com| 欧美精品熟女一区二区| 久久精品永久免费| 五月天成人在线精品| 激情婷婷五月天| 丁香婷婷色色| 任你操精品免费| 色99视| 超碰免费电影| 亚洲 成人 电影av在线观看| 精品九九九久| 丁香六月成人| 老师高潮流白浆喷水的A片| 成人做爰A片免费看视频| 五月婷婷色五月| 久久九九爽| 五月天婷婷免费| 久久久免费精彩视频| www激情五月天| 伊人9999| 五月丁香婷婷三级| 亚洲bt丁香五月天婷婷激情小说| 我要看激情五月天| 五月天婷网| 久热只有这里精品| 五月丁香AV在线| 亚洲精色| 六月丁香激情网| 思思热精品在线观看| 这里只有精彩视| 淫荡工a| 亚洲综合在线丁香五月| 丁香六月亚洲综合| 日本操逼九九九九58日本操逼| WWW.色婷婷.COM| 色婷婷视频综合| 五月好婷婷| 99热这里只有免费精品| 婷婷激情小说| 丁香婷婷色九月| 五月婷婷久久大香蕉| 丁香久久五月婷综合| 久久九九@| 99九九综合久久九九| 自拍偷窥99热| 99成人| 精品一区二区三区四区五区六区| 亚洲午夜成人av电影网| 99热亚州综合| g00d人体西西| VA色婷婷| 亚州激情在线视频| 九九九九九九九热| 五月丁香婷婷成人网| 狠狠色成人影片| 丁香六月激情| 色综合五月天| 亚洲精品无AMM毛片| 久久9情免费| 伊人久久大香| 黄色五月婷婷| 这里只有精品99视频| 五月丁香婷婷婷婷综合网| 色播婷婷五月天| 婷婷久久色| 97干97色| 天天干天天爽| 97操碰在线97| 丁香五月最新地址| 日日日日做夜夜夜夜无码| 五月婷婷成人w| 色五月第四色| 97狠狠色| 99视频在线观看地址| 五月丁香A片| www.五月天色色.com| 華人性愛AV在線| 99热九九在线| 九九99热| 99综合网| 综合九九久久| 性爱AV天堂| 天天操,天天插| 久久99网| 五月天激情四射| 免费一区二区三区| 影音先锋噜一噜| 人妻内射麻豆视频| 婷婷深爱五月| 国产成人网站在线观看| www91色网站| 亚洲AV中文在线| 五月天无码视屏播放| 九九视频这里只有精品| 精品乱码久久久久| 拍色综合| 四月婷婷五月色综合| 丁香五月天BBw| 色色色色色色色色色色色色色97| 国产精品色色| 丁香五月网| 激情五月无码| 五月天婷婷綜合院| 97人妻超级碰碰碰碰碰| 色99自拍| 五月天欧美激情| 狼人狠狠操| 7EzOBIhNq85TO| 激情床戏| 欧美久久婷婷| 五月天成人综合| www.99热精品99.com| 婷婷欧美偷拍综合| 色五婷婷在线视频| 五月日韩中文字幕| 久九色| 五月天综合图片| 99免费| 伊人大蕉香| 七七九九色色| 伊人网啪啪| 超碰在线免费观看日韩| 日韩无码成人电影| 综合激情五月天六月婷免费视频| 97干在线视频| 91九色小视频| 人人操人人爱丁香五月| 婷婷丁香六月| 91九色中文字幕女在线观看| 欧美综合在线五月天色婷婷| 99热精品在线观看| www.com.色色| 五月天激情综合10p| 色欲一区二区三区精品A片| 激情综合婷婷久久| 日在线V视频在线播放| www色婷婷| 五月婷av| 青青草深爱激情网| 人妻久久久久久| 丁香婷婷色情| 丁香五月天在线| 国产日韩精品SUV| 五月天综合久久| 99视频| 亚洲AV无码成人电影| 九九九九九无码| 激情六月丁香| 大香蕉狠狠爱主页| 新伍月婷婷| 伊人综合网站| 综合欧美五月婷婷| 日本久久综合| 超碰在线超碰| 色色亚洲视频| 五月婷视频在线观看| 婷婷天天综合| 五月婷婷色| 亚洲婷婷视频| 久草天堂| 超碰色综合| 丁香五月天啪啪| 色五月美女| 丁香五月综合在线播放 | 亚洲啪啪精品| 五区毛片七区毛片| 国产性av| 激情五月五月五月婷婷| 中文人妻AV久久人妻18| 人妻自慰在线| 日日操日日撸| 99热在线播放| 五月丁香色色网| 激情综合五| 97婷婷丁香| 精品久久婷婷| 停停五月色宗合| 婷婷色五月天色| 丰满熟女人妻一区二区三| 91婷婷视频| 五月婷婷免费在线观看| 国产黄大片在线观看画质优化| 激情综合女人网五月播播| 激情四射五月天| 久操综合| 色综合色综合网| 久热九九| 色色色综合色| 婷婷丁香六月五月天| 天天爽天天爽| 亚洲性爱99| 久久综合五月天| 丁香五月色播中文在线播放| 嫩草AV久久伊人妇女超级A| 99热久久这里只有精品| 亚洲妇女熟BBW| 五月综合亚洲| 色婷婷综合久久| 婷婷六月视频| 久青草大香蕉| 日本美女五月天| 99re在线视频| 婷婷五月天色| 色色99色色| 麻豆AV一区二区三区| 五月色欧美| 操逼电影免费看| 日日.c| 色九月婷婷丁香| 婷婷中文在线| 五月丁香啪啪| 欧美丁香婷婷五月| 99超碰在线观看| www.91在线观看| 三级三久久线久久99久目本WW| 五月丁香啪| 婷婷在线观看五月天在线视频| www.色婷婷.com| 婷婷激情六月中文| 亚洲不卡123| 1区2区视频| 久久五月丁香| 丰满少妇猛烈A片免费看观看 | 99精品视频偷拍| 综合激情视频| 国产丁香五月天婷婷| 欧美黄色一级| 大香蕉伊人爱在线| 亚洲视99| 超碰操日| 国产avapp 网| 久这里只有精品| 9视频在线成人网站| 日韩三级高清无码| 99精品热| 亚洲成人影视在线| 亚洲天堂色色| 久99| av大片在线| 五月婷婷婷丁香播| 人妻狠狠操| 激情综合网激情五月婷婷| 五月天开心激情综合网| 99色婷婷视频| 亚洲宗合激情| 99玖玖在线视频| 五月天婷亚洲综合在线嫩草网| 五月天婷婷综合色| 青青草原伊人网| WWW夜夜| 亚洲国产黄色电影| www.狠狠| 岛国av电影网站| 久久综合无| 粉嫩AV久久一区二区三区| 丁香六月五月天| 91精品91久久久中77777| 久久婷婷五月丁香蜜桃网| 五月天伊人综合| 欧美久久五月婷婷| 1区2区视频| 熟妇人妻中文字幕无码老熟妇 | 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 色色色色丁香| 人人妻人人澡| 深爱丁香激情| 婷婷丁香激情综合色情| 综合福利网| 激情综合网五月丁香| 久热这里只有精品66| 色呦呦美女| 婷婷伊人久久无码色五月| 色九月婷婷综合| 五月天电影网| 日本精品在线噜噜噜| 天天久久婷婷| 日韩成人免费电影| 天天干夜夜谢| 色97综合婷婷天天色| 日熟女| 7EzOBIhNq85TO| 丁香五月婷婷基地| 婷婷五月丁香六月天亚洲综合| 欧洲毛片基地c区| av五月天婷婷丁香| 天天操夜夜操| 成人免费在线电影| 日本成人小说婷婷六月| 五月丁香久人妻中文| 92久操视频| 五月天婷婷色| 97资源欧美日韩大香蕉超碰一区| 婷婷丁香五月天中文字幕| 色综合夜夜| 色玖玖玖| www.婷婷五月.com| 精品人妻伦九区久久AAA片| 日韩精品一区二区亚洲AV观看 | 啊v视频在线观看| 久草婷婷视频| 成人午夜天| 色播五月婷婷| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 综合激情五月四射婷婷| 99色精品| 激情电影五月婷婷| 欧美内射AAAAAAXXXXX| 色五月天激情| www.夜夜操.com| 热99只有精品| 久热2025无码| 亚洲九九夜夜| 色婷婷综合亚洲| www久久艹| 五月激情网络| 丁香六月婷婷综合网| 激情五月婷婷综合| 色综合久久88色综合天天看| 91欧美日韩| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 热久久999| 久久久GOGO无码啪啪艺术| 久久99网站| 人人操人人干AV| 五月激情婷婷在线| 五月婷婷九月婷婷九月婷婷| 99热精在线九九久久保| 99,色| 综合99综合久久久久久久| 色99免费视频中文| 97在线日韩| 五月婷婷av在线| 最新高清无码专区| 操操碰| 激情五月五月婷婷| 五月婷色| 91色色色| 丁香婷婷基地| 欧美日韩123| 97亚洲婷婷| 丁香五月av| 丁香五月婷婷六月丁香| 日日天天干| 五月天开心激情综合网| 久久A V无码视频| 五月天精品综合在线| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 少妇高潮呻吟A片免费看软件 | 日韩在线一级| 免费在线a| www久久久久| 大天天伊人| 五月婷婷丁香六月| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 五月激情在线| 五月天开心婷婷激情网站 | 色色色在线播放| 热久久77777| 99re久热只有精品6在线直播| 久久色五月天| 狠狠夜夜五月丁香| 丁香五月瑟瑟| 综合视频五月| 日韩av网址大全| 婷婷五月美女直播| 亚洲情欲| 日本九九视频| 久月婷婷| 国产精品美女| 99精品在线| 久久无码成人| 99在线精品视频免费观看20| 高清成人综合| 久久婷网| 热99国产精品| 亚洲欧洲色色| 色 五月俺去也| 人人草人人爱手机视频看看| 欧美日本va| 99热这里只有精品免费| 五月婷婷深深爱| av在线免费播放| 五月亭亭六月天| 91狠狠综合久久久久久| 日韩中文字幕| ai97re99一本| 婷婷欧美激情| 99色色网| 欧美婷婷五月无砖| 丁香五月在线观看完整版| 思思热视频在线观看| 91丨九色丨熟女| 五月色亚洲| 狠狠精品干练久久久无码中文字幕 | 丁香五月天成人| 精品人妻久久久久久| 99福利导航| 五月激情站| 人人爽网| 97色视频网| 黄色AV日韩| 五月丁香啪啪激情| 五月天五月天激情网| 97干在线播放| 91操人视频| 欧美日本国产| 精品女人九九九| 在线观看熟女少妇| 天天天天做夜夜夜夜做| 久热免费视频| 九九久久99| 少妇人妻人伦A片| 婷婷五月天性爱视频| 成人在线不卡| 狠狠干总合| 亚洲天天操| 五月天色区| 久综合九综合99| 欧美大道不卡| 成人精品一区二区三区四区五区| 日日操,夜夜爽| 丁香五月人妻| 无码人妻少妇色欲AV一区二区| 人人综合色| 97中文在线| 欧美色色色| 黄色一级影片| 四川BBB搡BBB搡多人乱亂| 吾爱AV导航| 天天骑日日爽| 婷婷综合色播网| 色欲丁香| 夜色五月天| 99日本黄站| 天天综合亚洲综合| 任我肏| 97爱艹婷婷开心丁香激情综合| 婷婷天堂视频| 色五月天综合| 97人妻碰碰碰久久香蕉| 老美AA片| 五月天天堂久久| www.日韩艹| 亚洲最大在线| 亚洲xx在线| 99热精品在线| 九九色综合九九色| 亚洲九九夜夜| 99视频91| 丁香色播五月天| 五月天丁香综合| 99热热热天天人人人超超碰| www超碰| 五月草视频| 啪啪啪大香蕉| 91日日日| 伊人9999| 五月婷婷色| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 欧美精品999| 丁香九月激情久久| w婷婷五月婷婷w| 丁香婷婷网| 4399在线观看免费高清毛片| 婷婷欧美激情综合| 六月激情综合| 五月天操逼激情| 亚洲国产精品成人免费一区久久久在线观看AAAA | 91综合色| 区欧美日韩成人| 五月婷婷在线视频免费观看| 狠狠色噜噜狠狠狠狠综合| 亚洲乱码日产精品BD| 另类综合激情| 青草少妇激情| 九九热青草| 五月婷婷无码| 99啪啪网| 精品五月花| 九九热只有这里是精品| 久久婷婷啪啪视频| 亚洲黄色av网站| 婷婷五月天伊人网在线观看视频| 亚洲综合激情五月久久| 激情久久婷婷| 美国天天日天天操| 天天爱天天操| 99热精品在线| 9热精品| 操操操91| 天天檫天天爽| 精品无码久久久久久久久| 五月天色色激情综合| 91九色在线视频| 毛片蕉地一二| www五月天激情com| 国外亚洲成AV人片在线观看| 99热网站| 五月丁香久人妻中文| 色色网91| 亚洲色综合性| 影音先锋91网站在线观看| 天天日综合网射| 99久久久| 另类图片色五月| 狠狠色丁香婷婷久久综合| 99欧美三级视频| 激情婷婷五月天日本系列| 中文字幕丰满孑伦无码专区 | 丁五月激情视频免费| yirenjiqingshiping| 婷婷丁香五月天小说| 图片区 小说区 区 亚洲五月| 异能之下短剧免费观看全集| 亚洲午夜视频| 成人av观看| www.色婷婷| 六月激情丁香一道本7777| 九九99视频| WWW.HENHENL.| 五月天婷a| 一区二区三区四日本| 色婷婷综合中心| 国产精品a无线| 婷久看人爽| 五月丁香激情综合网| 丁香五月网站| 极品人妻VideOssS人妻| 成人av免费观看| 久久婷五月| 五月婷婷在线丁香| 五月婷婷香| 九九九这里只有精品| 天干夜夜操| 色婷操逼| 婷婷色五月激情| 97综合在线| 天天噜噜| 色五月婷婷狠狠撸| 久久久中文| 精品国产va久久久久久久| 少妇大叫太大太粗太爽了A片 | 高清国产AV| 丁香五月婷婷激情尤物| 色五月色图| 大香蕉婷婷丁香天堂AV| 婷婷综合五月| 五月丁香婷婷六月| 五月天婷基地| A片试看50分钟做受视频| 91啪级电影| 超碰亚洲欧美| 激情五月色综合| 精品九九婷婷| 97碰碰在线观看视频| 美女精品一级不卡视频| 国产在线中文字幕| 97亚洲色 torrent magnet| 97久久久| 九九视频精品视频精品| 激情五月婷婷色综合| 这里只有精品在线视频在线观看| 欧美日韩五月婷婷| 狠狠狠狠狠狠色| 久久五月综合| 亚洲色五月| 伊人久久丁香婷婷六月五月综合| 亚洲婷婷综合视频| 先锋资源婷婷| 无码色色色色色| 欧美色综合天天久久综合精品| 六月五月婷婷| 日本三级网址| 激情九月婷婷| 婷婷激情五月天在线视频| 婷婷色色网站| 综合噜噜| 婷婷五月天av| 亚洲精品久久久无码| 中文字幕色色| 丁香五月人妻| 99色天堂| 婷婷丁香人妻久久在线观看| 奇米网大香蕉| 国产无套精品一区二区| 色情五月天se| 色色色色色日韩午夜激情| 99热综合在线| 888精品福利地址| 日本综合99| 久久婷婷内射| 九九热视频首页/这里只有精品| 一级片操逼视频| 精品丁香五月天在线播放| 色综合久久天天综合网| 精品一二三区久久AAA片| 一月婷婷色色| 91打屁股免费看| 色婷婷久久综合中文久久一本| 日本一毛片| 五月丁香六月婷| www.激情五月天| 丁香六月激情| 中国丰满熟女A片免费观| 激情综合网五月激情网| 99爱爱| 五月婷婷色欲| 久久亚洲无码| 亚洲人人96@| www.9色色色| 五月色综合| 五月天激情网页| 美女激情综合| www.99热国产| 2017狠狠干| 丁香伊人综合| 九九热在线99| 少妇性按摩无码中文A片| 丁香五月香蕉| 久久这里只有国产| 伊人成综合五月婷婷| 五月亭亭直播| 久久色这里只有精品| 久热婷婷| 亚洲人成网站999综合| 婷婷香五月天| 99九九精品| 99er这里只有精品视频| 丁香花五月天婷婷成人社区| 青青草tp| 3www激情| 26uuu欧美日韩| 久久艹网| 曰韩少妇内射免费播放| 91成人看片| 婷婷娱乐丁香综合网| 琪琪色五月天| 欧美五月婷婷综合| 99热97| 五月天四色房丁香亭亭| 欧美日韩大黄| 五月丁香花视频| 亚洲久久天堂| 久热这里只有精品6| 色婷婷狠狠| 日韩五月天婷婷| 婷婷丁香激情综合色情| 午夜AV网| 婷婷伊人綜合中文字幕小说| 开心婷婷丁香五月| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 任你擦免费视频| 亚洲一级 片内射网站在线观看| 国产色色视频| 精品人妻在线| 久久这里只有精品22| 在线va网站| 亚洲无码yw| 亚州欧美黄色电影| 六月丁香五月婷婷| 另类激情五月| 色色色色色色色色网站| 五月婷伊人| 九色PORNY9l原创自拍| 丁香婷婷婷五月综合色情| 久久综合婷婷激情| 91狠狠综合久久| 99A级片| 日日干天天爽| 26UUU精品一区二区c〇m| 五月丁香六月婷婷综合在线| 久久久久久久8| 四季日韩AV无码综合| 久久精品国产AV一区二区三区 | 成人美女网| 狠狠操狠狠操AV| 91丁香五月| 色五月天婷婷| 丁香5月婷婷| 天天综合天天做天天综合| 色999亚洲人成色| 五月丁香大相交| 伊人久久大香线蕉综合网站| 新激情婷婷| 欧美槡BBBB槡BBB少妇| 色五月丁香五月| 男人天堂99| 草五月| 亚洲亚洲永久无码777777| 色婷五月丁香久亚洲| renrencaoni| 丁香五月性爱| 97碰在线| 9l视频自拍9l九色9l成人| 丁香五月婷婷综合激情啪啪啪啪啪啪啪| 婷婷色情 | 国自产拍偷拍精品啪啪一区二区| 99热这里只有精品4| 中文字幕av在线| 色婷婷五月天成人网| 色婷婷五月天久久| 四色99久久| 九九在线这里只有精品视频| 激情婷婷丁香色五月| 婷婷成人五月天一区| 综合网激情五月天| 怡红院院在线导航网 | 五月丁香六月婷| 五月天综合久久| 欧美成人性爱网| 色停停五月天| 99久久玖玖| 激情五月,婷婷五月,丁香五月| 久久久久久五月天| 欧美色欲色欲天天天www| 久久成人天| 99精品久久久久久久婷婷久久 | 色婷婷丁香五月| 久久久精品视频79| 婷婷精品免费久久| 超碰人人色| 久久久精品视频79| 華人性愛AV在線| 日本本土色网第一区| 亚洲 精品 综合 精品| 天天拍天天做视频|