99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

ARM Mali GPU鏈接實(shí)戰(zhàn):交叉編譯與libmali動(dòng)態(tài)庫加載指南

ARM Mali GPU鏈接實(shí)戰(zhàn):交叉編譯與libmali動(dòng)態(tài)庫加載指南 記得很多年前第一次把 OpenGL ES 程序跑在 ARM Linux 開發(fā)板上時(shí)卡在的不是shader寫錯(cuò)了而是程序一啟動(dòng)就報(bào)錯(cuò)找不到libmali.so。那時(shí)還沒有現(xiàn)在這么多現(xiàn)成工具鏈我折騰了一整天才弄明白所謂“ARM Mali GPU links”主要就是三條線交叉編譯鏈怎么選、GPU 用戶態(tài)驅(qū)動(dòng)庫怎么鏈接、運(yùn)行時(shí)怎么把libmali加載進(jìn)進(jìn)程。搞清楚這三條線你在 RK3399、RK3568、樹莓派或者飛騰平臺(tái)上調(diào) Mali 顯卡基本就是順?biāo)浦鄣氖隆_@篇內(nèi)容我按自己實(shí)際踩坑的順序整理先講整體思路和工具鏈選型再講編譯鏈接時(shí)的具體操作接著講運(yùn)行時(shí)動(dòng)態(tài)庫加載最后是問題排查速查表。內(nèi)容適合剛把 SDL/EGL/OpenGL ES 項(xiàng)目往 ARM 板上移植的開發(fā)者也適合想搞明白 “export LD_LIBRARY_PATH/usr/lib/aarch64-linux-gnu/mali”這行命令到底干了啥的運(yùn)維和 AI 部署工程師。1. 整體設(shè)計(jì)思路Mali 平臺(tái)上的“鏈接”到底在鏈接什么1.1 鏈接的本質(zhì)是讓 GPU 用戶態(tài)驅(qū)動(dòng)與你的應(yīng)用“對(duì)上話”ARM Mali 的 GPU 架構(gòu)里有一個(gè)非常明確的分工內(nèi)核側(cè)有 kbase/mali 驅(qū)動(dòng)用戶態(tài)側(cè)有 libmali.so。你的應(yīng)用程序不管是 EGLC 客戶端、Wayland compositor還是直接掉 OpenGL ES 的圖形程序在調(diào) EGL/GLES API 時(shí)實(shí)際是調(diào)用libmali.so里的入口再由這個(gè)庫通過 ioctl 把命令提交給內(nèi)核驅(qū)動(dòng)。整個(gè)過程里“l(fā)inks”這個(gè)詞體現(xiàn)在兩個(gè)層面第一層是編譯和靜態(tài)鏈接。你的應(yīng)用要能解析到eglCreateContext、glBufferData這類符號(hào)。在 PC 上NVIDIA 幫你把 libGL.so 塞進(jìn)了系統(tǒng)目錄但 ARM 嵌入式環(huán)境往往要你手動(dòng)指-L和-l。這一層出錯(cuò)通常發(fā)生在 cmake 交叉編譯時(shí)找不到庫文件或者鏈接時(shí)出現(xiàn)“undefined reference to eglCreateContext”。第二層是運(yùn)行時(shí)動(dòng)態(tài)加載。當(dāng)你敲下./my_gpu_app后動(dòng)態(tài)鏈接器要能按編譯時(shí)記錄的 SONAME 找到libmali.so以及它的依賴。如果你的板子鏡像預(yù)裝的庫路徑不是標(biāo)準(zhǔn)/usr/lib或者你手動(dòng)把不同版本的 mali 庫扔到倉庫目錄就需要通過LD_LIBRARY_PATH或 ldconfig 告訴動(dòng)態(tài)鏈接器。這一層出錯(cuò)就是經(jīng)典的error while loading shared libraries: libmali.so: cannot open shared object file: No such file or directory。我自己的實(shí)踐里這兩層問題往往同時(shí)出現(xiàn)編譯鏈配好了運(yùn)行又掛。所以你在做平臺(tái)移植時(shí)不妨先停下來把整個(gè)鏈接過程拆開審視一遍不要一上來就去調(diào) shader。1.2 交叉編譯鏈選型為什么別一上來就去翻 ARM Compiler 5.06熱搜詞里反復(fù)出現(xiàn) “arm compiler 5.06u7 下載”“arm compiler 5”我想提醒一下ARM Compiler 5.06RVCT 風(fēng)格確實(shí)是老嵌入式項(xiàng)目里的老朋友很多裸機(jī) SoC SDK 和早期 Mali 驅(qū)動(dòng)包都是用它編譯的。但對(duì)于跑 Linux 的 Mali GPU 項(xiàng)目我建議你優(yōu)先用Linaro GCC而不是 ARM Compiler 5.06。原因是這幾點(diǎn)一linaro gcc 是開源的版本迭代快對(duì) C11/14 和 OpenMP 支持好而 ARMCC 5.x 早就停止功能更新了二Mali 用戶態(tài)驅(qū)動(dòng)廠商比如 Rockchip 的 BSP一般提供的是已經(jīng)針對(duì) GCC 編好的.so你用 ARMCC 編應(yīng)用運(yùn)行時(shí)是去調(diào) GCC 編的動(dòng)態(tài)庫ABI 層面雖然大體兼容都是 EABI但遇到 C 異常處理、STL 符號(hào)版本這類問題調(diào)試成本會(huì)非常高三也是最實(shí)際的ARM Compiler 5.06 在老機(jī)器上還得配許可證折騰 License 的時(shí)間夠你編譯十遍內(nèi)核了。只有一種情況我會(huì)考慮 ARM Compiler 5.06項(xiàng)目里同時(shí)要編裸機(jī)固件比如 Mali 相關(guān)的安全固件或獨(dú)立的 GPU 微控制器程序且 SDK 強(qiáng)制要求 RVCT。這種情境下你可以繞過系統(tǒng) GCC單獨(dú)用 ARMCC 編出獨(dú)立的裸機(jī)鏡像但在 Linux 應(yīng)用側(cè)還是老實(shí)用 GCC/Linaro 的交叉編譯鏈。所以我這里給出一個(gè)非常直接的建議交叉編譯工具鏈選aarch64-linux-gnu-gcc版本不低于 9如果你需要 OpenMP確認(rèn)工具鏈里包含libgomp。如果你用的是 Rockchip Linux SDK里面自帶的交叉編譯鏈就是 prebuilt 的 linaro gcc直接export PATH$PATH:/opt/your_sdk/prebuilts/gcc/linux-x86/aarch64/gcc-linaro-6.3.1-2017.05-x86_64_aarch64-linux-gnu/bin即可。不要混用 kernel 編譯鏈和用戶態(tài)編譯鏈。Kernel module 和用戶態(tài)程序最好用同一套鏈避免 glibc 版本和符號(hào)版本差異帶來的問題。1.3 搞清楚你的 libmali 是哪種“馬甲”鏈接才不會(huì)錯(cuò)Mali 的“馬甲”多到讓人頭大同一個(gè) Rockchip BSP 里目錄下可能同時(shí)躺著libmali-midgard.so、libmali-bifrost.so、libmali-valhall.so或者帶-r32p0、-g2p0這類版本號(hào)尾巴的庫。我剛開始接觸時(shí)老是搞混以為隨便復(fù)制一個(gè)就行結(jié)果程序起來后 EGL 調(diào)用直接返回EGL_BAD_ALLOC。簡(jiǎn)單說Mali 驅(qū)動(dòng)跟 GPU 硬件代際強(qiáng)相關(guān)。你能在 SoC 數(shù)據(jù)手冊(cè)或內(nèi)核設(shè)備樹里看到 GPU 的型號(hào)比如 “Mali-T860”就是 Midgard 代對(duì)應(yīng)libmali-midgard.so“Mali-G52” 是 Bifrost 代對(duì)應(yīng)libmali-bifrost.soG78/G710 這類就是 Valhall 代。不同代際的 libmali 之間絕對(duì)不能混用。它們?cè)?EGL 擴(kuò)展、內(nèi)存分配、job slot 提交方式上差異非常大。鏈接中我的操作方法是先看設(shè)備樹或內(nèi)核日志確認(rèn) GPU 具體型號(hào)再在板子的/usr/lib/aarch64-linux-gnu/mali/或/usr/lib/arm-linux-gnueabihf/mali/里確認(rèn)有哪些庫文件然后用readelf -d libmali.so | grep SONAME查看它的 SONAME 到底是什么——這非常關(guān)鍵因?yàn)檫\(yùn)行時(shí)是按 SONAME 找?guī)斓娜绻愕?app 編譯時(shí)鏈接-lmali但 SONAME 卻是libmali.so.1編譯過了運(yùn)行卻會(huì)去找libmali.so.1而你系統(tǒng)里沒有這個(gè)文件名程序就起來不來。順帶一提像 Luckfox Pico、愛芯派這類小的 ARM 板Mali 的用戶態(tài)驅(qū)動(dòng)可能沒有原始廠商的版本更新快你有時(shí)需要從官方 BSP 的 release notes 里找對(duì)應(yīng)的“version string”而不是只看文件名。這個(gè)細(xì)節(jié)在我初期的項(xiàng)目里浪費(fèi)過好多時(shí)間。2. 編譯鏈接實(shí)操CMake 交叉編譯項(xiàng)目里Mali GPU 鏈接的五步配置2.1 首先讓 CMake 認(rèn)識(shí)你的 ARM 工具鏈寫 Mali 項(xiàng)目的人基本繞不開 CMake因?yàn)樗鼘?duì)交叉編譯的支持做得相當(dāng)順手。你可以先建一個(gè)arm-linux-toolchain.cmake核心內(nèi)容如下set(CMAKE_SYSTEM_NAME Linux) set(CMAKE_SYSTEM_PROCESSOR aarch64) set(TOOLCHAIN_PREFIX aarch64-linux-gnu-) set(CMAKE_C_COMPILER ${TOOLCHAIN_PREFIX}gcc) set(CMAKE_CXX_COMPILER ${TOOLCHAIN_PREFIX}g) set(CMAKE_FIND_ROOT_PATH /usr/aarch64-linux-gnu) set(CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER) set(CMAKE_FIND_ROOT_PATH_MODE_LIBRARY ONLY) set(CMAKE_FIND_ROOT_PATH_MODE_INCLUDE ONLY)這里最容易被忽略的是CMAKE_FIND_ROOT_PATH。它告訴 CMake找?guī)旌皖^文件時(shí)只在/usr/aarch64-linux-gnu下找不要跑去 x86 宿主機(jī)的/usr/lib。如果你不設(shè)置這個(gè)CMake 可能會(huì)在宿主機(jī)上找 libGL、libEGL鏈接出一堆 x86 格式的庫放板子上直接段錯(cuò)誤。我早期就犯過這個(gè)錯(cuò)連 vc4 simulator 的庫都差點(diǎn)被拉進(jìn)來。CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER的意思是找可執(zhí)行程序比如 pkg-config時(shí)仍用宿主機(jī)的因?yàn)槟鞘?x86 可執(zhí)行的工具用來生成編譯參數(shù)但庫和頭文件只能從目標(biāo)系統(tǒng)目錄里找。2.2 手把手配置 EGL/GLES 頭文件和庫路徑假設(shè)你拿到了 Rockchip 提供的libmali頭文件一般在/usr/include/EGL、/usr/include/GLES2、/usr/include/GLES3這幾個(gè)目錄下。在 CMakeLists 里這么寫set(MALI_INCLUDE_DIR /usr/aarch64-linux-gnu/include) set(MALI_LIB_DIR /usr/aarch64-linux-gnu/lib) include_directories( ${MALI_INCLUDE_DIR} ${MALI_INCLUDE_DIR}/EGL ${MALI_INCLUDE_DIR}/GLES2 ${MALI_INCLUDE_DIR}/GLES3 ) link_directories(${MALI_LIB_DIR})然后添加可執(zhí)行文件并鏈接add_executable(mali_demo main.cpp) target_link_libraries(mali_demo mali # 對(duì)應(yīng) libmali.so EGL GLESv2 pthread dl m )我習(xí)慣把libmali.so通過-l:libmali.so這種形式來鏈接防止名字匹配錯(cuò)。你在 target_link_libraries 里寫mali鏈接器會(huì)找libmali.so或libmali.a如果這個(gè)庫 SONAME 不匹配鏈接也能成功但運(yùn)行時(shí)就有問題。為保險(xiǎn)推薦直接寫全路徑target_link_libraries(mali_demo ${MALI_LIB_DIR}/libmali-bifrost-g52.so EGL GLESv2 pthread dl m )這樣寫還有個(gè)好處你一眼就能告訴自己板上跑的是 Bifrost G52 的 mali 庫而不是 Midgard 的。項(xiàng)目維護(hù)起來幾個(gè)月后回看 CMakeLists 都能想起當(dāng)時(shí)的硬件平臺(tái)。2.3 鏈接選項(xiàng)里必須注意的“隱藏符號(hào)”問題Mali 的 libmali.so 是個(gè)“大雜燴”有些版本會(huì)同時(shí)導(dǎo)出 EGL、GLESv1、GLESv2、OpenVG 的符號(hào)。如果你在鏈接時(shí)用了--as-needed并且鏈接順序不對(duì)鏈接器可能把libmali.so整個(gè)丟棄導(dǎo)致最后可執(zhí)行文件里沒有任何 EGL 符號(hào)。運(yùn)行時(shí)就會(huì)報(bào)undefined symbol: eglGetDisplay。我通常在 CMake 的 CMAKE_EXE_LINKER_FLAGS 里加入以下內(nèi)容set(CMAKE_EXE_LINKER_FLAGS ${CMAKE_EXE_LINKER_FLAGS} -Wl,--no-as-needed)這樣強(qiáng)制所有顯式列出的庫都參與鏈接。在 Ubuntu/Debian 系的交叉編譯環(huán)境里尤其要注意這一點(diǎn)因?yàn)橄到y(tǒng) GCC 默認(rèn)的--as-needed行為會(huì)比你在 x86 電腦上遇到的問題更隱蔽程序編譯通過、卻半天跑不起來。如果你是手工寫gcc命令而不是用 CMake那我給你一個(gè)標(biāo)準(zhǔn)命令行模板aarch64-linux-gnu-g main.cpp -o mali_demo \ -I/usr/aarch64-linux-gnu/include \ -L/usr/aarch64-linux-gnu/lib \ -l:libmali-bifrost-g52.so -lEGL -lGLESv2 -lpthread -ldl -lm \ -Wl,--no-as-needed執(zhí)行完以后用aarch64-linux-gnu-readelf -d mali_demo | grep NEEDED檢查一下看看 NEEDED 列表里的庫名是不是預(yù)期的名稱——這一步真的很快能省去后面大量調(diào)試時(shí)間。2.4 JIT shader 編譯與特定工具鏈約束Mali GPU 驅(qū)動(dòng)有“JIT 編譯”機(jī)制shader 編譯發(fā)生在運(yùn)行時(shí)而不是預(yù)先編譯雖然也有 offline blob 的方式比如malisc但多數(shù)項(xiàng)目還是運(yùn)行時(shí)編譯。這意味著你的進(jìn)程在運(yùn)行時(shí)要能夠分配可執(zhí)行內(nèi)存頁所以我們通常要鏈接dl并且確保/dev/mali設(shè)備節(jié)點(diǎn)的權(quán)限允許當(dāng)前用戶訪問。另外如果你的程序用到了 OpenGL ES 3.1 的計(jì)算著色器compute shader記得要在編譯時(shí)加-stdc11以上并且確保你鏈接的 libmali 支持這個(gè)擴(kuò)展版本。有些老版本 BSP 里的 libmali 只到 GLES3.0運(yùn)行時(shí)會(huì)返回GL_INVALID_OPERATION或干脆造成 GPU 崩潰gpu crash dump triggered。如果你是從桌面 OpenGL 轉(zhuǎn)到 Mali心里要有個(gè)預(yù)期Mali 對(duì) GL 版本的支撐就是“能用但別挑戰(zhàn)極限”你最好把目標(biāo)定為 GLES3.1 或 GLES3.2而不是去想 4.x core profile。這樣鏈接和運(yùn)行時(shí)的問題都會(huì)少一大截。2.5 靜態(tài)鏈接還是動(dòng)態(tài)鏈接別迷信“靜態(tài)更省事”有些朋友為了部署省事把 libmali 直接靜態(tài)鏈接進(jìn)主程序。我不建議這么做原因是一Mali 庫包含對(duì)內(nèi)核接口的依賴內(nèi)核驅(qū)動(dòng)版本升級(jí)后舊靜態(tài)庫可能和新內(nèi)核不兼容而你沒法通過替換一個(gè).so來解決二Mali 生態(tài)里很多輔助庫比如 OpenCL 的libOpenCL.so本來就不是純靜態(tài)發(fā)布的三如果你的 SDK 里有多個(gè) GPU 相關(guān)程序動(dòng)態(tài)鏈接可以共享一份用戶態(tài)驅(qū)動(dòng)內(nèi)存對(duì)整個(gè)系統(tǒng)資源占用更友好。所以我推薦的策略是動(dòng)態(tài)鏈接 在部署腳本里顯式復(fù)制庫 為依賴設(shè)置 RPATH。當(dāng)然有些 BSP 的 libmali 是用某些舊 GCC 版本編的動(dòng)態(tài)加載時(shí)可能會(huì)報(bào)缺少 GLIBC 某個(gè)版本符號(hào)。這時(shí)候如果你不想重新編譯頂層依賴就得在板子上用符號(hào)鏈接偽造一個(gè) GLIBC 版本但這非常危險(xiǎn)不如檢查自己的工具鏈版本和板子 stub 庫的一致性。3. 運(yùn)行時(shí)動(dòng)態(tài)庫加載LD_LIBRARY_PATH 與 ldconfig 的決策細(xì)節(jié)3.1 那行“export LD_LIBRARY_PATH...”命令到底在干嘛你搜到的熱詞里有一個(gè)典型的命令export LD_LIBRARY_PATH/usr/lib/aarch64-linux-gnu/mali:$LD_LIBRARY_PATH這行命令的核心作用是在動(dòng)態(tài)鏈接器的搜索路徑優(yōu)先級(jí)里把/usr/lib/aarch64-linux-gnu/mali放到繼承的路徑之前。動(dòng)態(tài)鏈接器通常是ld-linux-aarch64.so.1加載程序時(shí)會(huì)按以下順序查找共享庫DT_RPATH如果存在且 DT_RUNPATH 未設(shè)置LD_LIBRARY_PATH 環(huán)境變量可執(zhí)行文件的 DT_RUNPATH緩存文件/etc/ld.so.cache默認(rèn)目錄/lib、/usr/lib等如果你板子上/usr/lib/aarch64-linux-gnu/里本身也有一個(gè)libEGL.so而 mali 目錄里有另一個(gè)那么加了LD_LIBRARY_PATH后E GL 調(diào)用就會(huì)優(yōu)先命中 Mali 目錄下的版本。這在 Rockchip 和全志的許多 Debian 鏡像里非常關(guān)鍵因?yàn)樗鼈兿到y(tǒng)自帶的libEGL.so可能指向 panfrost 或 llvmpipe軟件渲染唯獨(dú) mali 目錄里的才是硬件 GPU 驅(qū)動(dòng)。我用個(gè)生活類比LD_LIBRARY_PATH就像給外賣配送員提前畫了一條“優(yōu)先送達(dá)路線”只要這條路線上的商家?guī)齑嬖谒筒粫?huì)繞遠(yuǎn)路去系統(tǒng)默認(rèn)市場(chǎng)取貨。但如果那條路線上的商家還沒開業(yè)文件不存在或權(quán)限不對(duì)外賣小哥還是會(huì)退回默認(rèn)路線而這一“退回”行為程序往往不會(huì)給你明確提示。3.2 驗(yàn)證你的 .so 實(shí)際被哪個(gè)路徑加載如果你懷疑程序加載了錯(cuò)誤的庫版本最實(shí)際的驗(yàn)證方式有兩個(gè)。第一個(gè)用ldd檢查動(dòng)態(tài)庫依賴。注意交叉編譯環(huán)境下的 ldd 不能直接跑目標(biāo)板程序但你可以用aarch64-linux-gnu-readelf -d來看也可以把程序拷貝到板子上在板子上跑ldd。板子的命令rootboard:~# ldd ./mali_demo linux-vdso.so.1 (0x0000ffff8f7f0000) libmali-bifrost-g52.so /usr/lib/aarch64-linux-gnu/mali/libmali-bifrost-g52.so (0x0000ffff8f5f0000) libEGL.so.1 /usr/lib/aarch64-linux-gnu/mali/libEGL.so.1 (0x0000ffff8f5e0000) libGLESv2.so.2 /usr/lib/aarch64-linux-gnu/mali/libGLESv2.so.2 (0x0000ffff8f5d0000) libpthread.so.0 /lib/aarch64-linux-gnu/libpthread.so.0 (0x0000ffff8f5b0000) libdl.so.2 /lib/aarch64-linux-gnu/libdl.so.2 (0x0000ffff8f5a0000) ...如果這里顯示的是/usr/lib/aarch64-linux-gnu/libGLESv2.so.2而不是 mali 目錄說明 LD_LIBRARY_PATH 沒配置成功或者該路徑下沒有對(duì)應(yīng)文件。第二個(gè)是在程序里打印實(shí)際加載路徑。用dladdr或直接打印dlopen句柄的路徑這在調(diào)試時(shí)特別有用。我在一個(gè)合成器項(xiàng)目里加過如下代碼#include dlfcn.h #include cstdio int main() { void* handle dlopen(libEGL.so.1, RTLD_NOW); if (!handle) { fprintf(stderr, dlopen failed: %s\n, dlerror()); return 1; } Dl_info info; if (dladdr(dlsym(handle, eglGetDisplay), info)) { printf(EGL implementation: %s\n, info.dli_fname); } dlclose(handle); return 0; }實(shí)測(cè)下來這個(gè)方法比看 ldd 輸出更直接因?yàn)橛械膸焓峭ㄟ^ dlopen 動(dòng)態(tài)打開而不是直接編譯鏈接的在 ldd 里根本看不到。3.3 更持久的配置/etc/ld.so.conf.d/mali.confLD_LIBRARY_PATH是臨時(shí)的、只對(duì)當(dāng)前 shell 進(jìn)程樹有效的方案。如果你希望程序開機(jī)就能用或者通過 systemd 服務(wù)啟動(dòng)的程序也能自動(dòng)找到 Mali 庫我更推薦在板子上創(chuàng)建一個(gè)配置echo /usr/lib/aarch64-linux-gnu/mali /etc/ld.so.conf.d/mali.conf ldconfig這樣動(dòng)態(tài)鏈接器在讀取/etc/ld.so.cache時(shí)就會(huì)把 mali 目錄下的庫都索引好后續(xù)任何程序直接libEGL.so.1都能命中。這個(gè)做法的核心好處是“全局生效”缺點(diǎn)是如果你板子上同時(shí)存在多個(gè) GPU 用戶態(tài)庫比如 mali 和 panfrostldconfig的索引順序可能不按你的預(yù)期來。這時(shí)候你可以用ldconfig -p | grep mali查看緩存列表確認(rèn)優(yōu)先級(jí)。如果發(fā)現(xiàn) panfrost 搶了先可以用/etc/ld.so.preload但一般不建議或者把不需要的庫重命名/移出目錄來確保命中目標(biāo)庫。我在 RK3588 的板子上就遇到過類似問題系統(tǒng)自帶的 gdm/wayland 合成器需要 Mali 庫但它以 systemd user 服務(wù)方式運(yùn)行LD_LIBRARY_PATH不會(huì)傳入該用戶的登錄 shell。后來我用ld.so.conf.d方案一次性解決穩(wěn)定跑了幾個(gè)月。3.4 RPATH 別亂設(shè)但也不能完全不設(shè)編譯時(shí)設(shè)置 RPATH可以在可執(zhí)行文件內(nèi)部記錄庫搜索路徑效果類似aarch64-linux-gnu-g main.cpp -o mali_demo \ -Wl,-rpath,/usr/lib/aarch64-linux-gnu/mali \ -L/usr/lib/aarch64-linux-gnu/mali -l:libmali-bifrost-g52.soRPATH 的坑在于如果目錄里缺失某個(gè)運(yùn)行時(shí)依賴程序報(bào)錯(cuò)信息會(huì)很隱晦且當(dāng)你把整個(gè)目錄結(jié)構(gòu)移動(dòng)到另一臺(tái)機(jī)器上時(shí)RPATH 里寫死的絕對(duì)路徑會(huì)導(dǎo)致庫找不到。更推薦用$ORIGIN風(fēng)格-Wl,-rpath,$ORIGIN/libs這表示可執(zhí)行文件同目錄下的libs子目錄。把 libmali 系列庫復(fù)制到應(yīng)用的libs目錄整個(gè)程序就是“自包含”的很適合嵌入式應(yīng)用發(fā)布。需要注意的是動(dòng)態(tài)鏈接器只有在可執(zhí)行文件設(shè)置了 DT_RUNPATH 而不是 DT_RPATH 時(shí)才會(huì)讓LD_LIBRARY_PATH優(yōu)先于 RPATH如果你想要 RPATH 最高優(yōu)先級(jí)甚至高于 LD_LIBRARY_PATH必須使用 DT_RPATH 格式但大多數(shù)現(xiàn)代系統(tǒng)默認(rèn)會(huì)轉(zhuǎn)成 DT_RUNPATH。這塊兒細(xì)節(jié)很多我的建議是能用LD_LIBRARY_PATH或ld.so.conf.d解決的就別折騰 RPATH只有在需要“單目錄分發(fā)”時(shí)才用$ORIGIN。4. 交叉編譯中的典型問題與排查技巧4.1 程序咔一下退出了還報(bào) gpu crash dump triggeredMali 驅(qū)動(dòng)的日志里出現(xiàn)gpu crash dump triggered是最讓人頭大的錯(cuò)誤之一。我在一個(gè) RK3399 平臺(tái)上跑自己寫的延遲渲染 demo 時(shí)切換 framebuffer 分辨率后必現(xiàn)崩潰。經(jīng)過抓取/sys/kernel/debug/mali的 dump 才發(fā)現(xiàn)問題出在我在程序里用glBufferData頻繁分配了一個(gè)超大 vertex buffer而庫版本沒有開啟 GPU 內(nèi)存的 CMA 預(yù)分配導(dǎo)致物理內(nèi)存碎片化驅(qū)動(dòng)無法分配連續(xù) pages最終 GPU job 超時(shí)崩潰。這個(gè)問題的排查方向我建議從這三個(gè)點(diǎn)入手用戶的 app 是否用到了 Mali 不擅長(zhǎng)的“長(zhǎng)渲染指令”或“非常規(guī) framebuffer 維度”。系統(tǒng)內(nèi)存是否不足。Mali 和 CPU 共用內(nèi)存GPU 內(nèi)存分配失敗不比 CPU OOM 溫和。內(nèi)核驅(qū)動(dòng)和用戶態(tài) libmali 版本是否一致。版本不匹配是這類崩潰的頭號(hào)原因。調(diào)試時(shí)建議先在內(nèi)核啟動(dòng)參數(shù)里加上mali_debug_force_panic或打開/sys/kernel/debug/mali的 debug 節(jié)點(diǎn)讓它輸出更詳細(xì)的 job 狀態(tài)。工業(yè)級(jí)做法是寫一個(gè)長(zhǎng)時(shí)間運(yùn)行的 stress 腳本不斷地創(chuàng)建銷毀 EGL Context同時(shí)用dmesg監(jiān)控mali內(nèi)核日志一旦崩了就把完整調(diào)用鏈抓出來。我后來定位到崩潰的根因是我在 GLES 主線程里同時(shí)跑了一個(gè) CPU 線程讀回glReadPixels而 Mali 的同步對(duì)象處理在這種情況下有比較高的開銷導(dǎo)致 CPU 線程頻繁觸發(fā) job slot 搶占。為了解決它我在隊(duì)列提交前用了glFinish()而非glFlush()并把讀寫分離到不同 FBO。問題隨之消失。4.2 為什么我鏈接了 libmali還是報(bào) undefined reference to eglCreateContext這問題通常不是你沒鏈接而是頭文件和庫不配套。舉例頭文件來自 Mesa 的主機(jī)開發(fā)包里面聲明了 EGL 1.5 的所有函數(shù)而你板子上的 libmali 可能只實(shí)現(xiàn)了 EGL 1.4。鏈接時(shí)的 undefined reference 倒不一定出現(xiàn)更常見的是運(yùn)行時(shí)報(bào)EGL_BAD_DISPLAY或EGL_BAD_ALLOC。如果你看到的真的是鏈接錯(cuò)誤為undefined reference to eglCreateContext則一般有下面幾種情況你鏈接的庫文件名不對(duì)。-lEGL實(shí)際去找libEGL.so但板子 BSP 里只有l(wèi)ibmali-bifrost-g52.so里面雖然導(dǎo)出 EGL 符號(hào)但并沒有名為libEGL.so的軟鏈接。解決辦法在 mali 庫目錄里手動(dòng)建libEGL.so - libmali-bifrost-g52.so、libGLESv2.so - libmali-bifrost-g52.so。你忘了在鏈接命令里加-lEGL。因?yàn)?EGL 頭文件是純聲明編譯器不會(huì)知道你還需要專門鏈接哪個(gè)庫它只會(huì)看著源碼里調(diào)用了eglCreateContext等到鏈接器階段才告訴你找不到符號(hào)。你的 toolchain 是arm-linux-gnueabihf但目標(biāo)系統(tǒng)是aarch64。位數(shù)不一致鏈接器當(dāng)然報(bào) undefined。排查時(shí)要用file libmali*.so看 ELF 的 machine 類型。實(shí)際操作中我最常用的土辦法是先編譯一個(gè)只調(diào)用eglGetDisplay的最小程序把庫路徑和-Wl,--trace或-Wl,-y,eglCreateContext加進(jìn)去鏈接器會(huì)輸出它到底在哪個(gè)庫里找到符號(hào)。這條命令的輸出信息量極大能幫你快速判斷是頭文件和庫版本不匹配還是庫文件本身有問題。4.3 重啟后 LD_LIBRARY_PATH 丟失如果你是在 SSH 會(huì)話里執(zhí)行export LD_LIBRARY_PATH...一關(guān)終端就失效這是 shell 環(huán)境變量作用域的問題。針對(duì)這種情況我建議根據(jù)啟動(dòng)方式選擇方案手動(dòng)調(diào)試寫到~/.bashrc或/etc/profile.d/mali.sh。systemd 服務(wù)在 service 文件的[Service]段加EnvironmentLD_LIBRARY_PATH/usr/lib/aarch64-linux-gnu/mali。圖形桌面登錄寫到 Xsession 或 wayland-session 的配置里。最省事也最穩(wěn)定直接用/etc/ld.so.conf.d/mali.confldconfig。我見過不少朋友把LD_LIBRARY_PATH寫進(jìn).bashrc結(jié)果 systemd 起的服務(wù)依然找不到庫。后來我全部統(tǒng)一成ld.so.conf.d方案系統(tǒng)所有進(jìn)程都受益。唯一需要注意的是ldconfig后要確認(rèn)ldconfig -p里出現(xiàn)了 mali 庫并注意順序優(yōu)先級(jí)。4.4 一個(gè)萬能級(jí)的排查步驟清單如果你現(xiàn)在編譯一個(gè) Mali GPU 程序遇到問題按下面順序走一遍通常 20 分鐘內(nèi)能定位確認(rèn) GPU 型號(hào)cat /sys/class/misc/mali/device/uevent或內(nèi)核日志里的maliprobe 信息。確認(rèn)用戶態(tài)庫是否存在ls -l /usr/lib/aarch64-linux-gnu/mali/。查看庫的 SONAMEreadelf -d libmali-bifrost-g52.so | grep SONAME。交叉編譯后用readelf -d app | grep NEEDED確認(rèn)依賴。拷貝到板子上用ldd app看能否解析。用LD_DEBUGlibs ./app看動(dòng)態(tài)鏈接器的詳細(xì)查找路徑這招非常有用。運(yùn)行最小 EGL 示例而不是直接上復(fù)雜渲染器。我把常遇到的靜態(tài)問題和應(yīng)對(duì)方法整理成一張速查表方便你貼到工位旁邊癥狀大概率原因排查/解決動(dòng)作編譯時(shí)找不到 EGL/GLES 頭文件INCLUDE 路徑未指向 BSP 的 include 目錄在 CMake 里打印 include dirs確認(rèn)路徑存在且包含 EGL/egl.h鏈接時(shí) undefined reference頭文件與庫不匹配庫名寫錯(cuò)檢查-lEGL是否實(shí)際解析到有符號(hào)的.so用nm -D libmali.so | grep eglCreateContext運(yùn)行時(shí)找不到 libmaliLD_LIBRARY_PATH 未設(shè)置或目錄沒有這個(gè)庫用export LD_LIBRARY_PATH/usr/lib/aarch64-linux-gnu/mali或 ld.so.conf.d運(yùn)行時(shí)加載到錯(cuò)誤的 libEGL庫里有多套實(shí)現(xiàn)用ldd確認(rèn)實(shí)際加載路徑必要時(shí)移動(dòng)/屏蔽舊庫程序崩潰且內(nèi)核打 mali crash dump內(nèi)核驅(qū)動(dòng)與用戶態(tài)庫版本不匹配/內(nèi)存壓力統(tǒng)一 BSP 版本調(diào)整 GPU 內(nèi)存分配策略檢查 dmesg渲染結(jié)果花屏/黑屏顏色格式、buffer 尺寸不對(duì)檢查 EGL config 的 buffer size嘗試不同的 ANativeWindow format5. 再進(jìn)一步GPU 計(jì)算與 AI 部署場(chǎng)景下的 Mali 鏈接經(jīng)驗(yàn)現(xiàn)在在 ARM 板上做 GPU 計(jì)算和 AI 推理的場(chǎng)景非常普遍像paddleocr、sensevoice部署到 ARM 架構(gòu)平臺(tái)時(shí)很多人誤以為只靠 CPU 就能跑或者以為大家都去 CUDA 了Mali 就不需要了。實(shí)際上Mali 也支持 OpenCL部分產(chǎn)品還支持 OpenGL ES 3.1 的 compute shader甚至 ARM 在最新的 Valhall 代 GPU 上強(qiáng)化了矩陣運(yùn)算能力。對(duì)于在 ARM Mali 上部署 AI 模型鏈接層面的經(jīng)驗(yàn)也值得單獨(dú)拎出來說一說。5.1 OpenCL 的鏈接和 libmali 的“萬能導(dǎo)出”Mali GPU 要跑 OpenCL往往同樣依賴一個(gè) libmali 或?qū)iT的 libOpenCL.so。在 Rockchip 的 BSP 里你經(jīng)常會(huì)看到/usr/lib/aarch64-linux-gnu/mali/libOpenCL.so。這個(gè)庫可能只是一個(gè)符號(hào)鏈接到 libmali-bifrost.so。如果你的應(yīng)用要鏈接 OpenCL公式如下aarch64-linux-gnu-g cl_demo.cpp -o cl_demo \ -I/usr/aarch64-linux-gnu/include/CL \ -L/usr/lib/aarch64-linux-gnu/mali \ -lOpenCL -lpthread -ldl這里要注意有些 OpenCL 頭文件版本要求庫至少支持 OpenCL 1.2而部分老 Mali 的 BSP 只提供 1.1 擴(kuò)展。我建議你在編譯前先寫個(gè)clinfo類似的工具在板子上跑一下確認(rèn)CL_PLATFORM_VERSION和CL_DEVICE_TYPE_GPU。從部署角度如果你跑 PaddleOCR 的 GPU 版Paddle Lite 加載的 mali OpenCL 庫需要在編譯 Paddle Inference 時(shí)指定-DWITH_GPUON -DWITH_OPENCLON并且靜態(tài)/動(dòng)態(tài)搜索 libOpenCL.so 的路徑要提前配置好。很多人以為 PaddleOCR 的 GPU 部署只要換一個(gè)模型文件就行實(shí)際上鏈接和運(yùn)行時(shí)庫配置缺一不可。我在 RK3588 上部署 PaddleOCR 時(shí)就是靠把libOpenCL.so放進(jìn)/usr/lib/aarch64-linux-gnu/mali/再寫一個(gè)mali.conf然后用LD_LIBRARY_PATH指向它應(yīng)用才正確調(diào)起 GPU。5.2 SenseVoice 等新一代小模型的 ARM 部署要考慮 GPU 動(dòng)態(tài)庫沖突像sensevoice-small這類 ASR 模型官方往往提供 ARM 架構(gòu) CPU 版本但我實(shí)測(cè)過如果在帶 Mali GPU 的板子上有 libOpenCL部分推理框架會(huì)默認(rèn)嘗試 GPU/OpenCL 加速這時(shí)如果鏈接庫配置不對(duì)運(yùn)行可能掛掉。我的處理方式是如果只是做 CPU 推理驗(yàn)證就在啟動(dòng)腳本里明確不加載 mali 的 OpenCL 庫如果想要 GPU 加速就專門設(shè)計(jì)一條推理路徑確保libOpenCL.so和libmali.so來自同一 BSP 版本并設(shè)置好 loader 搜索順序。這里最容易踩的坑是你自己把libOpenCL.so.1放到/usr/local/lib而系統(tǒng)也有/usr/lib/aarch64-linux-gnu/libOpenCL.so.1兩邊的實(shí)現(xiàn)不同導(dǎo)致 clGetPlatformIDs 返回空。我建議你對(duì)板子上所有 OpenCL 相關(guān)庫做一次“審計(jì)”find / -name *OpenCL* -type f -o -name *libmali* -type f 2/dev/null把路徑理清后再?zèng)Q定是統(tǒng)一通過ld.so.conf.d配置還是在每個(gè)服務(wù)的啟動(dòng)腳本里手動(dòng) export。小模型部署項(xiàng)目里穩(wěn)定大于性能。5.3 多 GPU 同時(shí)測(cè)試與 GPU 調(diào)度Mali 不是主戰(zhàn)場(chǎng)但也別忽略現(xiàn)在的 AI 服務(wù)器場(chǎng)景里linux 三個(gè)gpu同時(shí)測(cè)試、gpu調(diào)度這類詞很熱但那是 NVIDIA 和昇騰的主場(chǎng)。你要是真在 ARM 單板上做“多 GPU 調(diào)度”通常是指 GPU NPU VPU 的異構(gòu)協(xié)同。鏈接層面的經(jīng)驗(yàn)是NPU 工具鏈比如 RKNN和 GPU 工具鏈libmali會(huì)同時(shí)出現(xiàn)在系統(tǒng)里它們各自有自己的 runtime 庫容易因符號(hào)沖突打架。我在 RK3568 上做過一個(gè)路燈檢測(cè)項(xiàng)目RKNN Toolkit 的庫依賴librga.so而這個(gè)庫又依賴libmali.so做 2D 加速。如果不把libmali路徑正確配置RGA 初始化也會(huì)失敗。雖然這不是嚴(yán)格的“多 GPU 調(diào)度”但底層都繞不開 Mali library 的鏈接是否干凈。我當(dāng)時(shí)的做法是把 RKNN 和 RGA 的庫、Mali 庫全部放入/opt/vendor/libs然后為每個(gè)服務(wù)單獨(dú)配置LD_LIBRARY_PATH避免全局污染。5.4 NVIDIA GPU Operator 文檔、arm64 GPU 節(jié)點(diǎn)Mali 只是背景板還有一個(gè)容易誤解的地方nvidia gpu operator 官方文檔 中文這種熱詞你可能會(huì)覺得與 Mali 無關(guān)但如果你的 ARM 平臺(tái)指的是Grace-Hopper 這類 NVIDIA ARM64 服務(wù)器那么它里面并沒有 Mali GPU而是 NVIDIA 自家 GPU。這種平臺(tái)上的 GPU 驅(qū)動(dòng)、容器運(yùn)行時(shí)支持跟 Mali 完全不是一套。寫這篇博文的目的之一也是想提醒大家看到 “ARM” 和 “GPU” 兩個(gè)詞不要想當(dāng)然認(rèn)為就是 Mali。ARM 作為一種 CPU 架構(gòu)可以搭配 Mali、Adreno、PowerVR、NVIDIA 等不同的 GPU IP而“Mali GPU links”更準(zhǔn)確地說是針對(duì) ARM SoC 集成的 Mali 圖形/計(jì)算處理單元的鏈接與部署場(chǎng)景。如果你要在 NVIDIA ARM64 上部署加速需要考慮的是 NVIDIA 官方 driver 的 deb/rpm 包【像熱詞里的銀河麒麟 ssh 10.3 rpm升級(jí)包arm就屬于這種場(chǎng)景】而不是 Mali 的 libmali。這個(gè)區(qū)別我在多個(gè)項(xiàng)目里反復(fù)提醒過因?yàn)閮烧呔幾g參數(shù)、動(dòng)態(tài)庫名稱、EGL 實(shí)現(xiàn)都完全不同。6. 避坑心得與長(zhǎng)期維護(hù)建議6.1 我每次搭建 Mali 開發(fā)環(huán)境都會(huì)做的三件小事經(jīng)過反復(fù)折騰后我把一套“初始化清單”固定了下來你以后拿到任何新的 ARM/Mali 板子都可以照做第一下載或提取 BSP 后先別急著編應(yīng)用先把板子上的 GPU 相關(guān)庫做一次快照ls -l /usr/lib/aarch64-linux-gnu/mali/、cat /sys/kernel/debug/mali/version或/sys/class/misc/mali/device/uevent把版本號(hào)記錄下來。第二在板子上跑一個(gè)最小的 EGL 初始化程序。這個(gè)程序不做任何渲染只是創(chuàng)建 EGLDisplay、EGLContext打印EGL_VENDOR。如果它能過說明庫和系統(tǒng)環(huán)境正常如果不行后面搞什么大程序都是白搭。第三寫一個(gè)setenv_mali.sh腳本內(nèi)容就是用export LD_LIBRARY_PATH/usr/lib/aarch64-linux-gnu/mali:$LD_LIBRARY_PATH并且用ldconfig -p驗(yàn)證它的實(shí)際生效情況。如果你的系統(tǒng)已經(jīng)用ld.so.conf.d方案則這個(gè)腳本可以空著但你要確保每個(gè) systemd 服務(wù)的Environment字段都對(duì)了。6.2 如何確保內(nèi)核驅(qū)動(dòng)和用戶態(tài)庫版本的一致Mali 最麻煩的問題就是內(nèi)核 kbase 驅(qū)動(dòng)和用戶態(tài) libmali 的版本必須匹配。比如 RK 的 BSP release 里內(nèi)核側(cè)通過mali_kbase模塊實(shí)現(xiàn)用戶態(tài)側(cè)libmali的版本字符串通常長(zhǎng)這樣r32p0-01rel0或g2p0-01rel0。如果你的內(nèi)核 driver 是 r32p0而用戶態(tài)庫是 g2p0即使兩者都能加載運(yùn)行一段時(shí)間后也極易產(chǎn)生 GPU crash dump。我建議你在初始化時(shí)寫一個(gè)監(jiān)控腳本定時(shí)抓 dmesg 里的maliregister 信息再對(duì)照庫的strings libmali.so | grep r[0-9]p輸出確認(rèn)一致。這聽起來很土但在嵌入式環(huán)境里往往比想象中有效。你甚至可以寫個(gè)小函數(shù)把查詢結(jié)果自動(dòng)拼接成一條日志放到 CI 流水線里每次更新 BSP 后自動(dòng)比對(duì)。選擇 BSP 時(shí)盡量使用官方 release 里配好的固定版本組合不要自己去內(nèi)核主線里隨便升級(jí) kbase 驅(qū)動(dòng)——主線內(nèi)核的 Mali 驅(qū)動(dòng)版本往往和 Rockchip/全志的庫版本不匹配。6.3 最終部署分發(fā)應(yīng)用時(shí)把庫和環(huán)境一起帶上我經(jīng)常看到有人把編譯好的二進(jìn)制直接拷給同事然后同事跑不起來原因就是目標(biāo)板子缺少 Mali 庫路徑。為了避免這種低級(jí)問題我現(xiàn)在一律在發(fā)布目錄里帶上一個(gè)deploy/文件夾my_app/ ├── my_app # 主程序 ├── libs/ │ ├── libmali-bifrost-g52.so │ ├── libEGL.so - libmali-bifrost-g52.so │ ├── libGLESv2.so - libmali-bifrost-g52.so │ ├── libOpenCL.so - libmali-bifrost-g52.so │ └── libgbm.so.1 # 如果有 GBM 需求 ├── run.sh └── README.mdrun.sh內(nèi)容非常短#!/bin/bash SCRIPT_DIR$(cd $(dirname $0) pwd) export LD_LIBRARY_PATH$SCRIPT_DIR/libs:$LD_LIBRARY_PATH exec $SCRIPT_DIR/my_app $這種方式既保證了庫版本的可控又避免了污染系統(tǒng)目錄后續(xù)升級(jí)應(yīng)用時(shí)只需替換libs下的.so完全不用改動(dòng)系統(tǒng)鏡像。我做過的好幾個(gè)嵌入式 HMI 項(xiàng)目都是這么發(fā)版的。當(dāng)然如果板子上的系統(tǒng)集成商有統(tǒng)一鏡像管理你仍可以沿用/usr/lib/aarch64-linux-gnu/malild.so.conf.d方案但應(yīng)用自攜帶libs至少是一種與環(huán)境解耦的底牌。6.4 關(guān)于LD_LIBRARY_PATH的一個(gè)容易被忽略的細(xì)節(jié)最后補(bǔ)充一個(gè)在這個(gè)問題上極其容易被忽略的坑動(dòng)態(tài)鏈接器對(duì)LD_LIBRARY_PATH的搜索順序是啟動(dòng)時(shí)固化的不是運(yùn)行中動(dòng)態(tài)變更的。也就是說如果你的程序在運(yùn)行過程中把庫路徑unset或改成別的值已經(jīng)加載進(jìn)來的庫不會(huì)受影響。所以如果你在調(diào)試時(shí)看到“我明明改了環(huán)境變量但程序還是報(bào)錯(cuò)”大概率是因?yàn)槟愕?shell 環(huán)境沒有重新執(zhí)行export或者程序的父進(jìn)程是 systemd 啟動(dòng)的根本不會(huì)繼承你 shell 里的變量。解決方法是始終用env | grep LD_LIBRARY_PATH確認(rèn)當(dāng)前值或者在程序里主動(dòng)調(diào)用dlopen并指定絕對(duì)路徑。有些程序例如部分 AI 推理引擎內(nèi)部自己管理庫加載可能不走系統(tǒng)動(dòng)態(tài)鏈接器的默認(rèn)搜索而是通過/proc/self/maps和dlopen的絕對(duì)路徑來加載。這種情況下你即便配好LD_LIBRARY_PATH也不一定管用最直接的辦法就是看到庫路徑不對(duì)時(shí)手動(dòng)改庫的軟鏈接或直接替換/usr/lib下的庫文件但這種操作要盡量保證系統(tǒng)里沒有其他程序依賴舊版本。我在 RK3588 上面調(diào)試 GStreamer Mali 的 GPU 視頻合成時(shí)就遇到過 GStreamer 用絕對(duì)路徑加載libmali而忽略LD_LIBRARY_PATH的情況最后是通過patchelf --set-rpath /usr/lib/aarch64-linux-gnu/mali給 GStreamer 的插件 .so 設(shè)置 RPATH 解決的。這里不展開講 patchelf 的所有參數(shù)但記住一個(gè)原則軟件加載庫的路徑可能五花八門最終要確認(rèn)的是 /proc/進(jìn)程pid/maps 里面那行 .so 到底指向哪里。6.5 額外提醒交叉編譯時(shí)不要過度依賴-marchnative我知道很多人喜歡在交叉編譯時(shí)加-marchnative來提升性能但在 Mali 項(xiàng)目里這是個(gè)非常危險(xiǎn)的操作。-marchnative會(huì)讓編譯器根據(jù)宿主機(jī)x86的 CPU 特性生成指令而不是目標(biāo) ARM 板卡的指令集。結(jié)果就是編譯出的程序根本跑不了或者出現(xiàn)非法指令。正確做法是明確指定目標(biāo) CPU 的微架構(gòu)比如-marcharmv8-asimd或更高版本。Mali GPU 本身和 CPU 指令集無關(guān)但用戶態(tài)驅(qū)動(dòng)的調(diào)用序列和方式與 CPU ABI 強(qiáng)相關(guān)。如果你在交叉編譯時(shí)不小心加了 host 相關(guān)的 flags鏈接階段可能不會(huì)報(bào)錯(cuò)但程序一上板就是 illegal instruction。這種錯(cuò)誤很難排查所以我建議在你的 CMakeLists 里加上set(CMAKE_C_FLAGS ${CMAKE_C_FLAGS} -marcharmv8-a) set(CMAKE_CXX_FLAGS ${CMAKE_CXX_FLAGS} -marcharmv8-a)如果你的程序一定要用 OpenMP 或向量化再按目標(biāo)板卡的 CPU 核型如 Cortex-A76微調(diào)-mcpu參數(shù)。這個(gè)原則在“ARM Mali GPU links”這個(gè)主題下尤其重要Mali 庫本身是預(yù)編譯好的你的應(yīng)用只要遵循目標(biāo)板的 ABI鏈接就不會(huì)出問題。我在實(shí)際項(xiàng)目里見過太多因?yàn)?marchnative把整個(gè)工程搞得云里霧里的情況所以這里單獨(dú)拎出來提醒一下。7. 最后再分享一個(gè)實(shí)用小技巧用LD_DEBUGlibs看透一切加載細(xì)節(jié)如果你和我一樣是“肉眼調(diào)試派”那么LD_DEBUG環(huán)境變量絕對(duì)是你解決動(dòng)態(tài)庫鏈接問題的殺手锏。在板子上執(zhí)行LD_DEBUGlibs ./mali_demo你會(huì)看到動(dòng)態(tài)鏈接器打印出它查找每個(gè)庫的完整路徑find librarylibEGL.so.1 [0]; searching search path/usr/lib/aarch64-linux-gnu/mali/tls/aarch64:/usr/lib/aarch64-linux-gnu/mali/tls:/usr/lib/aarch64-linux-gnu/mali (LD_LIBRARY_PATH) trying file/usr/lib/aarch64-linux-gnu/mali/tls/aarch64/libEGL.so.1 trying file/usr/lib/aarch64-linux-gnu/mali/tls/libEGL.so.1 trying file/usr/lib/aarch64-linux-gnu/mali/libEGL.so.1這一段信息幾乎能解決所有“我明明設(shè)置了路徑但程序還是找不到”的困惑。比如它告訴你搜索路徑里有沒有 mali 目錄、是否因?yàn)?tls 子目錄不存在而被忽略。還有LD_DEBUGbindings可以看到符號(hào)綁定過程LD_DEBUGfiles看到文件打開關(guān)閉順序。真實(shí)項(xiàng)目中使用這招一個(gè)小時(shí)能頂你好幾天“猜謎式”調(diào)試。但注意LD_DEBUG輸出量很大會(huì)拖慢程序啟動(dòng)只適合調(diào)試時(shí)用。生產(chǎn)環(huán)境千萬不要留著。寫在最后ARM Mali GPU 的鏈接?xùn)|西說多不多說少也不少。你只要抓住“編譯時(shí)符號(hào)解析”和“運(yùn)行時(shí)動(dòng)態(tài)加載”這條主線再深入理解libmali在 BSP 體系中的定位大部分問題都能迎刃而解。我個(gè)人經(jīng)歷中最難的不是哪一條命令不會(huì)寫而是同時(shí)面對(duì)內(nèi)核驅(qū)動(dòng)、用戶態(tài)庫、CMake 交叉編譯鏈、運(yùn)行時(shí)環(huán)境變量這幾個(gè)環(huán)節(jié)時(shí)心智容易混亂。建議你調(diào)試時(shí)一次只動(dòng)一個(gè)變量改完路徑就ldd驗(yàn)證改完 CMake 就readelf -d驗(yàn)證不要一次性把所有參數(shù)全換掉。這樣即便報(bào)錯(cuò)也能快速回滾。如果你已經(jīng)能順利把 EGL Context 創(chuàng)建出來并且glGetString(GL_RENDERER)返回了 “Mali-…” 開頭的信息那恭喜你這一關(guān)過了。后面無論是寫渲染器、OpenCL 計(jì)算還是往 RKNN/NPU 異構(gòu)方案里塞 Mali 加速你都已經(jīng)有了扎實(shí)的底層基礎(chǔ)。希望這篇內(nèi)容能幫你在 ARM Mali 的板子上少走彎路早點(diǎn)跑出第一幀畫面。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99视频在线观看视频| 成人在线观看国产| 欧美成人精品老美女噜噜噜| 激情色色| 香蕉大综综综合久久| 婷婷亚洲综合| 另类图片天天影视在线观看| 五月婷婷五月天在线| www.超碰| 丁香五月婷婷亚洲综合精品| 伊人超碰在线| 婷婷伊人综合| 97夫妻超碰| 无码髙清| 婷婷五月激情图片| 噜噜五月天综合| 五月婷婷中字在线| 91九色欧美| 久久久久这里都是精品| 曰曰久久| 综合AV在线| 婷综合六月| 婷婷欧美| 丁香五月天啪啪| 9久热在线视频精品| 婷婷六月激情丁香| 久久机热这里只有 | 思思热久热| 九九热视频网站| 波多野结衣AV无码Porn| 日韩精品无码AV| 51精品国自产在线| 九九99精品免费播放| 激情五月天婷婷五月天| 色色五月婷| 99爱在线精品视频免费观看| 思思久久99| 啪啪婷婷五月天激情| 欧美性爱5月天天天看| 五月丁香好婷婷姑娘综合网| 夜夜爽日日躁| 婷婷五月激情四射手| 91九色网| 国产乱人偷精品人妻A片| 99精品视频网站| 99免费热视频在线| 色色A| 色综合久久88色综合天天99| 人人播| 91碰超| 五月天com| 婷婷五月天在线观看第二页| 激情五月婷婷五月| 婷婷天堂站| 九月激情综合| 天天插天天插| 五月天基地| 久久婷婷色综合老司机| 午夜丁香婷婷| 噜噜噜精品欧美成人在线观看| 啪啪五月天啪啪| 综合性视频99| 五月婷婷亚洲| 免费视频99| 丁香五月亚洲激情婷婷射| 久久色五月| www.五月婷婷.com| 天天综合五月| 99爱视频| 欧美交换配乱吟粗大25P| 熟妇人妻中文字幕无码老熟妇| 狠狠狠狠狠狠| 中文字幕网站在线观看| 性 色 婷婷| 婷婷永久在线| 五月丁香大相交| 久久综合九九| 99爱在线| 色色是色N一| 天干天天干天天天天天| 五月丁香六月婷婷久久肏| 任我肏| 少妇性按摩无码中文A片| 婷婷五月天国产传媒| 99久久超级| 日本女人久久| 婷婷干五月综合在线播放| 婷婷五月天网址| 日本99久久| 66精品国产成人| 婷婷五月天亚洲色| 亚洲区视频| 91九色首页| 中文字幕精品推荐免费在线观| 婷婷情色五月天| 蜜乳9188| 97碰超级人人看| 国产成人片| 激情五月天99色| 丁香五月AV综合| 五月激情五月婷婷五月天在线| 97香蕉久久超级碰碰高清版| 午夜激情久久| 99久久综合精品五月天| 噜噜在线| 婷婷伊在线| 丁香五月天在线观看| 天天综合色| 色五月色情| 在线观看熟女少妇| 国产67194| 亚洲免费综合一区| 欧美精品XXXXBBBB| 91操片| 六月色五月天天婷婷| 超碰在线中文字幕| 欧美日韩成人在线免费| 日日夜夜狠狠操| 五月天婷婷激情| 99在线精品视频| 不卡影院午夜理论片| 99ri在线观看视频| 91Chinese在线| 六月婷婷色综合| 99精品偷自拍| 26UUU亚洲欧美| 激情婷婷丁香| 很很操96| 欧美激情五月天| 欧美日韩国产一区| 久久久久亚洲AV无码网影音先锋| 久久激情天堂| 婷婷午夜精品久久久| 午夜成人av在线| 蜜臀av无码久久久久久久久| 99这里有精品| 内射干少妇亚洲69XXX| 亚洲网站999| 婷婷丁香成人五月天| 欧美三级巜人妻互换| 色婷婷五月天天天天天| 欧美大片| 99免费视频在线观看爱| ou洲色吧| 日本激情91| 密臀av无码人妻精品| 99思思| 日本色色视频| 色五月婷婷亚洲| 久久九九激情五月天| 婷丁香五月天| 激情五月天天| 噜噜国产| 9久久久久久久久久久| 另类 在线| 五月丁香久久呀| 五月丁香色婷婷久久| 99热销国产这里有精品| 婷婷丁香五月激情| 色天天综合成人网| 国产成人AV在线播放| 色婷婷四虎| 第一区久久网站| 亚洲乱码日产精品BD| 无码一区二区日韩| 婷婷五月天综合久久日| 天天综合五月天| 欧美伊人9| 黄色片区子| 久久久激情视频| 天天色视频| 麻豆科斗777| 少妇被躁爽到高潮无码文| AV天堂婷婷五月天| 婷婷五月色综合| 天天干天天操天天爽| 操笔无码| 久久99久久久| 亚洲另类在线观看| 99色色网| 欧洲激情五月天| 超碰操日| 久久丁香五月婷婷| 色情综合网| 午夜丁香 婷婷| 青青草五月天| 丁香五月婷婷色情综合| 97色婷婷| 亚洲五月花| 国产老熟妇亲子乱对白| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | Av性爱网站| 成人草榴视频| 综合色情网| 欧美日韓成人亚洲精品另类| 五月丁香婷婷啪啪网| 碰97久久| 99热777| 欧美久人人| 亚洲超碰在线| 五月狠狠| 丁香婷婷成人在线播放| 欧美极品999| 淫视馆av三区| 婷婷五月影院| 啪啪91| 婷婷情色激情| 亚洲五月天综合| 久碰婷婷视频| 99九九99九九九视频精品| 99碰碰| 97超碰婷婷五月天| 中文字幕在线不卡| 五月婷婷五月丁香| 久久思思热视频| 国产亚洲在线观看| www.99日本| 国外亚洲成AV人片在线观看| 97色在线| 日日天天干| 99热精品在这里| 天天综合情| 婷婷久久婷婷色五月| 久久九九国产精品怡红院| 久久这里只精品| 五月天欧美 另类小说| 婷婷99热| 婷婷久久丁香五月| 热99精品视频五月| 激情五月天的婷婷| 色天堂97| 狠狠久综合| 双性美人被调教到喷水A片| 国产精品色婷婷99久久精品| 五月丁香影院| 干一干xxxx| 国产另类综合| 操人妻视频91| 伊人青涩网| 国外亚洲成AV人片在线观看| 丁香网站| 国产AV一区二区三区最新精品| 大香蕉久久| 五月丁香六月| 日韩精品999| 国产无套精品一区二区| 天天狠狠夜夜狠狠2023| 五月婷视频| 丁香成人色情五月天| wwwxxx五月婷婷小说| 丁香五月图片| 99成人精品| 婷婷五月天国产手机在线视频观看| 人妻中文在线| 99热无码精品| 婷婷五月激情在线| 久久色情综合免费网站| 99精品在线观看视频| 激情五月婷婷色| 激情五月色综合| 日日舔夜夜操| 97五月久久丁香婷婷| 日熟女| 丁香六月婷婷久久综合| 亚洲色五月| 日韩AAAAA| 99精品热| 五月婷婷碰碰| 国产无人区大片| 五月亚洲| 国产精品色婷婷久久久精品| 久久一热| 久久久久久久久月丁| 婷婷色影音天| 色色色婷| 丁香五月婷婷色五月| 天天干天天干天天干天天干天天干天天 | 五月停亭六月,六月停亭的英语| 殴美综合激情五月天免费视频| 五月精品| 色色五月天婷婷| 99色视频| 五月久久网| 激情五婷网| 亚洲这里只有精品| 99在线小视频| 精品乱码久久久久| 99热黄| 丁香六月婷婷色播| 色婷婷婷综合五月天| 操啊操av| 日本婷婷| 激情 婷婷| 九九色精品| 色情五月天se| 超碰在线人人| 1769在线观看欧美国产| 五月天丁香六月综合| 婷婷五月丁香激情色情| 97热精品| 国产av天天插天天操天天爽| 99操碰| 四虎婷婷五月天| 婷婷五月天综合在线| 大香蕉啪啪啪| 超碰精品国产首页| 九九视频精品在线免费| 操一区| 伊久大香蕉| 五月天激情四射网站| 激情五婷精品网在线观看网址| 五月天激情网页| 9999三级片| 亚洲色无码A片一区二区麻豆| 91久久九色| 第2色五月婷| 婷婷丁香五月婷婷| 在线五月婷| 天天爽在线视频| 色色 亚洲| 婷婷免费视频| 99ri精品视频在线观看| www.minyis.com【JT】实力收量可预付QQ2101460746 | 婷婷五月电影| 天天狠狠干| 激情六月天| 狠狠色婷婷7777久综合| 九九综合久久| 婷婷中合| 婷婷色香六月综合激情| 91一起操| www.粉嫩av.com| www.婷婷五月| 97色碰碰公开视频| 激情婷婷综合五月少妇| 人人色人人弄人人操| aaaaa黄色| 97色天堂| 99在线免费视频| 五月天婷婷婷| 天天色凹凸| 婷婷天天综合| 丁香六月婷婷基地| 久色欧美| 免费看片操逼| 91日日日| 日本色图综合| 色五月天丁香| 中文字幕 码精品视频网站| 久久婷网| 99色婷婷视频| 五月丁香| 五月婷婷之激情五月| 色五月情| 五月丁香婷婷激情视频| av在线免费网站| 五月天激情国产综合婷婷| 久热精彩视频98| 亚洲色综久久五月| 91日综合欧美| 殴美综合激情五月天免费视频| 日本三级片片| 五月激情婷婷综合| 丁香六月婷婷一区| 日本二级毛片二级毛片| 激情六月日韩| 96精品久久久久久久久| 26uuu精品国产| 五月丁香六月婷| 国产午夜一区二区三区| 婷婷久久六月天| 久久精品国产AV一区二区三区 | 婷婷五月图片小说视频| 久热亚洲| 色色色99| 婷婷五月天综合色| 久9精品| 丁香五月欧美激情| 激情网 五月天| 国产精品久久久爽爽爽麻豆色哟哟| 天天日人人| 欧美黄色一级录像| 激情丁香五月| 人人爽在线视频综合网| 丁香五月婷婷香| 免费看成人747474九号视频在线观看| 永久无码色| 国色天香成人网| 在热视频精品| 久热婷婷| 色五月在线综合| 日本在线视频播放91| www久久久| 三人荫蒂添的好舒服A片| 天天操,夜夜骑| www热久久yy9| 五月天综合在线| 久久欧洲综合网| 久久久jd| 中国无码av| 婷婷综合网| 色愛综合网| 日韩一级一片内射视频4K| 色五月天成人| www.五月激情.com| 综合久久五月天| 亚洲激情四射| 色五月色图| 久久网站观看免费欧洲国产| 大香蕉欧美在线| 九九这里只有精品| 91丨九色丨丰满人妖| 77799热| 久久久久久久五月| 性做爰1一7伦| 五月婷婷综合激情| 欧美狠狠色| 国产Va视频| 91视频免费后入强操| 极品少妇XXXX精品少妇偷拍| 久久总和99| 五月婷婷综合潮喷| www,欧美干干干干干干| 超碰超碰在线| www.激情五月天.con| 思思99热| 9999久久久久| 色婷婷综合网| 婷婷五月天狠狠| 五月天 综合 在线| 99er日韩| 五月丁香六月综合基地| 丁香婷婷五月人体| 97成人操| 欧美五月停| 成人丁香五月| 日韩啊啊啊| 婷婷综合五月| 九九热在线视频| 成人精品99| 亚洲精品乱码久久久久99| 在线你懂的亚洲欧| 色玖玖爱| 99热新网址| www.97干视频| 超碰网站在线观看| 中文字幕成| 色婷婷AV久久| 国产色色小草视频| 9久热在线精品| 五月天社区婷婷| 精品一二三区久久AAA片| 99热综合| www.狠狠| 婷婷五月天影院| 超碰91在线| 猫咪伊人久久| 热九九精品| 色色五月天丁香| 九九性爱网| 类似婷婷激情综合网站| 成人一级片| 久草性爱| 亚洲综合成人网| 婷婷五月天影院| 五月婷婷激情综合| 风流少妇A片一区二区蜜桃| 五月婷久久| 日本丁香五月| 爽tv | 色五月丁香com| 久在热99| 91视频久久久| 色色婷| 99免费成人网| 亚洲AAAA网| 婷婷五月天成人影片| 五月丁香激情婷婷综合| 日日操夜夜爽| 99久久婷婷国产综合| 激情小说五月天| 五月天激情国产综合婷婷婷| ..真实国产乱子伦毛片 | 熟女国产在线一区二区三区四区| 色婷婷香蕉丁丁网| 色综合色色| 青青夜夜狠狠夜夜狠狠| 人人视频色| 极品人妻VideOssS人妻| 99成人在线观看| 亚洲国产无线乱码在线观看| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 婷婷午夜丁香| 人人舔人人色人人高潮| 激情5月婷婷| 色域五月婷婷丁香| 香蕉AV777XXX色综合一区| 天天综合区| www激情网站| se99高清无码| 五月丁香无码视频| 亚洲人妻av| 国产成人精品一区二区三区视频 | 99综合自拍| 天天婷婷综合| 五月丁香六月情| 99色热| 超碰在线日夜| 婷婷五月情| 五月婷婷综合色啪首页| 97在线精品视频| 亚洲情综合五月天| 日本婷久久| 色情五月天首页| 天天爽天天| 风流少妇A片一区二区蜜桃| 亚洲图色五月天| 亚洲色婷婷| 婷婷五月天BBw| 美女五月天| 天天久久婷婷| 综合色天天| 色色五月婷婷久久| 日韩人妻在线播放| 综合久色五月| 久婷婷| 97亚洲精品| 五月激情五月丁香| 超碰人人操在线| 国产av天天插天天操天天爽| 久久草人妻| 六月丁香婷婷综合在线| 爆乳熟妇一区二区三区四区| 欧美日韩91| 婷婷丁香五月亚洲17cao| 中国丰满熟女A片免费观| 丁香五月手机在线| 这里只有精彩视频| 啪啪操网| 97好吊操| 色青青电影色五月| 色必久悠悠影院| 香蕉综合在线| 性色婷婷| 成人免费高清在线播放| 欧美婷婷精品激| 色久综合天天做视频| 色婷视频| 激情综合青草| 五月天综合| 日韩综合久久| 国产在线黄色| 超碰9| 五月丁香综合激情| 99热欧美精品| 五月丁香六月玩女人| 色色网站日本91| 我爱婷婷五月天综合88| 性按摩玩人妻HD中文字幕| 日韩三级片一区二区| 亚洲激情综合| 深爱五月激情综合| 婷婷五月天成人网| 国产欧美婷婷五月| 91男同视频| 丁香久久五月天视频在线观看| 婷婷色在线| 丁香婷婷精品视频| 丁香五月影院| 在线A色| av操B网站| 思思热久久久在线| 国产黄色av| 激情图片五月天| 99色日本| 婷婷91| 丁香六月婷婷激情综合| 操碰91| 国产色婷婷亚洲| 99精品国产乱码久久久人妻| 天天色天天噜| 久久九九99.www| 五月丁香综合激情网| 久热在线观看视频9| 亚洲操B| 色99热| 久久思思热| 综合在线丁香五月| 色婷婷AV在线观看| 91碰在线| 色五月av伊人| 一区二区三区四区牛| 97色天堂| 日本的α片xxxwww| 五月天啪啪网| 91一起操| www 五月天 com| 青青操成人福利| 日韩另类在线观看| 开心五月天私房婷婷| 免费看欧美成人A片无码| 天天热夜夜操| 激情av在线| 激情五月综合亚洲另类| 五月天色婷婷激情| 色情五月天视频网| 丁香久久激情俄| AV电影在线播放| 午夜爱爱爱成人| 丁香天堂夜| 丁香玖玖视频大全| 天天爽人人综合免费7799| 五月丁香婷色| 六月婷欧美| 国产精品a无线| 99视频这里有精品| 色五月天综合| 色综合久久天天综合网| 精品一区久热| 五月天亭亭俺也| 99亚洲无码| 丁香五月激情婷婷视频| 青青999| 爱射综合| 日韩综合久久| 五月天另类图片| 欧美在线视频99| 色碰97| 婷婷五月色| 五月丁香激| 国产精品色色色色| 大香蕉久久伊人婷婷五月丁香| 岛囯综合激情网| 综合五月婷婷| 91超碰人人操| 五月天天天天天天天天天天天天天天天婷婷婷 | 在线1青婷| 99热这里只有精品10| 国产无人区大片| 性爱激情五月| 久久er99热精品一区二区| 精品久久9| www.国产色| 国产精品色色色色| 婷婷六月色丁香视频在线观看| 婷婷六月天天| 丁香婷婷婷五月综合色情| 成人国产网站在线免费看| 狠狠操狠狠操| 欧美性爱五月天| 四月婷婷五月丁香| 天天插,天天射| 丁香五月天av| 日韩婷婷五月天| 丁香五月天色综合| 视频这里只有精品| 99热啪啪| 丁香五月婷婷狠狠色| 九九这里是免费的视频5| 六月丁香成人| 1234操逼网| 在线免费观看激情视频| 99艹精品在线观看| 九月丁香婷婷网| 真实的国产乱XXXX在线91| 风流少妇A片一区二区蜜桃| 亚洲婷婷五月天| 激情五月天影院| 久99视频| 亚洲激情综合| www.夜夜| 色欧美一级| 99精品偷自拍| 青青草伊人婷婷| 天天色综网| 色婷婷五月天av在线| 久久caop| 91人妻人人操| 色色色色色色五月婷婷| 亚洲视频国产一区| 操人91| 色一区高清| 五月婷免费视频久久久| 手机看片日日做夜夜| 99re26视频| 亚洲第一色区| 丁香五月天婷婷激情| 激情综合在线观看| 99热思思| 91无码一区人妻A片蜜| 婷婷五月丁香青青草在线| 九九综合网| 射久久丁香五月| 丁香五月婷婷超碰在线| 丁香五月丐人妻| 69er小视频| 五月婷婷啪| www.久久久久久久| 天天做天天爱天天高潮| 色婷婷av综合网| 欧美日韩国产伦精品日韩人妻一| 日韩九九视频| 九九久久综合网站| 色婷久| 九九热在线视频| 色综色网| 五月天久久综合| 久久成人性爱| www婷婷| 九九这里有精品| 婷婷五月丁香五月基地| 成人综合视频在线| 五月丁香少妇网| 五月天婷婷乱论小说| 久久综合99| 五月成人丁香av91| 先锋五月婷婷丁香草草| 久久人人人人妻| 久久性操| www.91热久久| 九月丁香婷婷| 真实亲子乱子伦高清在线观看| 91天天操天天干天天射| 玖久久网站| 综合婷婷| 熟女激情五月天 | 精品视频这里只有精品| 五月丁香亚洲婷婷| 日本色色网| 五月婷婷七月丁香| se99在线| 日本99视频| 五月天婷婷激情四射综合| 久久99热这里只有精品首| 无码色色| 极品人妻VIDEOSSS人妻 | 无码任你操| 五月天激情图片网| 五月天影院婷婷在线观看| 外国碰视频网站97| 狠狠综合久久综合| 操逼福利视频| 亚洲va成人va成人va在线观看| 婷婷激情97| 激情五月天综合图片小说网站| 亚洲人人操| ai97re99一本| 五月色导航| av狠狠操| 操逼毛片国语对白| 26uuu精品一区二区| 三级片AAA久久久AAA久久久AAA| 久99视频在线观看| 五月丁香激情五月天| 噜噜噜噜在线| 天天爱天天狠天天透| 九97免费视频| 激情综合丁香五月| 人人操人人爱丁香五月| 99热无码首页| 极品少妇高潮啪啪AV无码| 大香蕉五月天婷婷丁香91| 婷婷五月天综合小说网| 91精品激情9| 婷婷五月综合婷婷| 99综合久久| 色月丁| 日日日,com| 97干欧美| 9久久网| 精品五月天| 久久99大| A网在线欧洲| 丁香六月在线综合| 激情开心五月亚洲| 91无码色色| 97色色色视屏| 涩涩五月天| 99热精品10| 婷婷大香蕉| 日本的α片xxxwww| 日本色婷婷| 99热99思午夜精品| 六月激情网| 99热大全在线观看| 日韩啪啪网| 91精品熟女| 国产毛片欧美毛片久久久| 色久婷婷五月| 白人荫道BBWBBB大荫道| 玖玖九九99| 天天射天天操天天干| 99精品在线下载| 色啪久| 久久丁香五月婷| 狠狠久久婷| 五月狠狠| 欧亚洲在线高清视频| 亚洲操B| 婷婷丁香五| 麻豆观看夏晴子| 久8色色| 高清国产一级婬片a免费| 人人摸人人干| 大香蕉婷婷丁香天堂AV| 五月色亚洲| 天天操天天爽天天爱| 婷婷情色开心五月天99| 啪到高潮激情丁香五月| 五月丁香六月婷婷在线播放| 亚洲黄色网址| 亚洲五月天另类小说图片| 激情99| 成人片在线播放| 涩五月丁香| 婷婷九月丁香天堂丁香天堂| 婷婷少妇激情| 久久只有精品| 一起操 91N.com| 99啪啪视频| 99热这里只有精品13| 久久九九囯产| 五月丁香婷婷综合| 思思热久久婷婷五月天| 五月天色色婷婷| 亚洲日韩一页精品发布| 婷婷五月丁香伊人| 大香蕉人妻| 激情五月婷婷综合网| 亚洲人人操| 性爱先锋AV| 久久丁香网| 青草激情综合| 啄木鸟丝袜美女福利视频| 久久精品婷婷| 婷婷五月丁香色色| 任你艹| 丁香婷婷婷五月| 99精品久久| 久久综合香蕉国产国产蜜臀AV| 激情综合色| 色99欧洲色19| 日韩色色网| www.五月婷| 99热| 久久婷婷91| 欧美VA在线观看| 色婷婷婷av| 亚洲AV成人无码电影| 国产高潮A片羞羞视频涩涩| 中文AV在线观看| 天天干天天干天天干天天干天天干天天干天天 | 国产97色在线| 亚洲网综合在线| 久久婷狠狠色| 丁香激情综合| 婷婷五月天影视网址| 天天操加勒比| 国产婷婷久久| 熟女色色一区二区| 五月丁香啪啪综合| 五月丁香色综合| 天天影视色综合网| 婷婷五月免费观看| 日韩成人AV在线| 在线不卡中文字幕| 日本熟女啪啪| 五月色情| 97碰久久| 激情碰碰碰| 草了bav视频在线观看| 婷婷中文字幕| 狠狠干在线| 79色色| 美国天天日天天操| 五月社区丁香| 天天做天天爱天天日| 婷婷久久久久| www,色婷婷| 五月丁香婷婷婷激情爱爱| 桃色五月婷婷| yazhoujiqingav| 99热18| 激情综合一| 伊人91| 婷婷综合五月| 9久久精品| 91色综合| 久久亚洲婷婷| 成人丁香五月| 九九热只有精品| 啪啪综合网| 超碰在线99| 色五月婷婷影院| 99热.com| 色色99| 国产精品大香蕉| 人人爱操| 国产无套精品一区二区| 最新高清无码专区| 秋霞少妇AV网站| 婷婷五月丁香青青草在线| 黄色中文字目| 91热在线观看视频| 婷婷久久天堂网| www.精品久9| 激情久久久久久久久久| 婷婷丁香激情综合色情| 九九激情综合| 午夜色色色极品视频| 激情美女五月天| 天干天天干天天天天天| 人人综合五月人人婷婷| 色色网站免费观看| 激情文学五月丁香六月婷婷| 色爱综合网| 综合视频久久| 丁香五月av| 免费看欧美成人A片无码| co超碰在线观看| 久久99久久久久久久噜噜| 五月天婷婷基地综合网| 天天做天天爱高潮片| 都市激情五月婷婷综合| 激情5月天天天| 激情小说在线视频| 91爱啪啪| 黄网在线播放| 激情图片亚洲| 99热九九在线| 激情五月婷黄版| 天天日夜夜操五月| 无码人妻AV久久久一区二区三区| 免费无码毛片一区二区A片| 色五天综合| 伊人狠狠色婷婷综合丁香一区| 99热这里都是精品| 深爱激情四射| 婷婷五月天成人网站| 26.uuu丁香五月婷婷| 大香蕉久| 久久99jiu9| 丁香五月香蕉在线| 五月花婷婷丁香| 丁香五月日韩| 人妻第九页| 五月天开心色情网| WWW、日本色丁香、co m| 五月久视频| 五月天婷婷影院| 97sese婷婷| 丁香五月婷婷深爱综合激情| 日本 @ va 免费| 爱射综合| 色yeye欧美| 99re热| 人妻激情在线| 丁香六月婷婷操逼网| 超碰免费成人| 久久精品视频9| 99热在线播放| 色色色色区| 99色热视频| 婷婷色在线| 久婷自拍视频| 九九九九九九九热| 99热免费精品| 久久亚洲天堂| 久久只这里有精品| 79精品视频在线观看,| 久久99jiu9| 婷婷五月天深爱| 国产精品久久久久久白浆色欲| 色婷婷狠狠禁18久久| 五月丁香久人妻中文| 99在线精品视频| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 激情图片五月天| 99色爱| 亚洲夜五月| 激情九月综合| 一级无码作爱片| 欧美亚洲操逼| 色爱综合网| 99这里有精品视频| 另类视频五月天| 丁香六月婷婷激情| 天天插夜夜爽| 激情五月婷婷综合| 蜜臀AV在线成人| 色婷婷女优有码五月亭| 九九这里有精品视频| 婷婷91| 亚洲激情综| 五月婷婷之婷婷| 色五月色开心开心五月| 五月色情婷婷开心五月色情| 婷婷激情六月| 99色在线视频| 97操操操| 成人在线精品| 亚洲在线操| 日本系列_4页_777FP| 九九热精品视频在线观看| 人操人| 六月丁香VA| 亚洲美女裸体被操在线观看| 六月丁香婷婷色69| 日韩成人不卡| site:feetmall.com| 91妻人人爽人人看片| 五月社区婷婷激情| 国产91资源在线| 色情久久久| 68热超碰在线| 99九九精品视频| 97婷婷五月丁香| 婷婷五月天狠狠搞干| 青青操成人福利| 久久人妻久久| 先锋资源婷婷| 成人AV在线电影| 九九99精品视频在线观看| 91操操| 丁香六月婷婷五月天| 国产精品国产成人国产三级| 欧洲激情五月天| 超碰九热| 99这里只有精品|v| 小骚穴电影| 五月天大香蕉| 五月丁香婷婷在线综合蜜桃| 欧美顶级少妇做爰HD| 日韩色情亚洲五月天婷婷| 久草x色在线观看99| 成人丁香五月天| 99爱99操| 成人午夜无码视频| Va另类视频| 婷婷五月天天激情| 另类图片激情五月| 久久五月婷婷电影| 碰97 久| 高清无码视频网址| 秋霞成人毛片一级A片| 亚洲激情网| 99视频在线观看欧| 久久久久久18| 五月婷婷黄色| renrencaoav| 99热精品超碰| 99热亚洲精品| 日日操,夜夜爽| 97五月婷婷| 久综合网| 婷婷色色欧美| 免费九九热| 97人碰人操| 色哟哟精品| 夜夜爽日日躁| 五月99久久| 青草视频在线观看视频| 色情五月婷婷| 天天爽成人综合网站| 国产精品24r| 激情av| 深爱五月日韩| 婷婷综合欧美| .comwww在线观看免费操| 噜噜视频| 色色AV色色色东莞| 丁香六月 婷婷六月| 99啪视频在线观看| 91碰碰碰| 色色色在线观看| 九九久久99| 9色在线视频| 免费色婷婷| 色播五月婷婷| 九九热视频这里只有精品| 思思热思在线精品视频| 九月av在线| 亚洲精品久久久无码| 99九九综合久久九九| 五月丁香六月激情综合在线| 五月色色网| www.9色色色| 色婷婷综合网| 熟女激情网| 激情丁香图片| 欧美综合婷婷欧美综| AA久久| 97自拍视频网| 天天射影院| 五月婷亚洲精品AV天堂| 99re热免费观看视频精品| 五月丁香激情片| 久久婷五月综合| 婷婷丁香大香蕉| 国产成人精品一区二三区熟女在线| 五月天激情四射网站| 国产,欧美,日韩,性爱| 激情的五月婷婷蜜桃| 91在线日| 射久久丁香五月| 成人久碰| 欧美性猛交XXXX乱大交极品| 夜夜谢天天干| 免费观看亚洲AV片| 99色在线视频| 色色色.COM| 丁香五月激情澎湃一区| WWW、日本色丁香co m| 色五月综合激情| 日本WWW九九九| 色五月综合97| 婷婷五月精品中文| 玖玖@三月天天丁香婷婷| 99ER热精品视频| 国外亚洲成AV人片在线观看| 激情五月天婷婷丁香| 激情综合无码| 猫咪伊人久久| EEUSS鲁片一区二区三区| 无码任你操| 婷婷久久亚洲| 丁香五月亚洲| 婷婷五月色情天| 拳交大逼| 婷婷五月深爱五月| 丁香5月婷婷| 色色丁香激情五月| 这里只有精彩视| 色色 9| va亚洲中文在线| 婷婷五月图片小说网| 丁香婷婷综合激情五月色| 日日撸日日操| 亚洲丁香五月| 色婷婷色五月天| 青草五月天| 亚洲婷婷五月| 99精品国产热久久91色欲| 99色婷婷视频| 99色色视频| 少妇人妻人伦A片| 中国女人做爰A片| 五月婷A V在线| 国产人人操| 婷婷欧美激情| 99久久久免费| 麻豆科斗777| 春色激情第四色| 国产日日操夜夜操的肉棒视频| 成人电影丁香六月天| 99色色色色| 我去色色网五雨天| 亚洲黄色影视| 婷色五月天| 丁香五月狠狠在线观看| 色婷婷第四色| 亚洲小电影在线观看黄999| 激情综合区| 婷婷五月激情六月丁香| 操操操操操电影网| 色五月婷婷基地| 国产熟女一区二区三区五月婷| 人妻啪啪啪| 国产乱妇乱子在线播视频播放网站| 26uuu成人网| 蜜桃婷婷狠狠久久| 久久色频| 激情网婷婷婷| 丁香五月手机在线| 亚洲操操| 丁香五夜激情四射夜夜夜| 国产精品99久久久久久猫咪| 激情综合播播| 亚洲aV写真天天综合网久久| 五月丁香六月激情综合| 激情色播| 黄色91在线观看| 99久久精彩视频。| 午夜婷婷六月天| 日韩在线视频中文字幕| 国产午夜精品一区二区三区嫩草| 在线超碰精品| 无码九九| 综合五月天完整| 丁香五月激情啪啪| 99热草草| 色碰碰视频| 婷婷五月丁香久久| www.色婷婷| 第四色色六月色综合| 亚洲AV网站| 婷婷五亚洲| 玖玖热视频| 九九久久玖玖爱| 色综天天综合| 色婷婷成人五月| 综合激情婷婷| 99ri视频在线播放| 五月天成人网婷婷| 美欧日韩国产成人在战| 4399啪啪视频| 中文字幕在线播放视频| 操日挥操日日| 97人人草| 美欧日韩国产成人在战| 综合五月天婷婷色| 天天色亚洲| 狠狠干在线| 六月婷婷激情小说网| 亭亭五月丁香五月天激情| 99日视频在线| 色情播放| 色婷婷激情| 操日视频| www,99热| 乱乱av| 888精品福利地址| 五月婷婷久久大香蕉| 影音先锋91视频| 狠狠操天天操天天操| 久久色情| 久久综合色五月| 五月六月激情| 亚洲蜜桃精久久久久久久久久久久| 夜夜 操无码| 天天干天天做| 一区二区三区四区牛| 极品人妻videosss人妻| 色五月大| 99九九热视频免费| 日撸夜撸日操| 亚洲无AV在线中文字幕| 婷婷色网| 五月婷精品| 91色吧网| 99精品免费视频| 七七久久婷婷| 99热久草| WwW色婷婷| 337p午夜影院| 天天综合精品| 欧美婷婷六月丁香综合色连续高潮抽搐| 五月婷婷偷拍| 日本WWW九九九| EEUSS鲁片一区二区三区| 五月丁香六月婷婷综合| 十月丁香九月婷婷综合| 久久久高清| 狠狠久综合| 亚洲网站观看视频| 色婷婷五月天激情综合| 精品国产乱码久久久久久免费 | 国产99精品免费视频| 久久久免费精彩视频| 天天爽在线视频| 五月天成人综合| 最新热中文字幕| 国产毛片精品一区二区色欲黄A片| 99啪啪| 色墦五月丁香| 婷婷五月天影视|