99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

STM32MP257異構(gòu)多核實(shí)戰(zhàn):M33+FreeRTOS與OpenAmp通信避坑指南

STM32MP257異構(gòu)多核實(shí)戰(zhàn):M33+FreeRTOS與OpenAmp通信避坑指南 前陣子負(fù)責(zé)一個(gè)需要同時(shí)兼顧 Linux 生態(tài)和實(shí)時(shí)控制的項(xiàng)目最終把選型落在 STM32MP257 上。這顆芯片最大的看點(diǎn)是 Cortex-A35 旁邊那個(gè) Cortex-M33 核用 FreeRTOS 在里面跑實(shí)時(shí)邏輯再通過 OpenAmp 和 Linux 側(cè)做無感通信。很多人一聽到 MPU 就以為又是嵌入式 Linux 那一套實(shí)際上 M33 FreeRTOS 才是真正決定項(xiàng)目成敗的部分。這篇文章從 SDK 目錄結(jié)構(gòu)、啟動(dòng)順序、DTS 內(nèi)存預(yù)留一直聊到 RPMsg 收發(fā)、緩存一致性、量產(chǎn)心跳監(jiān)控的完整過程。準(zhǔn)備在 STM32MP25x 上做異構(gòu)開發(fā)的朋友可以直接當(dāng)避坑手冊用。1. 從MP1到MP2為什么這次我選了STM32MP257的M33核1.1 STM32MP257不是又一個(gè)跑Linux的開發(fā)板STM32MP257 屬于 STM32MP25x 系列內(nèi)部是多核異構(gòu)架構(gòu)。主處理器是 Cortex-A35可以跑完整的 Linux協(xié)處理器是 Cortex-M33適合跑裸機(jī)或者 FreeRTOS。很多人看到 MPU 的第一反應(yīng)是“主頻多少、內(nèi)存多大、能不能跑容器”但這些指標(biāo)只衡量了 A35 那半邊。真正讓 MP257 和普通 Linux 板卡拉開差距的是那顆 M33 核。傳統(tǒng)做法里如果一個(gè)系統(tǒng)既需要 Linux 的業(yè)務(wù)吞吐又需要對電機(jī)、IO、協(xié)議棧做“微秒級響應(yīng)”往往會(huì)外掛一顆 MCU比如 STM32F4 或者 GD32。主 SoC 和 MCU 之間用 UART、SPI、CAN 通信。通信協(xié)議自己要定義可靠性自己要保證板級面積和功耗也多了一份。MP257 把 M33 做進(jìn)同一顆 SoC兩個(gè)核之間的通信通過共享內(nèi)存和硬件郵箱完成延遲比外掛串口低一兩個(gè)數(shù)量級。從項(xiàng)目角度講這意味著可以省掉一顆外部 MCU減少整個(gè) BOM 的物料種類和貼片面積。另一方面M33 與 A35 共享同一片 DDR通過 RPMsg 傳數(shù)據(jù)天然比“外部 MCU 串口 協(xié)議解析”更穩(wěn)。當(dāng)然省掉外部 MCU 不意味著省事因?yàn)榭绾苏{(diào)試、內(nèi)存隔離、固件加載這些問題全部從硬件層級轉(zhuǎn)移到了軟件工程里。1.2 M33核在整個(gè)系統(tǒng)里的角色實(shí)時(shí)性與安全島M33 在 MP257 里承擔(dān)什么角色直接決定了 FreeRTOS 工程怎么寫。如果只是想讓 A35 跑 LinuxM33 跑一個(gè)流水燈那這顆核就浪費(fèi)了。我這次項(xiàng)目里M33 要做三類事第一類是硬實(shí)時(shí)控制。比如電流環(huán)的 PWM 更新周期是 20kHzLinux 的調(diào)度根本保證不了這種確定性。M33 本身就是單片機(jī)內(nèi)核配合定時(shí)器中斷能穩(wěn)定完成。第二類是高速 IO 響應(yīng)。MP257 有不少 GPIO 和低速外設(shè)掛在 M33 側(cè)比如部分 UART、I2C、SPI、定時(shí)器。把這些外設(shè)放在 M33 上A35 側(cè) Linux 發(fā)生調(diào)度抖動(dòng)或者網(wǎng)絡(luò)風(fēng)暴時(shí)M33 依然能按自己的節(jié)奏處理。第三類是安全兜底。Cortex-M33 支持 TrustZone可以把一部分敏感邏輯放在安全世界里。即使 Linux 側(cè)被攻破M33 里的安全固件仍然可以獨(dú)立運(yùn)行。不能說這是百分之百的安全方案但相比“所有邏輯都跑在同一個(gè)非安全環(huán)境下”攻擊面小了很多。換句話說M33 不是一個(gè)“附贈(zèng)品”而是一塊獨(dú)立的實(shí)時(shí)島。FreeRTOS 在這個(gè)島上跑OpenAmp 是島和大陸之間的橋。橋怎么搭比島上怎么蓋樓更重要。1.3 和MP157對比M33核的資源邊界用過 STM32MP157 的人應(yīng)該知道MP157 的協(xié)處理器是 Cortex-M4主核是 A7。到了 MP257主核升級為 A35協(xié)處理器升級為 M33。M33 相比 M4多了 TrustZone、MPU以及更完整的中斷控制器支持。單看頻率M33 在 MP257 上通常能跑幾百 MHz算力比老 M4 有提升但和 A35 不是一個(gè)量級。M33 可訪問的資源不是無窮的。它有自己的 TCM、SRAM也能通過總線訪問 DDR。但 A35 上的 Linux 訪問同一片 DDR 時(shí)會(huì)涉及緩存一致性問題。簡單說M33 寫的內(nèi)存數(shù)據(jù)如果只是停在 CPU 的 cache 里A35 讀到的可能是舊值反過來也一樣。所以我們在設(shè)計(jì)共享內(nèi)存時(shí)必須明確這塊內(nèi)存是否允許 cache或者由軟件主動(dòng)做 clean/invalidate。還有一個(gè)容易被忽略的地方M33 側(cè)能用的中斷不是所有 GIC SPI 都可以隨便綁。很多中斷源在硬件層面就固定了只能到 A35 或者只能到 M33。開始畫系統(tǒng)框圖前一定要對著參考手冊把每一條中斷線捋清楚否則后面寫代碼時(shí)才發(fā)現(xiàn)某個(gè)外設(shè)的中斷根本到不了 M33只能換方案。2. 動(dòng)手前必須理清的啟動(dòng)鏈與資源分配2.1 復(fù)位后的內(nèi)核啟動(dòng)順序A35先跑還是M33先跑很多第一次做 AMP 的人都會(huì)問上電后 M33 要不要自己啟動(dòng)FreeRTOS 是不是和 A35 的 Linux 一起跑答案要分階段看。MP257 默認(rèn)上電流程里ROM 引導(dǎo)鏈先啟動(dòng) A35 這一路上的 bootloader也就是 FSBL、TF-A、U-Boot最后進(jìn)入 Linux。M33 固件并不會(huì)自動(dòng)跑起來它需要由 A35 側(cè)的軟件通過 remoteproc 機(jī)制加載并啟動(dòng)。這個(gè)設(shè)計(jì)其實(shí)是刻意的M33 跑什么、什么時(shí)候跑、啟動(dòng)后加載到什么地址應(yīng)該由整個(gè)系統(tǒng)的管理者這里通常是 Linux統(tǒng)一決策便于控制資源。所以項(xiàng)目調(diào)試初期最方便的做法是讓 Linux 起來之后用 remoteproc 接口把 M33 的 elf 文件加載到指定內(nèi)存然后觸發(fā)啟動(dòng)。命令大概是echo start /sys/class/remoteproc/remoteproc0/state如果希望系統(tǒng)上電后 M33 自動(dòng)運(yùn)行可以在 U-Boot 階段通過rproc start啟動(dòng) M33。兩套方案我建議初期先全部用手動(dòng)方式確認(rèn)固件和共享內(nèi)存配置無誤后再優(yōu)化成自動(dòng)啟動(dòng)。原因很簡單手動(dòng)啟動(dòng)時(shí) M33 出了問題你可以直接在 Linux 側(cè)重啟它不用反復(fù)燒錄整個(gè)系統(tǒng)。2.2 給M33分配內(nèi)存DTS reserved-memoryM33 固件要放在內(nèi)存里跑它和 Linux 的通信緩沖區(qū)也要放在內(nèi)存里。這里的難點(diǎn)在于Linux 自己也要用內(nèi)存如果 M33 使用的區(qū)域被 Linux 分配給別的進(jìn)程兩邊數(shù)據(jù)就會(huì)互相踩。所以第一步是在 Linux 的設(shè)備樹里把這些內(nèi)存區(qū)域聲明為 reserved。設(shè)備樹里常見寫法reserved-memory { #address-cells 2; #size-cells 2; ranges; m33_fw0x10000000 { reg 0x0 0x10000000 0x0 0x1000000; no-map; }; m33_rsc: m33-share0x10010000 { compatible shared-dma-pool; reg 0x0 0x10010000 0x0 0x100000; no-map; }; };這里no-map很關(guān)鍵。它告訴 Linux這塊區(qū)域不要建立頁表映射也不要給普通進(jìn)程用。M33 的固件代碼、資源表、共享內(nèi)存都放在這類區(qū)域里。如果沒有no-mapLinux 的頁表可能把這部分內(nèi)存映射為可緩存后面出現(xiàn)各種匪夷所思的奇怪錯(cuò)誤。DTS 里還要將遠(yuǎn)程處理器節(jié)點(diǎn)指向這塊共享內(nèi)存。以官方 SDK 的常見方式為例rproc 節(jié)點(diǎn)會(huì)引用 reserved-memory 中的地址Linux remoteproc 驅(qū)動(dòng)才知道加載固件到哪里以及從哪個(gè)地址讀取 M33 的資源表。這里所有地址必須是物理地址而且要和 M33 固件編譯時(shí)的鏈接地址嚴(yán)格一致。2.3 resource table和固件加載M33 固件和普通 MCU 固件有個(gè)很大的不同它需要附帶一個(gè) resource table。這個(gè)表是給 Linux remoteproc 驅(qū)動(dòng)的“配置清單”里面描述了 M33 側(cè)需要的內(nèi)存、vring 地址、備用資源等。Linux 啟動(dòng) M33 前會(huì)解析這個(gè)表把對應(yīng)的資源映射給 M33。在 M33 側(cè)工程里resource table 通常是一個(gè) C 結(jié)構(gòu)體。重點(diǎn)是里面的 vring 地址。vring 是 OpenAmp 用于兩個(gè)核之間傳遞消息的“環(huán)形緩沖區(qū)”它必須位于兩塊都很容易訪問且不會(huì)被動(dòng)過的內(nèi)存區(qū)域。我建議直接把 vring 放在 reserved-memory 里并且地址按 64 字節(jié)或者 4KB 對齊。對齊問題后面會(huì)展開這里先記住不要把這些緩沖區(qū)定義在 M33 自己的 TCM 里因?yàn)?A35 訪問 TCM 的路徑和訪問 DDR 不同鏈路更慢還容易引發(fā) cache 問題。固件加載方式上官方 SDK 提供了一套 Yocto 工程也提供了預(yù)編譯的 Demo 固件。剛開始不需要自己從頭寫鏈接腳本直接基于官方例程改會(huì)更省事。但你必須把鏈接腳本里 RAM 區(qū)域的起始地址和 DTS 里的 reserved-memory 對應(yīng)起來否則固件能加載但運(yùn)行時(shí)立刻 HardFault。3. FreeRTOS在M33上的移植看著像M4實(shí)際上三處不一樣3.1 拿SDK的例程改還是從零移植STM32MP257 的 M33 完全可以直接跑 STM32Cube 系列的 HAL 庫。ST 官方提供的 OpenAMP 例程里M33 側(cè)工程一般用的是 CM33 內(nèi)核文件、HAL 驅(qū)動(dòng)和 FreeRTOS 移植層。如果你熟悉 STM32F4/F7 的 CubeMX 工作流上手這個(gè)平臺(tái)并不難。但我不建議直接把老工程的 FreeRTOS 文件拷過來用。M33 和 M4 的底層差別不小TrustZone 會(huì)讓內(nèi)存和中斷分成安全/非安全兩組MPU 的單元數(shù)、內(nèi)存屬性配置也和 M4 不同部分外設(shè)的訪問權(quán)限要顯式打開。哪怕只是從 F4 拷貝一個(gè)port.c都可能因?yàn)榈讓訁R編指令差異而編譯不過。比較好的路徑是先打開官方 M33 FreeRTOS 例程確認(rèn)能編譯能跑然后在此基礎(chǔ)上加入自己的任務(wù)、隊(duì)列和信號量。不要一開始就想著“我要寫一個(gè)最純凈的工程”在 MP257 上官方例程本身就是最可靠的地基。3.2 TrustZone帶來的隔離問題非安全態(tài)與安全態(tài)Cortex-M33 的 TrustZone 把整個(gè)系統(tǒng)劃分為安全世界和非安全世界。FreeRTOS 可以跑在安全態(tài)也可以跑在非安全態(tài)。ST 官方關(guān)于 M33 的 OpenAMP 例程通常讓 FreeRTOS 跑在非安全態(tài)因?yàn)檫@樣 Linux 側(cè)的 remoteproc 才能正常加載和調(diào)試固件。這帶來一個(gè)實(shí)際影響你在工程啟動(dòng)文件里需要配置 SAUSecurity Attribution Unit把大部分外設(shè)和內(nèi)存區(qū)域標(biāo)記為非安全。否則非安全態(tài)的 FreeRTOS 一訪問外設(shè)寄存器立刻觸發(fā) bus error。我第一次調(diào)的時(shí)候GPIO 初始化明明沒寫錯(cuò)但只要一碰GPIOA-MODER就進(jìn) HardFault查了半天才發(fā)現(xiàn)是 SAU 里完全沒有給外設(shè)開放非安全權(quán)限。如果項(xiàng)目里有安全需求可以把一部分邏輯放到安全側(cè)非安全側(cè)和 Linux 通信安全側(cè)負(fù)責(zé)校驗(yàn)密鑰、管理關(guān)鍵數(shù)據(jù)。不過這會(huì)成倍增加開發(fā)復(fù)雜度。沒有強(qiáng)需求的話建議先用官方例程的默認(rèn)配置跑通再考慮 TrustZone 的安全隔離。3.3 中斷配置與SysTickMPU、NVIC和GIC的邊界M33 在裸機(jī) MCU 上用慣了會(huì)覺得 NVIC 是理所當(dāng)然的中斷控制器。但在 MP257 里系統(tǒng)級中斷有兩個(gè)層次M33 內(nèi)部有 NVIC同時(shí)芯片里還有一個(gè) GIC負(fù)責(zé)把各種外設(shè)中斷統(tǒng)一發(fā)給 A35 或 M33。GIC 發(fā)給 M33 的中斷會(huì)以 SPIShared Peripheral Interrupt的形式進(jìn) NVIC。因此在配置外設(shè)中斷時(shí)你不僅在操作 NVIC還要確保 GIC 側(cè)已經(jīng)使能了這條中斷線。Linux 側(cè)的設(shè)備樹里可能會(huì)把某些外設(shè)中斷指定到 M33。如果兩邊的中斷路由配置不一致M33 就永遠(yuǎn)收不到中斷。FreeRTOS 的 SysTick 在 M33 上仍然用于系統(tǒng)節(jié)拍。默認(rèn)情況下SysTick 是內(nèi)核私有定時(shí)器不需要經(jīng)過 GIC。但要注意如果在低功耗模式下關(guān)閉了內(nèi)核時(shí)鐘SysTick 也會(huì)停擺導(dǎo)致 FreeRTOS 時(shí)間片失效。這個(gè)問題在“M33 側(cè)進(jìn)入 Stop 模式”的低功耗項(xiàng)目中特別明顯后面量產(chǎn)收尾部分再細(xì)說。3.4 堆棧與MPU給FreeRTOS任務(wù)畫好“安全圈”FreeRTOS 移植好之后第一件事不是急著跑 OpenAmp而是先把多個(gè)任務(wù)跑起來確認(rèn)調(diào)度器正常。任務(wù)棧大小設(shè)多少老手都會(huì)有自己的一套經(jīng)驗(yàn)但在 M33 AMP 場景里任務(wù)棧和共享內(nèi)存之間會(huì)互相擠占所以需要更謹(jǐn)慎。建議打開 FreeRTOS 的堆棧溢出檢測功能至少用configCHECK_FOR_STACK_OVERFLOW 2。這個(gè)選項(xiàng)會(huì)在任務(wù)切換時(shí)主動(dòng)檢查棧頂標(biāo)志能盡早發(fā)現(xiàn)棧溢出。我遇到過的情況是任務(wù)本身看起來沒炸但 OpenAmp 一端點(diǎn)在接收大包時(shí)遞歸調(diào)用了回調(diào)棧指針一路往下漲最后把另一個(gè)任務(wù)的棧踩了。MPU 的作用是把任務(wù)的內(nèi)存區(qū)域隔離開。M33 的 MPU 支持多個(gè) region可以把每個(gè)任務(wù)棧設(shè)置成獨(dú)立 region并設(shè)置訪問權(quán)限。這個(gè)做法的代價(jià)是任務(wù)切換時(shí) MPU 配置需要同步更新帶來額外性能開銷。我的建議是前期先用最簡單的方式把所有內(nèi)存權(quán)限都放開專心調(diào)試業(yè)務(wù)量產(chǎn)前再評估是否要用 MPU 做訪問保護(hù)。4. OpenAmp不是庫是套路RPMsg那條通道怎么修通的4.1 OpenAmp在M33側(cè)的角色不是操作系統(tǒng)的對立面OpenAmp 的全稱是 Open Asymmetric Multi-Processing它本身不是操作系統(tǒng)而是一套跨核通信框架。M33 側(cè)OpenAmp 庫像是一層“中間件”跑在 FreeRTOS 之上負(fù)責(zé)管理消息通道Linux 側(cè)內(nèi)核 remoteproc/rpmsg 子系統(tǒng)提供了對等驅(qū)動(dòng)。兩邊用 RPMsgRemote Processor Messaging協(xié)議通信。很多人第一次接觸 RPMsg會(huì)把郵箱和共享內(nèi)存搞混。硬件郵箱是“敲門鈴”它只負(fù)責(zé)通知對方“我有數(shù)據(jù)了”本身不傳大數(shù)據(jù)。真正傳數(shù)據(jù)靠的是共享內(nèi)存里的 vring 和消息緩沖區(qū)。舉個(gè)例子A35 要給 M33 發(fā)一條 1KB 的控制指令實(shí)際流程是A35 把數(shù)據(jù)寫入共享內(nèi)存的某個(gè) buffer 中然后寫 vring 的更新信息最后觸發(fā)一個(gè)硬件中斷給 M33M33 收到中斷后從對應(yīng)的 buffer 取出數(shù)據(jù)。M33 側(cè) OpenAmp 的初始化代碼官方例程里能看到類似這樣的流程解析 resource table拿到共享內(nèi)存地址和 vring 地址。調(diào)用openamp_init初始化遠(yuǎn)程處理器框架。注冊 RPMsg 端點(diǎn)和回調(diào)函數(shù)。等待 Linux 側(cè)啟動(dòng)通信。這里的關(guān)鍵是不要試圖把 OpenAmp 和 FreeRTOS 割裂開。OpenAmp 的任務(wù)、中斷處理、接收回調(diào)都要集成到 FreeRTOS 的調(diào)度體系里。如果直接在中斷回調(diào)里處理大量數(shù)據(jù)M33 的實(shí)時(shí)任務(wù)會(huì)被嚴(yán)重拖延。4.2 共享內(nèi)存與vring郵箱和消息池是兩回事把共享內(nèi)存的布局設(shè)計(jì)好OpenAmp 就成功了一半。我習(xí)慣把共享區(qū)域分成兩層第一層是resource table里面保存了 vring 的描述信息以及各端點(diǎn)需要的共享緩沖。第二層是 vring 本身它由多個(gè)描述符組成每個(gè)描述符指向真正的數(shù)據(jù) buffer。一個(gè)常見問題是vring 的地址沒有在 DTS 和 resource table 之間保持一致。Linux remoteproc 驅(qū)動(dòng)啟動(dòng) M33 時(shí)會(huì)從 resource table 讀 vring 地址再與 DTS 中的配置比對。如果兩邊對不上要么通信掛起要么握手失敗。不要相信“看起來差不多”的地址直接用十六進(jìn)制逐字節(jié)核對。還有一個(gè)容易被忽略的細(xì)節(jié)共享內(nèi)存區(qū)域的 cache 屬性。前文提到過no-map實(shí)際使用中還要明確這段內(nèi)存是配置成 cacheable 還是 non-cacheable。為了最簡單的穩(wěn)定性我通常把 vring 和共享 buffer 標(biāo)記為 non-cacheable。這樣省去了手動(dòng) cache 操作的復(fù)雜度代價(jià)是訪問共享內(nèi)存的速度稍慢。對于 RPMsg 這種小報(bào)文場景性能完全能接受。如果一定要用 cacheable就必須在每次發(fā)送前做 clean接收前做 invalidate否則會(huì)出現(xiàn)“對方明明寫了數(shù)據(jù)我卻讀到舊值”的問題。4.3 從Linux側(cè)發(fā)起通信rproc_boot與rpmsg_client_sampleLinux 側(cè)內(nèi)核的 remoteproc 子系統(tǒng)負(fù)責(zé)管理 M33 生命周期。啟動(dòng) M33echo start /sys/class/remoteproc/remoteproc0/state停止 M33echo stop /sys/class/remoteproc/remoteproc0/state啟動(dòng)成功后Linux 下會(huì)多出一個(gè)/dev/rpmsg0設(shè)備節(jié)點(diǎn)。應(yīng)用程序可以像普通設(shè)備文件一樣打開它、讀寫數(shù)據(jù)。官方內(nèi)核里有一個(gè)rpmsg_client_sample模塊加載后會(huì)自動(dòng)創(chuàng)建一個(gè)端點(diǎn)往 M33 發(fā)一條消息然后等待回應(yīng)。這個(gè) Sample 是驗(yàn)證整條鏈路最好的工具modprobe rpmsg_client_sample如果 M33 側(cè)的 FreeRTOS 例程已經(jīng)跑起來但rpmsg_client_sample沒反應(yīng)多半是 vring 地址不對、共享內(nèi)存 cache 配置不一致或者 M33 側(cè)根本沒有注冊對應(yīng)的服務(wù)端點(diǎn)。4.4 M33側(cè)循環(huán)收發(fā)拷貝策略與中斷回包M33 側(cè)收到 RPMsg 消息后回調(diào)函數(shù)會(huì)被 OpenAmp 庫調(diào)用。這個(gè)回調(diào)是在什么上下文里執(zhí)行的根據(jù)官方例程通常是在 OpenAmp 自己的接收任務(wù)里或者在一個(gè)由信箱中斷觸發(fā)的傘形中斷中。無論哪種都不應(yīng)該在里面做耗時(shí)操作。正確做法是回調(diào)函數(shù)里把數(shù)據(jù)拷貝到自己的任務(wù)緩沖然后通知業(yè)務(wù)任務(wù)去處理。這里有個(gè)取舍拷貝會(huì)帶來額外開銷但換來的是任務(wù)調(diào)度更加解耦。如果控制數(shù)據(jù)只有幾十字節(jié)拷貝幾乎可以忽略如果是大數(shù)據(jù)塊你也可以只拷貝指針但前提是發(fā)送方在收到 ACK 前不能重用這塊緩沖區(qū)。為了降低復(fù)雜度我初期一直是直接拷貝穩(wěn)定優(yōu)先。另外要注意M33 收到消息后如果需要回復(fù) Linux應(yīng)該在發(fā)送完成后調(diào)用一次緩存清理操作確保 Linux 能讀到最新數(shù)據(jù)。RPMsg 的發(fā)送函數(shù)rpm_send內(nèi)部一般會(huì)做必要的 cache 處理但如果你在回調(diào)里直接操作共享內(nèi)存還是要自己把關(guān)。5. 真機(jī)聯(lián)調(diào)階段踩過的坑每一個(gè)都值得記下來5.1 現(xiàn)象M33內(nèi)核崩潰但Linux毫無察覺第一次跑通 OpenAmp 后我給 M33 加了一個(gè)比較復(fù)雜的控制任務(wù)結(jié)果發(fā)現(xiàn) M33 側(cè)代碼進(jìn)入 HardFault但 Linux 側(cè)毫不知情。A35 的 remoteproc 驅(qū)動(dòng)不會(huì)主動(dòng)監(jiān)測 M33 是否還活著它只負(fù)責(zé)啟動(dòng)和停止。M33 死了Linux 上的/dev/rpmsg0依然存在但收不到任何響應(yīng)。排查時(shí)我一開始以為是 FreeRTOS 里的任務(wù)棧溢出就把configCHECK_FOR_STACK_OVERFLOW打開也加了棧水印打印。后來發(fā)現(xiàn)問題出在一個(gè)定時(shí)器中斷服務(wù)函數(shù)里我在中斷里訪問了一處被 Linux 占用的外設(shè)寄存器M33 總線上直接報(bào)錯(cuò)進(jìn)入 HardFault。這種問題最坑的地方在于M33 的 HardFault 如果不處理整個(gè) M33 就“死寂”了而 Linux 側(cè)只能通過它的心跳超時(shí)才能發(fā)現(xiàn)。所以聯(lián)調(diào)初期M33 側(cè)一定要加上故障打印并且把 HardFault_Handler 里記錄的關(guān)鍵寄存器通過串口輸出。否則出了問題你根本不知道是任務(wù)調(diào)度崩了還是外設(shè)訪問違例。5.2 現(xiàn)象OpenAMP握手失敗rpmsg創(chuàng)建不了端點(diǎn)第二個(gè)坑是 OpenAmp 的握手失敗。Linux 側(cè)rpmsg_client_sample加載后/dev/rpmsg0雖然創(chuàng)建了但 M33 側(cè)一直沒有日志輸出也不回包。我一開始重新編譯了固件檢查了 endpoint 注冊順序問題依舊。后來用調(diào)試器掛在共享內(nèi)存上查看 resource table 的內(nèi)容才發(fā)現(xiàn) vring 地址和 DTS 里預(yù)設(shè)的地址差了幾百字節(jié)。原因是我改了鏈接腳本M33 固件里的 resource table 被編譯器重新排版了但 DTS 里的 reserved-memory 還是舊地址。兩邊各自都“對”就是互相不對。這里給新手一個(gè)建議不要手動(dòng)修改 resource table 的存放位置除非你完全理解 OpenAmp 的加載流程。在任何一次鏈接腳本調(diào)整后都要重新生成 resource table并和設(shè)備樹比對。5.3 現(xiàn)象printf打印影響實(shí)時(shí)性M33 側(cè)調(diào)試時(shí)很多人習(xí)慣在任務(wù)里加 printf。這個(gè)思維是從 MCU 開發(fā)帶來的但在 MP257 上要特別小心。M33 的 printf 如果走串口而串口驅(qū)動(dòng)在 FreeRTOS 里用了阻塞式發(fā)送遇到波特率 115200 時(shí)一條幾十字節(jié)的日志就要占掉幾毫秒。對于 20kHz 的控制周期這是災(zāi)難。我的做法是聯(lián)調(diào)階段把 printf 重定向到共享內(nèi)存里的一個(gè)環(huán)型日志區(qū)Linux 側(cè)隨時(shí)讀取。正式運(yùn)行階段把調(diào)試 printf 用宏關(guān)掉只保留錯(cuò)誤級別日志。這樣既不影響實(shí)時(shí)性又能完整復(fù)現(xiàn)現(xiàn)場。5.4 調(diào)試手段用Linux的/dev/rpmsg0和M33的log互相印證AMP 聯(lián)調(diào)最大的痛苦是“兩邊都覺得對方?jīng)]發(fā)數(shù)據(jù)”。我的經(jīng)驗(yàn)是建立一套雙向的“回環(huán)測試”再開始業(yè)務(wù)邏輯開發(fā)。先讓 M33 收到什么就回什么然后在 Linux 側(cè)寫一個(gè)簡單腳本往/dev/rpmsg0發(fā)一串遞增數(shù)據(jù)接收端校驗(yàn)是否原樣返回。跑通回環(huán)后再逐步加入業(yè)務(wù)。如果回環(huán)都過不了問題一定在底層資源配置或緩存一致性上不要往下寫業(yè)務(wù)。M33 側(cè)也要把日志做成“有向心跳”每收到一條消息就通過串口輸出一個(gè)序號。這樣即使沒有調(diào)試器也能確認(rèn) OpenAmp 的接收鏈路是通的。我實(shí)測下來這套方法能過濾掉八成以上的“疑似通信問題”。6. 量產(chǎn)前必須補(bǔ)上的收尾工作6.1 監(jiān)控M33心跳光靠watchdog不夠M33 側(cè)跑 FreeRTOS通常都會(huì)開一個(gè)獨(dú)立看門狗防止任務(wù)死鎖。但看門狗只能“發(fā)現(xiàn)死機(jī)后復(fù)位”恢復(fù)后 Linux 側(cè)怎么知道 M33 已經(jīng)重啟過這是量產(chǎn)前必須設(shè)計(jì)的。我建議在 Linux 側(cè)寫一個(gè)應(yīng)用周期性通過 RPMsg 向 M33 發(fā)送心跳查詢M33 在最高優(yōu)先級任務(wù)里回應(yīng)。如果連續(xù)若干次沒有回應(yīng)Linux 主動(dòng)stopstartM33。這樣 M33 即使崩潰也能在無人工介入的情況下自動(dòng)恢復(fù)。注意這個(gè)機(jī)制不能依賴簡單的一問一答建議在心跳報(bào)文里帶序列號用于發(fā)現(xiàn) M33 是否發(fā)生過重啟。M33 側(cè)同樣要監(jiān)控 Linux 側(cè)的心跳。若 Linux 側(cè)卡死或者重啟M33 要能做安全保護(hù)比如把執(zhí)行機(jī)構(gòu)歸到安全位置。異構(gòu)系統(tǒng)不能只保護(hù)單側(cè)兩側(cè)都要有“對方可能死掉”的意識(shí)。6.2 低功耗時(shí)別忘了M33的電源域MP257 的功耗管理是個(gè)大話題A35 側(cè)的 Linux 有 CPUFreq、CPUIdleM33 側(cè)也有自己的低功耗模式。M33 進(jìn)入 Deep Sleep 前必須關(guān)閉對共享內(nèi)存的訪問并讓 Linux 側(cè)的 remoteproc 先處于停止?fàn)顟B(tài)。我踩過的坑是Linux 側(cè)進(jìn)入 suspendM33 還掛在共享內(nèi)存上結(jié)果喚醒后共享數(shù)據(jù)區(qū)出現(xiàn)撕裂。正確的順序是先讓 M33 進(jìn)入低功耗等待命令狀態(tài)再讓 Linux 進(jìn)入 suspend喚醒時(shí)反過來Linux 先恢復(fù)正常再喚醒 M33。整個(gè)流程要用 RPMsg 做一個(gè)握手協(xié)議不能用簡單延時(shí)“估摸”對方已經(jīng)完成。6.3 日志規(guī)范與遠(yuǎn)程升級的邊界M33 固件和 Linux 內(nèi)核是兩套獨(dú)立鏡像量產(chǎn)后的升級鏈路也完全不同。Linux 側(cè)可以通過 A/B 分區(qū)做系統(tǒng)級 OTAM33 固件則需要設(shè)計(jì)自己的升級機(jī)制常見做法是由 Linux 側(cè)把新固件下載到某個(gè)分區(qū)再通過 remoteproc 停止 M33、寫入新固件、重新啟動(dòng)。升級過程中最怕兩件事一是升級到一半掉電M33 固件損壞二是新舊固件的資源表不兼容導(dǎo)致 OpenAmp 通信失敗。對第一個(gè)問題建議 M33 固件保留一個(gè)極小 Bootloader負(fù)責(zé)校驗(yàn) App 固件對第二個(gè)問題建議在 RPMsg 應(yīng)用層約定版本號Linux 啟動(dòng) M33 后先做版本握手版本不匹配直接拒絕業(yè)務(wù)。這些在項(xiàng)目初期就要定好量產(chǎn)后再改協(xié)議非常痛苦。6.4 實(shí)測性能參考與后續(xù)擴(kuò)展拿我們實(shí)際項(xiàng)目的數(shù)據(jù)做個(gè)參考A35 雙核跑 LinuxM33 跑 FreeRTOSOpenAmp 通過 RPMsg 每 1ms 雙向交換一條 64 字節(jié)狀態(tài)幀。M33 側(cè)額外跑著三個(gè)任務(wù)分別是 1kHz 控制循環(huán)、按鍵掃描、串口日志。整條鏈路跑下來RPMsg 單次收發(fā)的 CPU 占用和中斷延遲都在可接受范圍內(nèi)。如果業(yè)務(wù)需要更大帶寬可以考慮把共享緩沖區(qū)加大或使用帶 cache 的訪問模式但務(wù)必做好緩存一致性處理。后續(xù)擴(kuò)展方向上可以考慮讓 M33 直接承擔(dān)一部分傳感器數(shù)據(jù)預(yù)處理只把提煉后的結(jié)果發(fā)給 A35。也可以嘗試把部分網(wǎng)絡(luò)協(xié)議棧卸載到 Linux把實(shí)時(shí)安全策略放在 M33。這個(gè)平臺(tái)最大的魅力就在于此兩顆核各司其職又共用一套內(nèi)存。對我個(gè)人而言用過 MP257 的 M33 FreeRTOS OpenAmp 組合后再回到“外掛 MCU 串口”的老路確實(shí)回不去了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情啪啪五月| 亚洲视99| 九九九AAA热视频| 四色永久成人网站| 色婷婷丁香| 日韩小视频在线99| 国产成人亚洲综合A∨婷婷| 国产69久久久欧美黑人A片| 一区二区你懂的| 中文字幕,综合,91| 99热在线爱| 思思热视频在线观看| 国产av一区二区三区| 老司机午夜福利视频金瓶梅| 九九无码AV| 婷婷综合成人五月天| 婷婷五月天激情偷拍| AV中文在线| 色天堂A| 日韩淑女人妻luan伦激情精品一区二 | 99爱在线免费视频| 国产精品色色色色| 婷婷丁香社区| 五月激情婷婷在线| 色欲色香综合网| 天天网曰日曰夜夜综合永久免费| 天天精品视频免费观看| 亚洲综合视频网| 婷婷五月激情欧美大胆视频| 日本婷久久| 久久ab| 2020久久婷婷五月| 依人大香蕉| 日本天天操| 亚洲久久婷婷丁香五月天| 久久久久久久久18久久| 99热国内精品| 五月天婷婷AV| 五月丁香婷婷成人综合网| 97热久久| 九九色插| 午夜69成人做爰视频| 射久久丁香五月| 亚洲熟女乱色综合亚洲网站| 99碰| 热久91| 成人做爰高潮A片免费视频| 日本操逼九九九九58日本操逼| 99久热这里只有精品视频删减版| 99热热热国产超碰| 丁香五月婷婷亚洲激情四射| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 五月天色婷婷av| 亚洲啪啪精品| 中文字幕操比影片| 97超碰婷婷五月天| 亚洲亚洲人成综合网络| 熟妇高潮一区av| 五月激情六月宗合| 久久R激情| 疯狂做受XXXX高潮A片| 色婷婷综合网| 思思re99视频在线观看| 精品一区二区三区免费毛片爱| 色色a| 五月人妻婷婷视频| 99日本在线| 激情五月婷婷在线| 国产精品-91JQ就要激情网91JQ6.91JQ27.CASA:16888 | 色香欲综合| 三级三久久线久久99久目本WW| 婷婷四色五月| 成人丁香五月天Av| www99在线观看视频| 天天爽日日爽夜夜爽| 久久激情视频| 丁香九月综合| 狠狠干五月丁香综合网| 久久草大香蕉| www久久99| 六月婷婷综合| 婷婷综合仓库中文| 五月婷婷性爱| 在热视频精品| 亚洲天堂aaaa| 翔田千里 50岁 无码| 99热免费精品| 六月婷婷综合网2| 黄色av网站在线免费播放| 久久激情四射| 人人草成人视频| 国熟女视频| 激情深爱综合| 就去涩涩丁香五月天| 99久久国产成人精品| 激情久久久久| 玖月婷婷爱丁香| 丁香五月天av| 色色色色色色网站| 99热色婷婷| 婷婷 久综合| 成人操呦av| 婷婷六月激情在线视频| 大香蕉婷婷| 天天日天天插| 91精品综合久久婷婷九色| 一区二区传媒视频| 五月丁香综合伦理片| 99视频这里只有精品10| 成人在线精品| 亚洲乱码日产精品BD| 婷婷五月综合色中文字幕| 三级毛片7979| 五月激情综合五月| 开心深爱激情网| 97午夜一区二区| av网址在线| 色婷婷XXXXX| 久色成人| 五月婷婷中文字幕| 久久99精品九九久久久婷婷| 99er6热在线观看精品6| 久久精品国产一区二区三区四区| 丁香花成人区| 亚洲成人黄色网| 亚洲操操操| 五月婷久久综合| 久久婷婷五月综合激情国产| 婷婷五月天综合久久| 夜精品无码A片一区二区蜜桃| 9有码中文| 色狠狠综合| 99热久| 久久精彩视频99| 综激情网| 日日夜夜久| 欧美性爱五月天| 精品操逼一区二区| 久久小片| 亚洲六月色| 涩九九九九| 婷婷六月五月| 欧美性生交XXXXX无码小说| 青青久久五月天丁香婷婷| 色五月天天在线观看资源站| 九九Av| 婷婷五月丁香激情图片 | 久久66精品| 99热精品中文字幕| 天天爱天天天射AV| 中文字幕丰满乱孑伦无码专区 | 婷婷色六月| 日韩久久色| 激情五月丁香在线观看直播| 国产精品久久久爽爽爽麻豆色哟哟| 91精品久久久久久77777| 99玖玖在线视频| 色综合久久8| 六月色色婷婷| 激情九九九九| 五月天伊人综合| 丁香六月婷婷综合啪啪| 色啪影院| 一区二区三区四区五区| 五月丁香本色在线观看| 日本色色视频| 色域五月婷婷丁香| 色色婷婷丁香| 天天看片日日夜夜| 五月婷婷啪啪啪啪| 五月丁香网站| 伊人综合婷婷| 91碰碰| 激情美女五月天| 97色欧美| 在线综合婷婷| 久久久久网站| 五月天播播| 日韩一区二区在线播放| 九九Y精品热播| 天天干天天插| 日本久久人人| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 九月婷婷人人操人人舔人人爱| 五月天激情图| 久久人人添人人爽添人人片αV| 五月天综合区| 日韩在线99| 99热这里只有精品青草| 欧美婷婷色五月| 婷婷六月久久| 五月丁香综合啪啪| 成年人丁香五月| 久久综合爱| 精品一二三区久久AAA片| 天天爽综合| 亚洲乱码w在线观看| 五月天婷婷丁香| 国产美女最新VA在线免费观看| 手机在线视频观看9| 亚洲天堂啪啪| 天天爽天天草| 天天五月香欧美| 91精品久| 中文中文在线| 日本99久久| 蜜桃婷婷丁香综合久久开心亚洲| 夜夜干天天操| 啪啪黄页网| 99狠狠操一| 色色色色色网| 国产三级片91| 少妇达人正片在线播放_ikun_福利吧| 天天摸,天天爽| 婷婷五月花| 超黄亚洲瑟瑟网站| 91窝窝| 色婷婷电影| 另类激情首页| 亚洲sesesese| xx人人xx| 亚洲免费视频网站| 婷婷丁香无码专区| 特级西西4444www无码| 五月天婷婷激情小说| 六月婷婷啪啪| 超级97碰碰| 五月天婷婷成人网| 亚州色色色| 色婷婷丁香五月天在线观看| 亚洲激情网站| 五月婷婷五月天亚洲无码| 丁香久久在线| 精品亚洲国产成AV人片传媒| 久99| 五月丁香啪啪| 久久综合九九| 九九热AV| 日本欧美成人片AAAA| 超碰9| 日操| 九九热这里有精品视频| 久操操| 91九色国产熟女| 久久曰9| 91chinese在线| AV电影在线播放| 色色亚洲视频| 婷婷成人AV| 婷婷五月色網站| 丁香五月天婷婷中文| 丁香五月情色| 色播五月婷婷综合| 人人色性网| 亚洲五月天色| 久久aaa| 激情五月天在线观看婷婷| 五月天综合久久丁香91| 91综合国免费久入| 69堂午夜视频最新地址| 天天操夜夜玩!| 日韩a热| 五月丁香六月综合情在线观看| 色色丁香婷婷| 无码网| 激情五月综合视频| 婷婷五月六月激情| 性爱久久| 久色| 久久桃花网色婷婷| 色情五月天导航| 成人VAV视频在线观看| 一起操最新网址| 五月激情天| 99热精品在线播放| 4399精品一区二区| 1024婷婷综合久久五月天| 另类激情五月| 丁香5月啪啪| 五月丁六月婷| 91九九| 婷婷久久色| 丁香五月色| 99免费在线视频| 丁香花社区av| 国产免费一区二区三区三州老师F1F1.CC| 色狠狠综合入口| 婷婷九月亚洲| 天天做天天要天天爽| 激情五月丁香激情综合网| 婷婷五月天激情综合网| 97碰| av不卡网站| 色色色婷婷| 九九無碼| 婷婷久久天堂网| 亚洲色激情| 99热这里在线精品| 婷婷五月激情视频在线| 99视频精品| 丁香av网| 午夜理论片最新午夜理论剧| 五月天激情小说| 成人AV在线电影| 色色丁香婷婷五月天| 色婷婷色综合激情91| 五月丁香久久精品在线观看| 丁香五月激情婷婷婷婷在线观看| 婷婷激情五月综合| 丁香五月六月综合激情| 五月天婷婷深深爱| 色五月亚洲| 日本视频不卡123区| 亚州色综合| 久久最新色色色| 伊人狠狠干| 久99综合婷婷| 色综合色综合色综合| 97人人干| 中文成人在线| 91免费试看| 啪啪色激情五月天| 久久激情天堂| 色婷婷亚洲在线观看| 五月丁香婷婷爱激情综合网| 婷婷色色丁香五月天| 亚洲亚洲人成综合网络| 五月六月播婷婷| 美女妹子后射视频网站在线观看| 中文字幕日本最新乱码视频 | 伊人超碰在线| 噜噜噜噜在线| 成人免费120分钟啪啪| 婷婷六月综合| 日韩AAAAA| 欧美三级巜人妻互换| 日本精品99网站| 粉嫩av懂色av蜜臀av熟妇| 日日狠夜夜狠| 日日操夜夜擼| 六月丁香五月激情网| 色婷操逼| 色婷婷小视频| www.俺去也com| 另类激情综合| 色婷婷中文字母五月丁香| 91狠狠色丁香| 色欧美影院| 久热视频这里只有精品| 亚洲天堂青草| 可以看的AV| 婷婷5月久久综合网站| 六月丁香五月激情亚洲AV| 丁香婷婷六月天| 成年视频免费观看| 丁香婷婷激情| 亚洲熟女色| 五月丁香激情综合啪啪| 2017狠狠干| 丁香五月天激情免费在线观看AV777 | 亚洲午夜Av| 亚洲六月色| 激情网 久久| 丁香伊人激情| 色欲AVV| www五月天激情com| 日韩操啪| 五月丁香免费视频| 久热这里只有精品在线观看 | 久久新地址| 丁香五月首页| 免费无码毛片一区二区A片| 五月婷婷新网站| 99热8| WWW色综合| 色激情五月天| 久久激情五月网| 五月丁香婷婷狠狠操| 久久开心五月婷婷| AAA久久久AAA久久久AAA| 激情綜合網址| 99超在线| 狠狠狠狠草草| 超碰激情网| 欧美日韩91| 99热91| 五月丁香六月情婷婷久久| 欧美日韩婷婷五月天| 激情五月丁香五月| 久久多色| 99在线视频观看| 婷婷五月丁香六月| 欧美色狠婷久| 狠狠色综合网站久久久久| 婷婷成人视频| 亚洲色五月天在线| 丁香花操逼| 99欧美| 五月丁香少妇网| 97操碰在线97| 另类小说色婷婷| 婷婷色丁香五月| 婷婷五月天午夜激情影院| 99操逼| 婷婷五月天性| 97色婷婷| 免费AV在线网址| 色色婷| 色五月婷激情| 久久er这里只有精品| 男人的天堂婷婷色五月| 99热都是精品| www激情五月天| 激情久久肏屄视频| 99在线免费视频播放| 亚洲九区| 久久精品这里只有精品免费首页| se色99| 久久加勒比| 色婷婷视频| 99精品热| 五月深爱激情网| 超碰成人免费| 中文字幕成人影视| 九九九九九九九九九九九九九国产精品| 五月丁香香蕉| 激情五月婷婷在线观看| 久99久热只有精品国产99| 九九干视频| 风流少妇A片一区二区蜜桃| 九九综合| 激情5月婷婷| 久久亚洲婷婷综合色五月| 四色五月视频| 日本A片一区| 91精品久久久久久综合五月天| 婷婷性色| 99热在线只有精品| 人人人va亚洲视频在线| 天天拍夜夜爽日日| 丁香婷婷丁香五月欧美人| 97干视频在线| 九九色院| 99热欧美偷拍| 色噜久| 九色在线五月婷婷网址| 亚洲欧洲中文日韩久久AV乱码| 啪啪激情网| 丁香六月天| 韩国天天婷婷| 激情五月,色播五月| 停停色综合伊人| 1级欧美日韩| 五月婷婷色| 精品久久久人妻| 99九九视频| 久久婷婷六月综合综合色| 丁香五月久久综合| 激情综合六月| 婷婷六月五月天综合| xxx综合在线| 深爱五月激情网| 狠狠综合久久| 久久久久久欧美精品se一二三四| 色9999日韩国产| 91大神操美女| 婷激情五月天视频导航| 天天干夜夜操A片| 激情综合五月激情XXXX| 亚洲丁香五月天在线视频| 日韩欧美一区二区三区四区| 日本狠狠爽| 九九热在线视频,| 色婷婷色五月色丁香| 五月丁香六月婷婷不卡免费无码| 久久草婷婷丁香网站| 色五月天网| 丁香五月天激情综合网| 五月婷婷在线观看| 婷婷五月丁香五月综合网| 成人色五婷婷| 色久女| 在线99热| 亚洲深喉aV| 久久九九热re6这里有精品| 97色射| 国产成人亚洲综合亚洲| 激情丁香六月| 亚洲天堂AV免费片| 婷婷王月天影院| 婷婷丁香小说| 日本色婷婷| 亚洲国产精品二二三三区| 欲色人妻| 激情综合久久| 色五月丁香在线| 色中色综合| 丁香色六月婷婷| 五月天综合| 黄网在线免费观| 停停六月 综合| 91久久久久久| 五月婷婷丁香狠狠撸久久| 午夜婷婷久久| 国产黄色在线观看| 丁香五月手机在线| 丁香五月激情六月| 日本在线视频www色| 人妻体体内射精一区二区| 丁香五月婷婷综合激情啪啪啪啪啪啪啪 | 日韩在线视频中文字幕| 狠狠操狠狠狠| www.精品99| 五月天激情美女久久| 国产4P视频精品五区| 大香蕉九九| 色五月视频,小说| www.五月婷婷.com| 婷婷五月精品| 深爱五月综合网| 激情五月天电影| 无码99| 激情婷婷综合网| 久久色频| 欧洲亚洲免费视频9| 久99999热视频在线观看免费| 另类 在线| 丁香五月天殴美激情| 91碰超| 极骚大香蕉伊人| 亚洲另类婷婷综合| 99热这里是精品| 色婷婷激情四射视频| 丁香五月天啪啪| 色婷婷国产精品综合在线观看| 五月天成人网婷婷| 日日夜夜天天综合| 激情图片婷婷| 五月天成人在线播放| 国产精品第一国产精品| 99久久99视频只有精品| www.91婷婷| 丁香五月久久社区| 99热的无码| 开心激情站| 伊人干综合| 天天操天天操天天操天天操天天操 | 91视频一起草| 五月天婷婷7米| www.婷婷久久五月天| 六月亚洲婷婷6月中文字幕| 五月丁香婷婷婷激情爱爱| 激情五月黄色| 精品怡红九九九| 五月丁香啪| 九九伊人网| 97人人操人人| 五月丁香色色| 色综合综合色| 黄网在线免费观看| 久久六月综合| 色热久资源| 99精品在这里| 天天色月| 被强行糟蹋的女人A片| 五月丁香日本在线视频观看| 亚洲亚洲人成综合网络| 五月的丁香六月的婷婷| 一二线视频 另类| 天天艹夜夜爽| 欧美色激情四射| 天天干天天色天天干| 最近中文字幕2019视频1| 99re思思精品视频在线观看| 五月丁香婷婷成人网| 天天干天天干天天干天天干天天干天天| 9l视频自拍9l九色成人| 色情五月天se| 秋霞九九无码| 激情影院丁香五月| 一本久道综合99| 丁香狠狠色婷婷| 色五月色五天色情网| 久久婷婷伊人| 婷婷爱综合| 亚洲深喉aV| 99色视频免费在线规看| 久久jiuwww| 久热9| 婷婷五月免费观看| 2015在线中文字幕| 久久免费精彩视频| 九九综合视频在线观看| 五月天久久婷| 色你久久| 色婷婷丁香五月天在线视频| 日韩AV在线免费| 国产这里只有精品| 色情·com| 综合久久婷婷99| 丁香五月激情综合| av婷婷丁香 六月| 婷婷五月天天| 久久婷婷丁香| 狠狠干总合| 超碰成人在线免费观看| 中文字幕不卡+婷婷五月| 五月天天天操天天爽夜夜操| 九九中文色色| 色99在线| 日日噜狠狠色综合久| 久久久18| 99国产97在线,| 91ncom.色| 欧美综合婷婷欧美综| 超碰A V在线| 另类小说五月天| 六月婷婷色宗合| 六月婷久久| 黄网在线免费观| 婷婷五月激情欧美| 色婷婷丁香中文在线播放| 六月婷婷九月丁香| 五月天婷婷色播综合在线| 九九99精品视频| 久热这里只有精品视频6| 日本99在线| 婷婷欠久少妇| 色色无码| 人妻九九九九| 六月丁AV| 九九操综合网| 久久这里只有精品久久| 亚洲Av成人在线观看| 最近免费中文字幕大全高清大全1| 丁香六月婷婷久久综合| 99九九精品视频| 五月丁香综合激情在线观看| 色吧五月婷婷| 亚洲欧洲小视频9| 日日夜夜天天| 日韩1区2区| 五月丁香婷婷欧美| 97好吊操| 色插综合网| 99综合视频一体| 啪啪五月综合| 天天色综合图片| 色吧五月婷婷| 91九色在线视频| 色色 9| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 欧美色色色| 99精品热| 五月丁香六月婷婷无码| 色五月丁香在线| 婷婷五月天激情偷拍| 99免费综合网| 99大香蕉| 91干在线| 九九九九综合| 91色逼| 激情五月丁香六月综合AVXXXX| 九九精品大香蕉| 国产精品99久久久久久久女警| 天天开心天天色| 久久久性爱视频| 色五月婷婷自拍| 五月丁了香蕉综合| 超碰高清在线| 99色五月| 啪啪丁香五月| 97香蕉碰碰人妻国产欧美| 综合色影院| 亚洲色婷婷五月天| 99狠狠| 亚洲成人av在线| 久久婷婷五月综合激情国产| 狼人狠狠操| 五月综合激情| 丁香五月天导航| 婷婷欧美激情综合| 激情丁香淫荡婷婷| 九九婷婷五月天影视| 丁香五月久久综合| 色色色免费视频| 夜夜爱网站| 中文AV在线观看| 九九九九毛片| 日本色婷婷| 黄桃AV无码免费一区二区三区| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 婷婷五月综合性爱| 免费啪啪啪网站| 五月婷六月| 国产xxxxx在线观看| 激情的五月婷婷蜜桃| 丁香婷婷少妇| 天天草天天摸| 99操| 久久精品凹凸分类| 婷婷色情五月| 99热伊人| 五月丁香亚洲综合网| 丁香五月天啪啪a日本| 久re热视频| 看片视频在线免费日产在线看| 日本天天操| 在线免费观看激情视频| 综合色五月天| 激情5月天天天| 亚洲男女激情| 激情五月天丁香| 91久久18| 色婷婷基地在线| 人妻精品久久久久久久| 婷婷亚洲影院| 日本三级99人妇网站| 射区导航| 欧美成人网婷婷综合在线| 5五月综合网亚洲| 五月天婷婷色| 久久免费丁香| 色婷婷五月网| 91操熟女| 丁香久久激情俄| 色婷婷五月天av在线| 久久婷婷五月天激情唯美| 最新av在线观看| 亚洲成人在线在线| 91九九| 国产无套精品一区二区| 大香蕉九九| 哇嘎成人久久| 五月丁香六月婷婷综合伊人| 丁香五月手机在线| 丁香婷婷久| 天堂婷婷五月在线| 激情久久久久久久久久久| 欧美性生交xXxX久久久| 激情丁香五月天综合| 五月天亚洲综合网| 日韩二区搞逼插逼毛片| WWW.天天日| 影音先锋天天日| 91 影音先锋| 丁香五月色情| 亚洲成人AV在线播放| 婷婷香蕉香| 日韩AAA| 99精品网| 91成人品| 五月婷婷啪啪网| 亚洲精品网址| 日韩在线aaa| 九八Av| 丁香五月日啪| 99热这里是精品| 久热九九| 久热中文字幕| 色婷婷综合综合网| 很很干夜夜干| 美女被肏网站在线看| 青青草婷婷综合五月| 六月色婷婷| 91日本在线观看| 国产午夜精品一区二区| 欧美日韩五月婷婷| 天天摸天天做天天爱天天爽| 68热超碰在线| 日日艹思思热| 久在热99| 99综合激情久久精品久久| 小香蕉av| 色五月丁香在线| 久久色六月| 六月丁香婷婷尤物| 婷色天堂| 五月天婷婷青青草| 久草x色在线观看99| 日日狠夜夜狠| txt五月激情四射网综合俺也来了 五月天婷婷丁香人人操91 | 无码啪啪| 综合网色| 五月天激情国产综合婷婷婷| 五月天五月色婷婷综合| 成人精品视频99在线观看免费 | 丁香 婷婷 亚洲 熟女| 日韩在线视频9色| 五月天色婷婷基地| 日本97人人| AAAA网站| 99色五月| 久久这里只有精品8| 视频综合网| 国产欧美精品AAAAAA片| 开心五月深爱五月婷| 午夜]香婷婷深深爱| 天天操天天操天天操天天操天天操天天操| 噜噜五月天综合| 99热在线观看| 婷婷五月成人色综合| 嫩草AV久久伊人妇女超级A| 丁香五月婷婷激情123| 91久久网站| 色屌丝中文字幕| 丁香五月欧美激情| 五月丁香六月激情综合| 五月婷AV| 欧美日韩国产一区| 激情综合婷婷| 欧美成人五月天| 久久久久久久久久久97| 激情五月天网| 激情九九这里只有精品| 91九色视频在线观看| 日韩啪啪网| 青青草婷婷综合五月| 美女伊人久久| 97啪啪| 99热6色| 婷婷丁香在线| 97日本操| 婷婷中文字幕| 久久婷婷激情视频| 婷婷六月丁香激情| 日韩欧美成人网| www色五月| se99在线| 91人妻人人操人人爽| 国产亚洲精品AAAAAAA片| 可以直接看的AV| 这里只有精品偷拍| 五月婷婷亚洲综合在线| 六月婷婷激情| 99亚洲视频| 99'无码| 久久综合色情网站| 青草视频在线播放| 亚洲av网站在线观看| 操日本人妻视频| 欧美丁香五月97色| 亚洲av另类在线观看| 在线视频你懂得| 亚洲AV成人无码久久精品老人法拉利| 青青草原亚洲天堂| 大香蕉伊人丁香五月| 天天激情站| 深爱激清网| 五月天婷五月天综合网在线观| 任你搞在线观看视频| 六月丁香五月婷婷| 五月婷婷人人人操| 色狠狠色综合| 五月丁香激情综合网官网| 91丨九色丨丰满人妖| 97偷拍对白视频| 爱射综合| 婷婷丁香激情综合色情| 九九色综合视频| 就99这里只有精品| 啊V视频在线观看| 丁香六月激情综合网| 成人国产欧美大片一区| 天天色视频| 久久伦乱| www.色婷婷.com| 天天天天天久久久久久| 伊人天天色| 色热久资源| 婷婷五月丁香久久| 天天综合久久| 中文字幕婷婷在线| 色婷婷影视99| 99爱操| 成人综合视频网址| 丰满少妇猛烈A片免费看观看 | 九九热精品视频在线观看| 伊人婷婷五月天av| 内射激情在线| 好好日激情五月天| 爱爱色五月天| 丁香五月天人体| 色婷婷五月天激情| 996热| 婷婷综合久久| 亚洲综合色色| 在线日韩视频| 99色色热| 99这里只有免费的小视频在线观看| 婷婷色五月丁香六月欧美啪| 丁香婷婷六月天| 欧美在线操| 色射影院| 综合色久| 婷婷五月中文在线| 激情小说婷婷小说| 99在线观看免费精品视频| 五月丁香婷婷福利| 这里只有精品,日韩视频| 国产永久一二一起草| 久久这里面只有精品视频| 九九精品片一| 久久只这里有精品| 思思精品热在线| 国产日韩欧美| 色婷五月天| 欧美色色色色色| 东京热免费视频| 99亚洲天堂| 刘玥av在线| 99热在线网站| 97在线精品视频| 婷婷五月天堂网| 婷婷久久视频| 久久A V无码视频| 久久精品人妻| 丁香五月播播| 大地9中文在线观看免费高清| 亚州在线中文字幕| 色婷婷综合丁香五月天| 92久久| 五月婷婷六月丁香综合视频在线| 久久婷婷操| 97色色综合| 9久精品视频| 亚洲激情久久| 精品自拍97| 秋霞日本免费毛片A片| 五月婷婷大香蕉| 综合激情五月丁香| 婷婷五月天电影网| 大香蕉手机视频| 欧美成人猛片AAAAAAA| 激情国产五月| 欧美99视频| 人妻内射麻豆视频| 五月天成人网在线观看| 亚洲天天| 亚洲中文字幕在线电影| 五月婷婷影院| av性爱在线| 九九九九国产| 五月丁香色停停啪啪啪| 丁香婷婷五月六月久久| 色五月婷婷大| 狠狠爱婷婷爱| 亚洲性爱AV在线| 99在线免费视频| 婷婷五月天人妻| 日本啪啪网| 丁香六月婷婷缴情欧美| 99碰网站| 五月天婷婷青青草| 久久综合丁香激情五月| 七七久久综合| 久久综合激情五月天| 综合五月婷婷| 蜜臀AV在线观看| 猫咪伊人久久| 激情婷婷网| 色五月婷婷久久| 99热资源在线| 久久在线人妻| 婷婷欧美| 91丨九色丨国产在线| 五月丁香拍拍激情综合| 99热国内精品| 久久精品日| 六月婷五月丁香| 99热精品在线播放| 伊人久久综合| A A色色| 国产成人网站在线观看| 69色婷婷| 欧美日韩aaaa| 久久久天堂国产精品女人| 色欲天天综合网| 丁香婷婷情色五月天| 五月综合激情久久| 伊人五月天男人的天堂在线| 五月天婷婷爱| 成人一区在线观看| 淫荡综合网| 成人无码髙潮喷水A片| 97人人草| www.婷婷亚洲基地| 91好好热日本在线| 蜘蛛女侠2003满天星免费观看| 综合久久十三| 九九久久99| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | 五月婷视频久久| 色五月天堂| 九九色之九九色之88| 婷婷五月天激情电影小说| 亚洲av另类在线观看| 很很干五月天| 日韩一本操| 婷婷五月天xxx| 久久五月综合| 精品色情一区二区三区四区| 思思热视频在线观看| 9 1超碰九色| 久久久久久9| 欧美色99| www99热| 激情婷婷色色| 久久九九热视频| 久久激情视频99| 五月婷综合| 99热99在线| 天天射影院| 婷婷五月丁香综合激情小说| 中文字幕成人| 丁香五月亭亭六月综合激情网| 丁香五月天婷婷激情| 激情美女五月天| 无码AV免费精品一区二区三区| 久热2025无码| 专区无日本视频高清8| 午夜爱爱爱成人| 高清资源站日A美A欧亚…| 开心五月婷婷激情网| 欧美 色婷婷| 婷婷王月天影院| 色婷婷久久视屏| 五月狠狠| 超碰人人色| www.激情| 亚洲成人乱码av网站| 色综合99色| 色婷婷五月天在线观看| 狠狠色噜噜狠狠狠狠综合| 婷婷六月久久综合导航| 五月丁香成人日| 婷婷五月丁香激情| 丁香午夜天| 久久精品63| 精品色色| 操丝袜视频影院导航| 99精品久久久久久久久| 偷拍91九色| 五月天无码| 精品成人在线| 另类小说色婷婷| 婷婷六月色| 欧类av怡春院| 色婷婷成人| 婷婷亚洲色| 艹B高清无码| 丁香激情五月天| 综合激情开心五月| 99惹 精品在线| 五月色婷婷中文字幕| 怡红院院在线导航网| 五月九九综合| 婷婷丁香色五月| 色五月丁香六月婷婷| 婷婷丁香五月天影院 | 少妇性按摩无码中文A片| 狠狠狠夜夜夜| 婷婷五月天成人在线视频| 北条麻妃九九九国产精品视频| 久久99网| 情婷婷五月天在线| 丁香五月电影院在线观看| 色久综合| 五月丁香六月情| 天天爽成人综合网站| 991自拍视频| 婷婷久久五月天| 五月天色影院| 99热精品少| 九九九九九九综合| 成人综合网站| 99热亚洲| 激情五月天激情综合网| 六月婷婷天天操夜夜爽视频| 九九热青青草| 色五月激情五月| 九九色播五月丁香| 26uu| 五月婷俺去也| 婷婷六月综合基地| 超级碰碰97在线| 91碰碰| 大香蕉欧美在线| 五月天激情开心网| 99rewww| 久久婷婷五月天激情四射| 久久久久9久无码视频| 天天天天干| 黄色一级影片| 六月丁香社区| 狠狠色情婷婷| 97人妻碰碰中文无码久热丝袜| 日韩精品无码AV| 国产91资源在线| 色五月婷婷中文字幕| 欧美激情综合色综合啪啪五月| 91.com男女操| 久久狠狠干| 我要看激情五月天| 成人五月天在线视频在线观看| 色情婷| 国内自拍1区| 天天插天天干| se99视频| 五月色丁香| 99九九视频| 天天舔日日肏夜夜爽| 亚洲 精品 综合 精品| 99视频自拍| 丁香婷婷九月| 亚洲无aV在线中文字幕| 亚洲精级| 久久婷婷七月丁香| 国产精产国品一二三在观看| 色色a| 五月婷婷婷| 欧美日韩999| 国产欧美第五十五页| 天天干天天做| 婷婷五月天国产| 99热在这里只有精品| 亚洲综合色棒| 色情综合网| 色五狠狠| 婷婷丁香人妻天天久久| 亚洲另类噜噜| 色五月第四色| 婷婷伊人网| 99这里| www.日韩国产| 91人人网| 日韩婷婷| 五月天伊人网| 超碰免费人人| 国产精品人成A片一区二区| 开心激情婷婷| 热思思九九| 丝袜熟女一区二区三区| www.99操.com| 天花AV无码| 日韩AV在线免费观看| 99色热视频| 无码se| 婷婷5月天av| 热久久视频99| 国产26uuu| 五月婷激情影院| 丁香色色网| 综合五月婷婷| 亚洲精品a成人在线播放| 婷婷黄色网| 亚洲九九婷婷| 日本色婷婷| 亚洲丁香五月天在线视频| 激情亚洲色图片丁香综合| 丁香五月婷在线| 人。妻久久| 91色色色18| 另类视频五月天| A片试看120分钟做受图片| 狠狠ri| 九九热精品99| 五月婷婷另类| 狠狠干在线视频| 婷婷亚洲欧美丁香五月| 另类精品视频在线观看| 久久99热这里只有精品| 亚洲精品V天堂中文字幕| 欧美日韩国产成人在线| 久婷| Va另类视频| 亚洲啪啪网| 天天综合精品| 国产综合丁香五月天| 九九性视频| 激情五月婷在线精品| 日韩人妻无码精品| 五月天激情网图片| 日韩激情网站| 丁香五月在线人妻| 久久这里有精品在线观看| 99色| 国产精品扒开腿做爽爽爽A片唱戏| 99婷婷色| 色色色视频免费无码| 婷婷五月色播放| 天天爱天天操| 婷婷六月久久| 九九热这里有精品视频| 欧美成人五月天| 丁香六月婷婷| 天天视频精品9| 深爱五月月天| 久久激情五月婷婷| 另类天堂| 色99无码| 五月天堂婷婷| 9热视频在线观看| 色香蕉婷婷| 狠狠大香婷婷爱| 色婷婷激情| 国产午夜成人免费看片无遮挡| 精品99在线看| 伊人9999| 日韩999| 九九大香视频| 天天干com| 色五月综合网| 性色婷婷| 色五月丁香伊人五月| 99这里都是精品| 大香蕉啪啪| 丁香五月香蕉| 亚洲网综合在线| 亚洲综合激情五月久久| 久久这里只有精品热在99| 欧美成人AAA片一区国产精品| 色五月天堂| 色婷婷五月天偷拍| 九九综合影音先锋| 亚洲天堂AV免费片| 亚洲色综合| 国产黄色一级片| 久久久久人无码人妻| 久热超碰| 婷婷综合网站| 97人妻碰碰碰久久香蕉| 在线综合91| 亚洲五月天婷婷在线| 怡红院AV亚洲一区二区三区H| 婷色五月| 高清不卡一区| 一本色道久久综合狠狠躁小说| 亚洲噜色| 丰满少妇乱A片无码| 亚洲亚洲激情| 噜噜在线| 色啪网| 色色色干| 五月丁香综合激情网| 可以看的av网站| 综合网网欲色| 日狠狠| 婷婷五月无码| 99热免费在线| 五月丁香视频色色| 色爱五月天| 东京热人妻一区二区三区在线| 日日操,夜夜撸| 国模狼狼| 丁香婷婷色| 99热免费18| 激情丁香五月天图片| 色婷婷女优有码五月亭| 人人干人人看| 97人妻碰碰碰久久| 91久久九久久九久久九久久九久久 | 亚洲在线操| 亚洲精品99| 久久无码激情视频| 99热国产|