99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

嵌入式數(shù)據(jù)搬運(yùn)選型:DMA、NEON與CPU拷貝底層邏輯與實(shí)戰(zhàn)

嵌入式數(shù)據(jù)搬運(yùn)選型:DMA、NEON與CPU拷貝底層邏輯與實(shí)戰(zhàn) 寫這份分享時(shí)我剛在板子上調(diào)完一版 DMA 環(huán)形緩沖區(qū)順手把總線上的數(shù)據(jù)搬運(yùn)負(fù)載從 CPU 手里徹底剝了下來(lái)。說(shuō)實(shí)話在嵌入式或者驅(qū)動(dòng)開(kāi)發(fā)里“拷貝數(shù)據(jù)”這件事看起來(lái)基礎(chǔ)但對(duì)性能的影響往往是一票否決級(jí)的。你到底是該無(wú)腦 memcpy還是上 DMA或者干脆用 NEON 向量指令暴力搬運(yùn)我見(jiàn)過(guò)太多人在這個(gè)問(wèn)題上憑感覺(jué)選結(jié)果要么 CPU 占用率被打滿要么數(shù)據(jù)一致性踩坑。所以今天這篇就專門來(lái)盤一盤 DMA、NEON、CPU 這三種拷貝方式的底層邏輯、適用場(chǎng)景和實(shí)戰(zhàn)選型思路。這篇文章適合正在做驅(qū)動(dòng)開(kāi)發(fā)、嵌入式音視頻處理、網(wǎng)絡(luò)收發(fā)邏輯優(yōu)化以及任何被“數(shù)據(jù)搬運(yùn)太慢”困擾的朋友。1. 三種拷貝方式底層到底在干什么選型之前先把三者的本質(zhì)差異搞清楚。很多人以為 DMA 是“更快的拷貝”NEON 是“更快的拷貝”CPU 普通拷貝是“更慢的拷貝”這個(gè)認(rèn)知大方向沒(méi)錯(cuò)但底層機(jī)制完全不同直接決定了它們?cè)诓煌瑘?chǎng)景下的表現(xiàn)。1.1 CPU 普通拷貝的本質(zhì)CPU 拷貝最常見(jiàn)的就是 memcpy本質(zhì)上就是讓處理器內(nèi)核直接參與數(shù)據(jù)搬運(yùn)。具體流程是CPU 從源地址加載數(shù)據(jù)到寄存器再?gòu)募拇嫫鲗懟啬繕?biāo)地址。這個(gè)過(guò)程完全由 CPU 的流水線驅(qū)動(dòng)走的也是 CPU 的 Load/Store 單元。這里有個(gè)關(guān)鍵點(diǎn)容易被忽略CPU 拷貝的速度受限于主頻、內(nèi)存帶寬和緩存命中率。如果數(shù)據(jù)在 Cache 里熱著memcpy 可以非常快如果數(shù)據(jù)在 DDR 里冷著CPU 就得一路等內(nèi)存總線這時(shí)性能會(huì)嚴(yán)重下滑。而且CPU 在搬運(yùn)過(guò)程中沒(méi)法干別的活執(zhí)行流水線被占住這就是“阻塞”的本質(zhì)。還有一個(gè)不太好察覺(jué)的細(xì)節(jié)現(xiàn)代 CPU 的 memcpy 實(shí)際上會(huì)利用 SIMD 指令集。編譯器在處理大數(shù)據(jù)塊時(shí)會(huì)自動(dòng)向量化一次拷貝 16 字節(jié)甚至 32 字節(jié)而不是逐字節(jié)搬。所以單純從“指令效率”來(lái)看CPU 的 memcpy 已經(jīng)做了不少優(yōu)化。但在嵌入式領(lǐng)域尤其是 Cortex-A 系列這樣的應(yīng)用處理器上CPU 拷貝的核心瓶頸不在指令效率而在于它占用了 CPU 的執(zhí)行資源。你在 memcpy 大數(shù)據(jù)塊的時(shí)候中斷響應(yīng)延遲會(huì)明顯變差實(shí)時(shí)性受影響。1.2 NEON 拷貝的本質(zhì)差異NEON 是 ARM 平臺(tái)的 SIMD 指令集它的思路和 CPU 普通拷貝有很大區(qū)別它的定位是“用更寬的寄存器、并行處理更多數(shù)據(jù)”本質(zhì)上還是 CPU 在搬但它用的是 NEON 單元而非普通 Load/Store 單元。舉個(gè)例子Cortex-A7 的 NEON 寄存器是 128 位寬的Q0-Q15一次 vld1q 指令能從內(nèi)存一次性加載 16 字節(jié)vst1q 再一次性寫回。這比普通寄存器 32 位寬一次 4 字節(jié)要高效得多。NEON 拷貝的典型寫法是循環(huán)展開(kāi) 預(yù)取把內(nèi)存訪問(wèn)延遲壓到最低。NEON 在拷貝上的優(yōu)勢(shì)有兩個(gè)維度一是數(shù)據(jù)并行度二是 cache 友好性。你可以用 pld 指令把下一塊數(shù)據(jù)提前預(yù)取到 cache配合 vld1q/vst1q 流水線批量搬運(yùn)實(shí)測(cè)在大部分 ARM 平臺(tái)上NEON 拷貝帶寬是普通 memcpy 的 1.5 到 2 倍。但注意NEON 的優(yōu)勢(shì)僅限于“數(shù)據(jù)在內(nèi)存和寄存器之間搬運(yùn)”這個(gè)場(chǎng)景它并沒(méi)有繞開(kāi) CPU 核心所以它依然會(huì)占 CPU 資源。另一個(gè)值得提的點(diǎn)是 NEON 對(duì)數(shù)據(jù)對(duì)齊的要求。vld1q/vst1q 要求 16 字節(jié)對(duì)齊時(shí)效率最高未對(duì)齊時(shí)雖然也能工作但會(huì)觸發(fā)額外的內(nèi)存訪問(wèn)。這也是為什么很多高性能代碼里你會(huì)看到“先按字節(jié)把頭尾修的干干凈凈再用 NEON 刷中間大塊”這種典型寫法。后面講實(shí)操時(shí)我會(huì)給出具體的對(duì)齊處理思路。1.3 DMA 的本質(zhì)把數(shù)據(jù)搬運(yùn)變成外設(shè)邏輯DMA 和 CPU 拷貝、NEON 拷貝有本質(zhì)區(qū)別它壓根不用處理器核心參與。它的全稱是 Direct Memory Access直接內(nèi)存訪問(wèn)通過(guò)一個(gè)獨(dú)立的總線控制器在源地址和目標(biāo)地址之間傳輸數(shù)據(jù)傳輸完成后通過(guò)中斷或事件通知 CPU。整個(gè)過(guò)程中CPU 只需要做兩件事啟動(dòng)時(shí)配置好 DMA 的描述符包括源地址、目標(biāo)地址、傳輸長(zhǎng)度、突發(fā)大小傳輸完成時(shí)處理中斷。中間的大塊時(shí)間CPU 完全解放出來(lái)。這就是 DMA 最大的價(jià)值。但要注意DMA 的出現(xiàn)不是為了“更快”。它的性能并不一定高于 NEON 或 CPU 拷貝尤其是對(duì)于小數(shù)據(jù)塊DMA 的配置開(kāi)銷可能比本身傳輸時(shí)間還長(zhǎng)。DMA 的優(yōu)勢(shì)是“不占用 CPU”而不是“傳輸速度快”。這也直接影響了選型策略大批量、持續(xù)性的數(shù)據(jù)搬運(yùn)優(yōu)先 DMA小批量、偶爾一次性的數(shù)據(jù)搬運(yùn)CPU 或 NEON 反而更劃算。2. 不同場(chǎng)景下怎么選這才是真正的核心問(wèn)題理論上理解了三種方式后選型邏輯才真正落地。我的實(shí)際經(jīng)驗(yàn)是選型不只看數(shù)據(jù)量還得看處理頻率、數(shù)據(jù)特點(diǎn)、實(shí)時(shí)性要求甚至看你手里的硬件平臺(tái)支持什么特性。這里我把實(shí)戰(zhàn)中最常遇到的場(chǎng)景逐一拆開(kāi)講。2.1 大數(shù)據(jù)塊搬運(yùn)優(yōu)選 DMA但要處理對(duì)齊和描述符先說(shuō)最經(jīng)典的大批量場(chǎng)景從網(wǎng)卡 NIC 收包到內(nèi)存緩沖區(qū)從 ADC 采集 FIFO 搬到內(nèi)存或者從攝像頭傳感器把一幀 YUV 數(shù)據(jù)搬到內(nèi)存。這類數(shù)據(jù)傳輸?shù)奶攸c(diǎn)是單次數(shù)據(jù)量大可能是幾 KB 甚至幾 MB而且通常是周期性發(fā)生的。在這個(gè)場(chǎng)景下DMA 是絕對(duì)的主力。原因也很直白用 CPU 或 NEON 搬一個(gè)大塊的同時(shí)整個(gè) CPU 都沉浸在搬運(yùn)中而 DMA 可以把 CPU 釋放出來(lái)去做更緊急的事比如協(xié)議解析、狀態(tài)機(jī)處理、用戶態(tài)調(diào)度。你說(shuō) NEON 更快確實(shí)更快但在驅(qū)動(dòng)層跑 NEON 拷貝很容易導(dǎo)致中斷處理時(shí)間過(guò)長(zhǎng)觸發(fā)高層 watchdog。不過(guò)用 DMA 也有幾個(gè)細(xì)節(jié)要注意。首先是內(nèi)存類型。DMA 使用的緩沖區(qū)必須是 cache 一致性的或者你要手動(dòng)做 cache 無(wú)效化/clean 操作。否則會(huì)出現(xiàn) DMA 已經(jīng)把數(shù)據(jù)寫進(jìn)內(nèi)存了CPU 卻從 cache 里讀到舊數(shù)據(jù)的經(jīng)典 bug。在多核 CPU 上這個(gè)問(wèn)題更容易踩雷因?yàn)槟闵踔翢o(wú)法預(yù)判 cache line 被哪個(gè)核加載。其次是 DMA 描述符的管理。有些平臺(tái)的 DMA 驅(qū)動(dòng)是簡(jiǎn)單的寄存器模式一次配置一個(gè)塊傳輸有些則支持描述符鏈表比如 Zynq 的 SG-DMA可以把多個(gè)不連續(xù)的內(nèi)存塊串成一個(gè)鏈表逐個(gè)搬運(yùn)。后者在處理網(wǎng)絡(luò)報(bào)文分片時(shí)特別好用。但帶來(lái)的復(fù)雜度也直線上升你要小心描述符的回寫狀態(tài)、半傳輸中斷、傳輸完成中斷的時(shí)序。2.2 小批量高頻拷貝NEON 是甜點(diǎn)區(qū)DMA 反而累贅很多人上來(lái)就想用 DMA 優(yōu)化一切但小數(shù)據(jù)量場(chǎng)景下 DMA 的成本是完全不劃算的。舉個(gè)例子一個(gè) 64 字節(jié)的控制結(jié)構(gòu)體從內(nèi)核態(tài)拷貝到用戶態(tài)DMA 做什么你要分配 DMA buffer、配置描述符、開(kāi)啟通道、等待中斷——這一套動(dòng)作的延遲可能就得幾微秒而 64 字節(jié)用 NEON 四個(gè) vld1q four vst1q 指令納秒級(jí)完成。這種情況下 DMA 就是殺雞用牛刀而且刀還沒(méi)磨好。我建議的分界線大致是 256 字節(jié)以下走 NEON 或普通 CPU 拷貝256 到 1KB 之間看場(chǎng)景靈活切換1KB 以上才認(rèn)真考慮 DMA。這個(gè)閾值不是嚴(yán)格的黃金比例但它是基于“DMA 固定開(kāi)銷 中斷延遲”和“CPU 逐字節(jié)搬運(yùn)成本”交叉計(jì)算出來(lái)的經(jīng)驗(yàn)值。NEON 在做小批量拷貝時(shí)還有個(gè)底層優(yōu)勢(shì)它的預(yù)取指令可以讓“下一個(gè)塊”的數(shù)據(jù)提前進(jìn)入 cache。如果你在一個(gè)循環(huán)里反復(fù)拷貝多個(gè)小塊數(shù)據(jù)NEON 的小塊拷貝速度會(huì)特別穩(wěn)定。但要注意NEON 拷貝雖然不調(diào)操作系統(tǒng) API但你得自己保證內(nèi)存對(duì)齊。我的做法是在每個(gè)拷貝入口做一個(gè)指針對(duì)齊檢查未對(duì)齊的先用普通拷貝把首部修正再把中間的大塊交給 NEON。2.3 緩存一致性問(wèn)題DMA 和 Cache 的愛(ài)恨糾葛這一節(jié)必須單獨(dú)拿出來(lái)講因?yàn)檫@是區(qū)分“能跑”和“能穩(wěn)定上線”的關(guān)鍵。簡(jiǎn)單解釋一下什么叫 cache 一致性問(wèn)題。假設(shè)你有一個(gè) DMA 緩沖區(qū)它是一塊普通的內(nèi)存CPU 和 DMA 控制器都可以訪問(wèn)它。CPU 讀數(shù)據(jù)時(shí)優(yōu)先查 cache如果數(shù)據(jù)在 cache 里命中就直接用 cache 里的副本不會(huì)去訪問(wèn)內(nèi)存?,F(xiàn)在 DMA 控制器從外設(shè)把數(shù)據(jù)寫進(jìn)了這塊內(nèi)存新的數(shù)據(jù)已經(jīng)在內(nèi)存里了但 cache 里還是舊數(shù)據(jù)。CPU 再讀的時(shí)候命中 cache讀到的是舊數(shù)據(jù)——bug 出現(xiàn)了。解決這個(gè)問(wèn)題的思路有三個(gè)其一將 DMA 緩沖區(qū)配置為 non-cacheable也就是不走 cache每次 CPU 訪問(wèn)都直接打到內(nèi)存。這種方法最簡(jiǎn)單但性能會(huì)下降CPU 在上面頻繁讀寫的開(kāi)銷翻倍。其二在 CPU 讀 DMA 數(shù)據(jù)前顯式地執(zhí)行 cache invalidate 操作告訴 cache “老數(shù)據(jù)作廢”在 CPU 寫 DMA 數(shù)據(jù)前執(zhí)行 cache clean 操作把數(shù)據(jù)刷到內(nèi)存。這種方法是性能與正確性的平衡點(diǎn)也是驅(qū)動(dòng)開(kāi)發(fā)中最常見(jiàn)的做法。其三使用硬件自動(dòng)維護(hù) cache 一致性的機(jī)制比如 ARM 的 DMA 設(shè)備帶 inner/outer shareable 屬性或者用 IOMMU/SMMU 做地址重映射。這類方案在復(fù)雜 SoC 上越來(lái)越普及但在很多嵌入式平臺(tái)上并沒(méi)有完整實(shí)現(xiàn)所以不能拍腦袋依賴它。我在一輪實(shí)際調(diào)試中的體會(huì)是cache 問(wèn)題在單核簡(jiǎn)單 DMA 場(chǎng)景下還比較可控真正常常翻車的是多核 CPU 上的 DMA 緩沖。因?yàn)槲覜](méi)辦法預(yù)判某個(gè) cache line 是哪個(gè)核加載的只有嚴(yán)格按“DMA 寫 → invalidate → CPU 讀”、“CPU 寫 → clean → DMA 讀”的規(guī)范來(lái)才能真正避免那種“偶發(fā)性數(shù)據(jù)錯(cuò)誤”——這種 bug 是最難查的因?yàn)樗皇潜噩F(xiàn)而是偶爾出現(xiàn)一次復(fù)現(xiàn)周期可能是一小時(shí)甚至一天。3. 實(shí)操串口 DMA 接收不定長(zhǎng)數(shù)據(jù)的完整實(shí)現(xiàn)這一節(jié)我挑一個(gè)大家都熟悉的場(chǎng)景來(lái)完整走一遍串口 DMA 接收不定長(zhǎng)數(shù)據(jù)。這可能是 DMA 教程里點(diǎn)擊率最高的一類需求因?yàn)榇谕ㄓ嵲谇度胧介_(kāi)發(fā)中太常用了而 DMA 處理不定長(zhǎng)數(shù)據(jù)的核心技巧就是“空閑中斷 DMA 環(huán)形緩沖”。3.1 環(huán)境與基礎(chǔ)原理以 STM32F103 為例或者擴(kuò)大到任何帶 UART DMA 的 MCU。核心思路是把串口的 RX DMA 配置為循環(huán)模式讓 DMA 在內(nèi)存里一圈一圈地搬運(yùn)數(shù)據(jù)不關(guān)心什么時(shí)候收到一幀風(fēng)的數(shù)據(jù)。那怎么判斷一‘幀’數(shù)據(jù)結(jié)束呢就需要用到串口的空閑中斷IDLE當(dāng)總線上沒(méi)有新數(shù)據(jù)進(jìn)來(lái)時(shí)串口硬件會(huì)觸發(fā)一個(gè)空閑中斷這時(shí)候 CPU 去讀 DMA 當(dāng)前傳輸計(jì)數(shù)就能算出本輪收到了多少字節(jié)。這是串口 DMA 接收不定長(zhǎng)數(shù)據(jù)的經(jīng)典套路。它的好處是接收過(guò)程全程 DMA 搬運(yùn)CPU 幾乎不參與只有在一幀數(shù)據(jù)接收完成后CPU 才去處理一次。這就把一個(gè)高頻的“每個(gè)字節(jié)中斷一次”變成了“每一幀中斷一次”CPU 負(fù)載大幅下降。3.2 配置步驟和關(guān)鍵代碼以 HAL 庫(kù)為例初始化時(shí)開(kāi) UART 的 DMA 接收為循環(huán)模式再使能 IDLE 中斷。下面給出一個(gè)典型的初始化片段// 假設(shè) UART_Handle 已經(jīng)初始化好 // 配置 DMA RX 緩沖區(qū)和長(zhǎng)度 #define RX_BUF_SIZE 1024 uint8_t rx_buf[RX_BUF_SIZE]; // 開(kāi)啟 UART DMA 接收循環(huán)模式 HAL_UART_Receive_DMA(huart1, rx_buf, RX_BUF_SIZE); // 使能 UART 的 IDLE 中斷注意要直接操作寄存器 __HAL_UART_ENABLE_IT(huart1, UART_IT_IDLE);然后寫一個(gè)中斷回調(diào)處理函數(shù)這里有個(gè)技巧HAL 庫(kù)的 UART 中斷處理函數(shù)會(huì)把 IDLE 中斷吞掉所以你得先調(diào)用它的處理函數(shù)再自己判斷標(biāo)志位void UART_IDLE_Callback(UART_HandleTypeDef *huart) { if (huart huart1) { // 讀取當(dāng)前 DMA 剩余計(jì)數(shù) uint16_t remain __HAL_DMA_GET_COUNTER(hdma_usart1_rx); // 當(dāng)前 DMA 總共要搬 RX_BUF_SIZE 字節(jié)所以已接收長(zhǎng)度 uint16_t recv_len RX_BUF_SIZE - remain; // 這里 recv_len 就是本輪接收到的完整數(shù)據(jù)長(zhǎng)度 // 接下來(lái)就可以把 rx_buf 中的數(shù)據(jù)提交給協(xié)議?;蛱幚砗瘮?shù) process_recv_data(rx_buf, recv_len); // 關(guān)鍵步驟重啟下一次 DMA 接收 HAL_UART_Receive_DMA(huart1, rx_buf, RX_BUF_SIZE); } }當(dāng)然你需要在串口中斷服務(wù)函數(shù)里手動(dòng)調(diào)用這個(gè)回調(diào)因?yàn)?HAL 庫(kù)不會(huì)自動(dòng)調(diào)它。具體做法是在UART_IRQHandler里判斷 IDLE 標(biāo)志并清除然后調(diào)用上面的處理函數(shù)。3.3 環(huán)形緩沖區(qū)的進(jìn)階處理上面的例子是最簡(jiǎn)單的單緩沖區(qū)版本實(shí)際項(xiàng)目里我更推薦把 RX 緩沖區(qū)做成環(huán)形。也就是說(shuō) DMA 始終在一個(gè)固定大小的數(shù)組里循環(huán)搬運(yùn)每次收到一幀數(shù)據(jù)時(shí)幀的起止位置不一定在數(shù)組頭部而是在數(shù)組中間旋轉(zhuǎn)。處理思路是通過(guò) DMA 當(dāng)前計(jì)數(shù)計(jì)算讀寫偏移量然后按“先拷貝尾部再拷貝頭部”的方式把完整幀拼接出來(lái)。環(huán)形緩沖區(qū)的核心代碼邏輯大致如下// 環(huán)形緩沖區(qū)讀寫指針 volatile uint16_t rx_head 0; // DMA 當(dāng)前寫入到的位置 uint16_t rx_tail 0; // 應(yīng)用層已經(jīng)讀到的位置 void UART_IDLE_Callback(UART_HandleTypeDef *huart) { uint16_t remain __HAL_DMA_GET_COUNTER(hdma_usart1_rx); uint16_t current_pos RX_BUF_SIZE - remain; if (current_pos rx_tail) { // 數(shù)據(jù)沒(méi)有跨越緩沖區(qū)尾部直接分段拷貝 handle_frame(rx_buf[rx_tail], current_pos - rx_tail); } else { // 數(shù)據(jù)跨越緩沖區(qū)尾部需要分兩次拷貝 uint16_t first_part RX_BUF_SIZE - rx_tail; handle_frame(rx_buf[rx_tail], first_part); handle_frame(rx_buf[0], current_pos); } rx_tail current_pos; }這個(gè)環(huán)形方案的優(yōu)點(diǎn)是不用頻繁停止和重啟 DMA數(shù)據(jù)始終在流入丟數(shù)據(jù)的概率更小。缺點(diǎn)是代碼邏輯要處理邊緣情況比如 DMA 寫指針繞回時(shí)和讀指針相等要判斷緩沖區(qū)是空還是滿這個(gè)標(biāo)簽位判斷一定要小心否則會(huì)復(fù)現(xiàn)那種“看起來(lái)偶發(fā)丟數(shù)據(jù)”的詭異 bug。4. DMA 性能實(shí)測(cè)與參數(shù)選擇解析聊完原理和選型很多人會(huì)問(wèn)DMA 到底能快多少NEON 相比 memcpy 有沒(méi)有質(zhì)的提升這里我用自己的板子實(shí)測(cè)的數(shù)據(jù)來(lái)給一個(gè)直觀的參照。同時(shí)也會(huì)講到 DMA 驅(qū)動(dòng)里兩個(gè)很關(guān)鍵、卻經(jīng)常被忽略的參數(shù)burst size 和 alignment。4.1 實(shí)測(cè)數(shù)據(jù)CPU vs NEON vs DMA我基于一塊常見(jiàn)的 ARM 開(kāi)發(fā)板主頻 1.2GHzDDR3 內(nèi)存分別測(cè)試了 4 種拷貝方式在不同數(shù)據(jù)量下的吞吐量。測(cè)試方法很簡(jiǎn)單循環(huán)拷貝 1000 次記總時(shí)間除以總字節(jié)數(shù)得到帶寬。數(shù)據(jù)源是 16 字節(jié)對(duì)齊的內(nèi)存塊排除首末處理干擾??截惙绞?2B256B4KB1MBCPU memcpy0.9 GB/s1.8 GB/s2.1 GB/s2.2 GB/sNEON 優(yōu)化拷貝1.5 GB/s3.2 GB/s3.8 GB/s3.7 GB/sDMA含中斷開(kāi)銷0.05 GB/s0.3 GB/s1.5 GB/s2.8 GB/s這個(gè)數(shù)據(jù)很能說(shuō)明問(wèn)題。在 32 字節(jié)的小數(shù)據(jù)塊場(chǎng)景下DMA 的速度慢到令人發(fā)指因?yàn)榕渲妹枋龇?、啟?dòng)通道、等待中斷這套流程的固定開(kāi)銷遠(yuǎn)大于數(shù)據(jù)本身搬運(yùn)的時(shí)間。而 NEON 因?yàn)橄蛄坎⑿行?shù)據(jù)塊也能跑出不錯(cuò)的速度。在 4KB 這個(gè)檔位DMA 開(kāi)始接近 CPU 的帶寬但仍未超越。到 1MB 級(jí)別DMA 才真正展現(xiàn)出吞吐優(yōu)勢(shì)加上它能做到 CPU 零占用綜合價(jià)值就遠(yuǎn)高于另外兩種了。所以別再迷信“DMA 快”這個(gè)說(shuō)法。DMA 的價(jià)值是“解放 CPU”它的吞吐優(yōu)勢(shì)通常要在較大的數(shù)據(jù)塊下才能體現(xiàn)。4.2 Burst Size 的選擇與對(duì)齊策略DMA 配置里有個(gè)參數(shù)叫 Burst Size即每次總線事務(wù)突發(fā)訪問(wèn)的次數(shù)。假設(shè)系統(tǒng)總線寬度是 64 位burst size 為 4 意味著 DMA 會(huì)一次性連續(xù)讀取 4 個(gè) 64 位數(shù)據(jù)也就是 32 字節(jié)連續(xù)訪問(wèn)。這個(gè)參數(shù)極大地影響 DMA 的效率。理論上 burst 越大總線利用效率越高因?yàn)樗鼫p少了地址階段的切換開(kāi)銷。但 burst 太大有一個(gè)副作用當(dāng) DMA 與 CPU 同時(shí)訪問(wèn)內(nèi)存總線時(shí)DMA 會(huì)對(duì)總線進(jìn)行較長(zhǎng)時(shí)間的“占用”導(dǎo)致 CPU 訪問(wèn)內(nèi)存的延遲飆升影響整體性能。所以 burst size 并不是越大越好。我的建議是從小到大測(cè)試在典型負(fù)載下逐一測(cè)試 burst size 1、2、4、8選吞吐量和企業(yè)性能的平衡點(diǎn)。如果你的板子在 DMA 搬運(yùn)時(shí) CPU 表現(xiàn)明顯卡頓優(yōu)先減小 burst size。對(duì)齊策略則是另一個(gè)關(guān)鍵點(diǎn)。DMA 控制器通常要求源地址和目標(biāo)地址滿足一定對(duì)齊要求常見(jiàn)的有 4、8、16、32 字節(jié)對(duì)齊。如果你的 DMA 源數(shù)據(jù)是串口收來(lái)的字節(jié)流天然沒(méi)有對(duì)齊概念那就要在 DMA 描述符中配置允許非對(duì)齊訪問(wèn)或者顯式地把數(shù)據(jù)搬到一個(gè)對(duì)齊緩沖區(qū)再進(jìn)行 DMA。否則硬件會(huì)報(bào)錯(cuò)或產(chǎn)生未知行為。NEON 拷貝也是一樣的邏輯只不過(guò)它自身對(duì)齊的要求是 16 字節(jié)寬只要源和目的地址都是 16 字節(jié)對(duì)齊NEON 就能以最高效率運(yùn)行。如果源地址是奇數(shù)偏移你只能用 vld1q_u8 之類的非對(duì)齊加載指令性能有所下降但不至于出錯(cuò)。這也是為什么我在做圖像處理時(shí)會(huì)先把圖像數(shù)據(jù)的行地址統(tǒng)一 align 到 16 字節(jié)的原因。5. 實(shí)戰(zhàn)中常見(jiàn)的坑與排查技巧現(xiàn)在進(jìn)入“坑位預(yù)警”環(huán)節(jié)。這三種拷貝方式帶來(lái)的問(wèn)題通常都不是“性能不夠”而是“偶爾出錯(cuò)”“偶發(fā)卡死”“數(shù)據(jù)不對(duì)”。下面這些案例都是我自己或周圍同事實(shí)際踩過(guò)的把癥狀、原因、解決方案列出來(lái)大家可以對(duì)照排查。5.1 DMA 數(shù)據(jù)舊值問(wèn)題cache 一致性徹底翻車有次在調(diào)試一個(gè)網(wǎng)絡(luò)驅(qū)動(dòng)客戶端收包的時(shí)候偶爾會(huì)出現(xiàn)相同的一包數(shù)據(jù)被重復(fù)上報(bào)。排查了很久發(fā)現(xiàn)不是協(xié)議問(wèn)題而是 DMA 的 cache 一致性問(wèn)題DMA 把新數(shù)據(jù)寫進(jìn)了內(nèi)存但 CPU 讀取時(shí)從 cache 讀到的是上一次的舊數(shù)據(jù)。這種情況特別容易在“DMA 接收緩存剛好命中 CPU 之前讀過(guò)的 cache line”時(shí)出現(xiàn)因?yàn)?CPU 對(duì)這塊內(nèi)存是有緩存的它覺(jué)得自己讀的是最新數(shù)據(jù)實(shí)際卻是舊的。解決方法是在任何“DMA 寫完數(shù)據(jù)之后CPU 讀取該緩沖區(qū)之前”顯式調(diào)用 cache invalidate API。Cortex-A 平臺(tái)通常有dma_map_single或dma_sync_single_for_device這樣的接口驅(qū)動(dòng)層直接調(diào)用即可。對(duì)裸機(jī)開(kāi)發(fā)可以查 ARM 架構(gòu)手冊(cè)中的DC IVAC指令手動(dòng) invalidate。關(guān)鍵點(diǎn)在于這個(gè)動(dòng)作不能在 DMA 啟動(dòng)前一次性做完后就萬(wàn)事大吉必須在每一次 DMA 傳輸完成后、CPU 讀數(shù)據(jù)前執(zhí)行否則就會(huì)出現(xiàn)“偶爾”的數(shù)據(jù)錯(cuò)亂。5.2 小數(shù)據(jù)塊 DMA 反而把系統(tǒng)拖垮有人把 DMA 用在頻率極高但數(shù)據(jù)量很小的場(chǎng)景比如每 100 微秒傳輸 32 字節(jié)的狀態(tài)信息。表面看 DMA 在搬運(yùn)這 32 字節(jié)但底層它在每 100 微秒就要觸發(fā)一次中斷CPU 被中斷子程序包圍。雖然中斷處理很短但高頻中斷對(duì)流水線預(yù)取、cache 命中率的破壞是巨大的???CPU 占用率可能不高但系統(tǒng)實(shí)時(shí)性嚴(yán)重惡化。這種情況我的經(jīng)驗(yàn)是直接改用 NEON 或普通 memcpy。32 字節(jié)的搬運(yùn)是百納秒級(jí)別DMA 的中斷開(kāi)銷卻是微秒級(jí)別怎么算都不劃算。還有一個(gè)更隱蔽的坑DMA 中斷服務(wù)函數(shù)里的處理邏輯如果太復(fù)雜會(huì)導(dǎo)致下一次 DMA 中斷被延遲處理如果 DMA 通道沒(méi)有緩沖能力就可能丟數(shù)據(jù)。所以 DMA 中斷服務(wù)函數(shù)里要遵循“快進(jìn)快出”原則只做必要的數(shù)據(jù)指針更新和計(jì)數(shù)器維護(hù)真正的協(xié)議解析放到主循環(huán)或高優(yōu)先級(jí)任務(wù)里。5.3 NEON 拷貝在裸機(jī)上的數(shù)據(jù) ABORTNEON 指令本身不難難在它的使用環(huán)境。如果你在一個(gè)不帶 NEON 單元的老舊處理器上執(zhí)行 NEON 指令或者操作系統(tǒng)的 NEON 上下文保存與恢復(fù)機(jī)制沒(méi)有正確注冊(cè)就會(huì)觸發(fā) Undefined Instruction 異常。在 Linux 內(nèi)核模塊中使用 NEON 指令時(shí)要特別小心因?yàn)閮?nèi)核不保證 NEON 寄存器在上下文切換時(shí)被保存你需要先調(diào)用kernel_neon_begin()再執(zhí)行 NEON 代碼結(jié)束后調(diào)用kernel_neon_end()。裸機(jī)環(huán)境下相對(duì)簡(jiǎn)單你只需要確認(rèn)編譯選項(xiàng)里打開(kāi)了-mfpuneon鏈接時(shí)也要有對(duì)應(yīng)的浮點(diǎn)庫(kù)支持。否則即使代碼寫對(duì)了編譯出來(lái)的二進(jìn)制在真正執(zhí)行時(shí)也會(huì)異常。另一個(gè)容易踩的坑是指令集兼容性Cortex-A53 支持 NEON但某些入門級(jí)的 Cortex-M0/M0 根本不支持。所以在項(xiàng)目早期要明確目標(biāo)芯片的指令集范圍別把 NEON 拷貝代碼寫進(jìn)一個(gè)會(huì)被編譯到 M0 內(nèi)核的驅(qū)動(dòng)文件里那是災(zāi)難性的自找麻煩。6. 我自己的一套決策心法講了這么多原理和坑最后把這個(gè)選型思路凝練成一套簡(jiǎn)單的判斷流程方便大家在實(shí)際項(xiàng)目中快速?zèng)Q策。先問(wèn)三個(gè)問(wèn)題數(shù)據(jù)塊多大傳輸頻率多高CPU 是否有更緊急的任務(wù)如果數(shù)據(jù)塊小于 256 字節(jié)或者傳輸頻率極高但每份數(shù)據(jù)只有幾個(gè)字節(jié)直接放棄 DMA選擇 NEON 或 memcpy如果數(shù)據(jù)塊大于 1KB并且傳輸頻率合理DMA 是第一選擇如果數(shù)據(jù)量在中間地帶就需要進(jìn)一步評(píng)估當(dāng)前 CPU 負(fù)載是否吃緊如果吃緊即使單次傳輸不太大也傾向于 DMA畢竟任何 CPU 拷貝的帶寬消耗都會(huì)占用核心執(zhí)行資源如果 CPU 還很閑那 NEON 的簡(jiǎn)單高效就足夠了??紤]數(shù)據(jù)特點(diǎn)。如果源數(shù)據(jù)和目標(biāo)數(shù)據(jù)在內(nèi)存里天然是分散的比如多段不連續(xù)的內(nèi)存SG-DMA 的鏈表模式非常適合如果數(shù)據(jù)是連續(xù)的CPU 和 NEON 都可以簡(jiǎn)單處理??紤]實(shí)時(shí)性。如果系統(tǒng)對(duì)中斷有極嚴(yán)格的要求比如中斷必須在某個(gè)硬期限內(nèi)響應(yīng)那 DMA 是唯一選擇因?yàn)樗诎徇\(yùn)大塊數(shù)據(jù)時(shí)不會(huì)阻塞 CPU。反之如果中斷的抖動(dòng)不太敏感NEON 反而簡(jiǎn)單穩(wěn)定。這套心法的本質(zhì)就是一句話DMA 的價(jià)值不在“更快”而在“不占 CPU”NEON 的價(jià)值在“快而便宜”CPU memcpy 的價(jià)值在“簡(jiǎn)單可靠”。三者的分工非常清晰沒(méi)有誰(shuí)完全覆蓋誰(shuí)。你只需要識(shí)別出自己的瓶頸到底在吞吐還是 CPU 占用答案往往就自己浮現(xiàn)了。寫到這里想起踩過(guò)的不少坑其實(shí)大多不是原理不懂而是沒(méi)把“為什么選它”想明白。抱著“DMA 一定比 CPU 快”的想法去設(shè)計(jì)幾個(gè)迭代之后就會(huì)撞上 cache 一致性、中斷延遲、描述符管理這些墻。反過(guò)來(lái)如果你帶著“讓合適的工具處理合適規(guī)模的數(shù)據(jù)”的思路去選型大部分情況下都能少走很多彎路。最后再分享一個(gè)小技巧把所有拷貝路徑做成一個(gè)統(tǒng)一的抽象接口內(nèi)部根據(jù)長(zhǎng)度自動(dòng)選擇 memcpy、NEON 或 DMA這樣在項(xiàng)目初期不管你的選擇是否精準(zhǔn)后續(xù)調(diào)整都只需要改一處代碼不用把外層邏輯全部推翻。我就是靠著這個(gè)抽象層在一周之內(nèi)把整個(gè)通信驅(qū)動(dòng)的效率提了一倍也沒(méi)有引入新的難查 bug。希望這篇文章能幫你少掉幾根頭發(fā)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情五月婷婷视频| 99精品偷自拍| 丁香六月高清视频| 久久9精品视频| 欧美丁香五月97色| 色色色色网色色网色色| 激情色播| 月色色综合婷婷网| 亚洲乱码日产精品BD| 五月开行婷婷色五月| 综合 蜜月 婷婷| 欧美色色色| 天天操,天天插| 狼友超碰| 香蕉97碰碰碰超视精品| 六月婷婷色色网| 在线看片av| 天天插天天插天天日| 婷婷99狠| 极骚大香蕉伊人| 久超超碰| www.婷婷.com| 色噜综| 日韩日比视频| 色婷婷文字幕| 十二区无码| 99热在线观看| 日韩一级网站| 婷婷99狠狠躁| 丁香五月综合网亚洲综合欧美狠狠 | 玖玖99免费视频| 五月婷婷六月丁香| 97 A I色色| 日韩无码色色| 婷婷丁香人妻天天| 久久婷婷一级片| 九九色逼| 色欲婷婷五月天| 中字幕视频在线永久在线观看免费 | 婷婷综合色五月天| 婷婷开心青青草| 色五月大| www热久久yy9| 亚洲精品成人片在线播| AV大片在线观看| 久久色婷婷| 另类视频丁香五月| 激情九九这里只有精品| www.狠狠干com| 大香蕉九九| WWW免费视频碰碰碰碰| 免费操超碰| 综合色、色综合| 五月天婷婷在线播放| 可以看的av网站| 天色综合网站| 99日这里只有精品| 天天天久久人人人合| 激情婷婷丁香色情五月天| www.色婷婷| 啪啪夜久久| 超碰人人在线观看| 国产精品岛国片在线观看免费| 人人爽网| 九九精品re免费视频| 中文字幕中文有码在线| 婷婷狠狠干| 成人免费120分钟啪啪| 久久看婷婷| 婷婷五月天激情小说| 人人做人人看人人摸| www.主妇. com| www.henhenl| 91丨九色丨国产在线| 亚洲无码影音| 成人AV网站在线| 亚洲AV成人无码电影| 国产精品成人网址| 久久综合播放| 婷婷第六色| 色久九| 香蕉视频91| 国产综合81p| 色婷婷先锋| 性生活视频98791| 午夜爱插插| 丁香五月91| 色999五月色| 玖玖综合网| 欧美在线视频99| 丁香婷婷激情综合五月激情| 五月丁香另类网| 五月婷婷色激情| 看片视频在线免费日产在线看| 婷婷五月天AV| 亚洲激情网| 青草视频在线观看视频| 特级操b片| 久婷| 女人天堂 AV| 五月婷婷自拍视频| 激情五月小说婷婷| www.激情五月天.com| 婷婷五月欧美AA片免费| 97人人操人人干| 五月丁香婷婷福利| 五月激情影视| AA片在线观看视频在线播放| 91在线精品一区二区| 五月丁香综合久久夜夜| 99久热这里只有精品视频删减版| 99热这里只有精品搜| www.久热| 激情婷婷丁香| 99色这里| 五月婷婷69| 五月天激情亚洲| 婷婷五月天桃花网| 婷婷香蕉| 日日操夜夜爽| 亚洲人妻av伦理| 色逼综合网| 玖玖婷婷婷丁香五月| 欧美va精品va老师va| 开心五月深爱五月婷| 亚洲色五月婷婷| 丁香桃色网| 日韩三十六页| 日日操夜夜爽天天天| 色99视频| 九九色黄色| av九九| 婷婷中文字幕版| 婷婷涩五月| 26uuu四色| 天天爱天天爽| 伊人大香蕉综合在线| 成人天天爽| 婷婷五月天久久| 精品夜夜澡人妻无码AV| 看黄的网站18禁| 久久精彩免费视频| 涩婷婷视频快播人妻| 日韩中文欧美| 安息电影在线观看完整版| 久久机热这里只有精品| 乱精品一区字幕二区| 九九精品热播| 九九99热| 婷婷五月综合网| 婷婷之六月丁香| 九色视频91| 久久婷婷桃花五月天| 五月婷婷丁香大陆免费| 日韩成人网址| 91九色国产| 天天高潮夜夜爽| 色婷婷五月天| 色天天综合色| 综合色七七| 亚洲五月天天| av免费在线看不卡无毒| 天天爽天天透天天爱| 久久草大香蕉| 人人舔人人色人人高潮| 国产一区二区av免费| 色色色色色级无码| 成人中文网| 噜噜噜噜噜在线| 久婷| 5月婷婷视频网站综合| 狠狠色狠狠| 五月久久网| 国产精品成人av在线观看春天| 精品人妻伦九区久久AAA片| 五月丁香另类图片| 五月丁香色综合| 综合亚洲色色| 五月Huangsewang| 开心婷婷五月天电影院| 久久五月热| 99视频精品全部免费观看| 538在线精品| 日日干日日s| 天天综合精品| 狠狠色综合精品视频在线| 9色免费网| 狠狠干天天日| www久久艹| 999婷婷综合| 五月婷婷激情久久| 久久久久久久人妻| 99热这里只有精品2| 97人人操人人拍| 色五婷婷| 久9热在线视频| 黄色AV日韩| 再次出发二| 久久婷婷五月天| 天天玩夜夜操天天爽| 色婷婷五月综合| jiujiu无码五区| 精品亚洲国产成AV人片传媒| 午夜丁香综合婷婷| 激情五月综合六月丁香婷婷狠狠干| 久久小说网| 亚美欧色影院| 激情网第九色| 色婷婷第四色| 99超级碰免费视频| 色五月AV| 五月丁香婷婷综合激情基地| 中文字幕久久婷九女同| 日本九九视频| 色色婷婷综合网| 大香伊人婷婷| 国产成人精品一区二区三区视频 | 欧美色碰| 99色综合| 狼人婷婷久久| 99热在线精品观看| 夜夜骑日日操| 色婷婷六月天| 五月丁香婷色| 五月天大香蕉av| 丁香五月天堂网| 热九九在线| 五月婷婷久久大片| 亚洲综合色网| 久久婷婷综合网| 激情深愛五月視頻| 91人操人人人操人| a毛片二逼wwwwwwwwww| 久久丝袜婷婷| 日日爱激情| 九九久久精品| 99啪啪网| 九月婷婷综合在线| 久久精品A片777777| 丁香五月手机在线| 五月婷婷我| 五月丁香香蕉| 九九综合色综合| 91男同视频| 午夜丁香| 久热超碰91| 激情综合网,五月| 欧美日比视频| 免费成片在线观看| 日韩婷久| 婷婷丁香五月基地| 黄色AAAA韩国guochansanji| 亚洲欧洲中文日韩久久AV乱码| 亚洲欧洲午夜成人精品av| 日韩按摩二区| 日韩一区二区三区无码| caopeng超碰| 色欲五月婷婷| 在线网黄| 大香蕉久久久久| 91国产精品视频播放| 伊人五月天| 亚洲操逼片| 久久狠狠干| 99re思思精品在线观看| 五月婷婷自拍视频| 色色免费网战视频| 伊人五月天在线| 欧美激情五月| 天天爽免费视频| 五月综合激情综合久| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 热久久这里只有精品20| 亚洲小说欧美激情| 国产精品激情五月天色婷婷| 日本熟女内射| 欧美色色色色色色| www.色五月.com| 人妻内射视频| 五月激情网站| 五月婷婷激情久久| 99这里有精品| 激情五月丁香五月色| 日本一级一级一级一级| 国产婷婷色综合AV蜜臀AV | 五月丁香色色| 欧美婷婷丁香五月社区| 色婷婷久久| 狠狠色丁香| 91色色色| 婷婷字幕在线| 久久天堂| 一区二区中文字幕| 色情五月天婷婷| 五月婷婷丁香狠狠撸久久| 久久ab| 精品久久这里热66| 欧美婷婷丁香五月社区| 亚洲精品无AMM毛片| 粉嫩AV久久一区二区三区| 亚洲精品一区无码A片| 中文字幕无码人妻少妇免费视频 | 久热这里精品免费| 婷婷五月情天| 久久九九爽| 99色婷婷视频| 婷婷香草网| 久99久视频精选| 亚洲AV成人精品网站在线播放| 九久热| 123草逼网| av九九| oVV4WIB3vFi8D| 五月天社区狠狠| 五月综合色| 五月天综合在线| 精品一区二区三区免费毛片爱| 777米奇影视第四色| 色亭亭九月| 色人久久| 婷婷大香蕉| 99精品国产在热久久| 丁香五月婷婷香| 99久re热| 另类图片婷婷五月天| 五月丁香色综合| 久久视频这里有精品99| 五月丁香A片| 97色色婷婷| 五月丁香色狠狠干大屄| 欧美日朝成人| 九色在线观看91av| 久色网五月| 五月婷婷天堂| 五月丁香综合久久夜夜| 成人久久天天x资源站| 开心激情播播五月天| 99碰超| 影音先锋自拍网| 九九99在线视频| 丁香婷婷久久激情| 午夜九九九九九九九九九九九九九| 99热这里只有精彩| 久久精品91视频| 蜜乳.comcom| 天天日天天爽| 丁香五月影院| 丁香五月手机在线| 人妻久久久久久久久久| 色色热| 中文av在线观看| 天天干天天日日| 日韩在线观看亚洲| 91久久18| AAA亚洲AV| 婷婷五月天激情网| 色五月涩涩婷婷蜜桃| 色综合久久99色| 九九在线91| 色久婷婷网| 婷婷五月情| 亚洲成Av人片乱码色第1集| 婷婷五月开心中文字幕色| 亚洲精品亚洲人成人网| 久99久精品视频| 五月天五月天激情网| 亚洲亚洲人成综合网络| 亚洲色婷婷网站| 99热这里只有精品8| 激情综合国产| 婷婷九月激情| 99婷婷五月天激情| 人人爱人人草| 激情文学第四色婷婷丁香五月| 日本五月天激情| 日本色超碰| 夜夜爽天操| AA片在线观看视频在线播放| 五月色婷婷激情| 涩五月婷婷| 伊人五月天日日夜夜久久久天天| 久久99网站| 婷婷五月天成人在线视频| 九九综合| 77799热| 六月色色| 久久婷婷操| 国产SUV精品一区二区883| WWW.夜夜操.com| 五月天婷婷久久视频| 丁香婷婷六月激情文学 | 五月天五月婷五月激情网| 亚洲国产精品SUV| 激情婷婷综合| 99在线看片| 夜夜骑夜夜撸| 亚洲一级色电影| 伊人婷婷五月天| 99热伊人| 色99综合色88| 五月婷婷中文字幕AV| 婷婷六月视频| www.五月丁香| 我要看激情五月天| 97黑人精品区| 性做久久久久久久免费看| 最新亚洲色色网| 精品五月花| 99国产精品久久久久久久久久久 | 天堂AV三级| 无码AV免费精品一区二区三区| 色婷婷狠狠色| 五月婷婷激情| 91男同视频| 欧美婷婷成人| 亚洲色色爱| 亚洲av电影网站| 99久超碰| 色五月婷婷视频| 中文字幕91,综合| 五月天综合视频| 五月天伊人日日噜影片AV| 久久色午夜在线导航| 久久久久亚洲AV成人无码电影| 久久之人妻| 黄色中文字目| 丁香五月性| 丁香五月大片| 伊人婷婷大香蕉| 国产毛多水多女人A片| 丁香色综合| 99 re视频一区| 99这里只有| 五月六月激情| 丁香五月天激情网址| 亚洲天堂色| 99ri视频| 激情都市丁香婷婷| 婷婷免费无视频| 97九色视频| 国产精品18久久久| 大香蕉婷婷色| 天天日夜夜曹| 激情丁香五月激情婷婷| 日本高清久| ai97re99一本| 欧美三级巜人妻互换| 久久久www| 天天视频亚洲| 精品少妇蜜臀91| 精品久热| 99热青青草| 潘金莲AAAAAAAAAA| 噼里啪啦在线观看免费完整版视频| 激情六月丁| 亚洲丁香五月美女| anquye伊人| 美女黄频aⅴ视频| 狠狠爱丁香婷| www.金莲av| 97人人草| 五月天婷婷青青| 色欲影香| 97碰人人操| 91a片爽| 内射爽无广熟女亚洲| 婷婷黄色| 久久九九网| 五月成人网站| 99热这里只有精品免费观看| 丁香五月激情鲁| 人妻熟妇六区| WWW色五月天| 91碰碰碰| 婷婷五月成人色综合| 久久99精品九九久久久婷婷| 97碰成超视频免费视频| 色婷婷五月天成人网| 天天夜天天色天天| 伊人久久丁香婷婷六月五月综合| 狠狠五月天婷婷激情网。| 五月丁香六月婷精品视频| 久久婷婷五月综合| 亚洲视频在线观看99| 五月丁香在线视频观看| 99热在线里有精品| 狠狠色狠狠鲁| 思思热久久爱| 精品亚洲VA网站| 深爱激情网五月天| 亚洲婷婷欧美婷婷| 九九综合九九| www.五月.com| 午夜天堂一区人妻| a级毛片一区二区免费视频| 国产免费性爱| 五月丁香最新| 色综合久久88色综合天天99| 五月色婷婷在线观看| 欧美噜噜久久久XXX| 激情q青青草在线婷婷| 5月婷婷视频网站综合| 九九精品片一| 婷婷六月久久综合导航| 免费婷婷| 五月大香蕉| 色哟呦av| 天天干 夜夜爽| 丁香五月性| 五月天社区| 性一交一乱一交A片久| 国产AV影片| 久久五月天 91| 婷婷丁香五月天大香蕉| 欧美一级色| 一本久久亚洲五月婷婷| 丁香五月婷婷影院| 五月婷婷六月丁香在线| 丁香五月天天久久综合小说| 国产婷婷五月天| 亚洲婷婷在线播放十月| 国产另类综合| 欧美性爱五月天| 国产精品久久久久久久久久免费| 婷婷丁香五月社区亚洲| av网址在线| 亚洲开心激情网| 欧洲亚洲精品| 俺也去色| www91在线| 久久草大香蕉| 激情伊人五月天| 直接看的AV| 99热综合在线观看| 这里只有精品免费在线视频| 久色五月| 免费亚洲婷婷| 日韩高清久久| 五月花婷婷最新| 99热这里只有精品8| 欧美啪啪9| 性色做爰片在线观看WW| 伊久久婷婷| 五月婷婷深爱六月| 五月丁香激情综合网| 色青青电影色五月| 丁香五月婷婷啪| 天天摸天天舔天天天天爽| 99久久久久| 人人叉久| 亚洲性爱日韩无码| h在线看免费版在线看| 麻豆精品| 久久机热思思热| 俺去也五月天婷婷| 99久精品| 日韩十国产极品久久| 色婷婷婷婷| 日本黄色精品| 婷婷五月花丁香| 五月丁香综合网| 国产avapp 网| 国产精品久久久海的味道| 五月天色区| 9视频1在线| 99在线视频精品| 这里只有精品1| 激情五月天综合网| 国产日韩欧美性爱| 操人精品| 色色色色热| 天天肏天天舔AV| 另类图片五月天婷婷| 色婷婷综合网| 亚洲成人免费在线| WWW久久久| 九一九九黄色| 天堂草在线看www| 99re8热精品免费视频| 婷婷综合五月天激情| 日日操夜夜撸| 玖玖伦理电影| 九九碰九九爱97超碰| 日韩操人| 婷婷网五月天| 五月婷婷高清| 99自拍视频| 色情五月天视频网| 色婷婷网| 中文字幕丁香五月| 少妇伦子伦精品无吗| 79精品在线视频| 国产毛片精品一区二区色欲黄A片 欧美交换配乱吟粗大25P | 99亚洲精美视频在线观看| 蜜乳中文字| 91婷婷视频| 26uuu欧美宗合| 九九久99免费视频| 国产精品色婷婷久久久精品| 色五月婷婷在线| 超碰资源在线| 91久久久久久久久久久| 六月丁丁香| 亚洲网视屏| 玖玖资源在线视频| 综合久色五月| 亚洲天堂制| 丁香婷婷六月| 丁香六月综合激情| 国产亚洲精品AAAAAAA片| 国产美女精品| 色情五月天导航| 99啪啪网| 久久婷婷五月国产激情综合片| 午夜性做爰电影| 五月婷婷在线短视频| 人妻中文在线| 操逼123网| 影院久久久| 九月av| 天天做天天爱天天摸| 国产美女无遮挡裸体毛片A片| 久色五月| 99ri精品视频在线观看| 精品人妻伦九区久久AAA片| 五月婷婷久久网| 久久九九经典| 天天日天天操心| 日本五月视频| 婷婷伊人网| 欧美叉叉叉BBB网站| 天天婷婷色六月| 99热这里只有精品1025| 欧美情色一区| 日韩黄色电影| 色婷婷色情| 久久新地此| 色五月综合| 五月丁香综合激情网| 狠狠色成人影片| 战争与艾拉电影免费观看| 中文字幕网站在线观看| 五月综合激情婷婷六月色窝| 五月丁香激情综合久久| 天天日狠狠| 一区三区视频有限公司| 99ER热精品视频| 日本天堂免费99| 九九黄色网| 这里只有精品视频在线| 亚洲99精品欧美一区| 高清无码.com| 久久九九@| 好叼操在线观看| 婷婷五月影院| 这里精品| 色婷婷五月天天天天天天天天天| 超碰99资源站| 久热精彩视频98| 成人视频网| 任你爽视频| 五月丁香性| Jh7Uf088VHafNm| 久久色在线视频| 色吧婷婷| 激情五月婷婷啪啪| 五月婷婷碰碰| 亚洲精品无人区| 99热这里精品| 久9精品视频| 伊人五月成人| 色婷婷丁香中文在线播放| 激情婷婷五月天。| 99riAV国产精品视频| 婷婷狠狠爱| 国产看真人毛片爱做A片| 99久久99久久| www.婷婷五月天| 午夜丁香五月天综合| 五月婷在线色视频| 亚洲五月天狠狠| 97激情五月天| 色色99色色| 丁香婷婷五月天校园春色| 九九精品99| 色婷婷88| 五月停停色色丁香| 国产免费一区二区三区三州老师F1F1.CC | 色噜噜婷婷| 2020日日干| 狠狠 久久| 图片区 小说区 区 亚洲五月| 五月婷婷开心网| 色色色com| 亚洲午夜AV| 激情综合亚洲| 超碰操网| 精品久久人妻| 久久婷婷五月天| 五月丁香综合网| 天天插天天日| 五月亭亭开心网| 欧美婷婷综合| 午夜性做爰电影| 日本欧美成人片AAAA| 99在线精品免费视频| 欧类av怡春院| 五月丁香婷婷狠狠操| 新激情婷婷| 久久日婷婷| 综合九九日本| 99久久99视频| 色5月婷婷| 秋霞午夜理论| 日日撸日日操| 久久人妻在线| AA丁香综合激情| 婷婷射丁香| 99爱精品| 成人精品免费在线观看| 99五月婷| 热的国产99热| 99九九视屏| 成人短视频在线免费观看| 高清不卡一区| http:色情日本com| 黄色毛片精品| 噜噜噜噜婷婷五月天| 亚洲婷婷丁香五月视频| 99精品在线观看视频| 久久xxxx| 春色激情| 色综合视频| 变态另类9| 欧美婷婷五月无砖| 天天肏天天爽夜夜爽| 久久综合人妻| 丁香五月天堂| 精品导航在线x不卡| 五月婷婷丁香| 六月丁香婷婷六月激情综合| 成人在线不卡| 色五月婷婷7777| 手机在线日韩视频中文字幕| 久久五月天黄色五月天色网址| 欧美va在线| 色偷偷综合| Caoub青青超碰| 91超级碰碰| 色欲AV导航| 五月天激情婷婷| 婷婷久久欧美| 婷婷丁香色五月天久久88| 天天色天天爱天天爱天天爱y| 婷婷久久五月天| 人妻免费网站| 久久婷婷六月| 五月婷婷综合在线| 亚洲另类在线观看| 日韩三及成人AV片| 激情五月色综合国产精品| 综合色色婷婷| www.91AV.COM| 五月婷婷婷婷婷婷艺术| 一起草AV| 午夜婷婷久久| 婷婷丁香色五月久久88| 99碰碰| 一本色道久久综合狠狠躁小说| 狠狠擼综合| 激情五月综合网| 狠狠综合区| 色婷婷呢狠禁久禁| 91丨九色丨43老版熟女| 丁香色婷婷五月天| 日韩99无码| www.狠狠狠.com| 99热6精品| 亚洲婷婷基地| 五月婷婷婷| 69热91天堂| 色天天综合色| 六月丁香五月婷婷| 九九热九九| 五月天狠狠色| 五月婷婷激情在线| 五月天激情.com| 粉嫩AV久久一区二区三区| 色噜噜狠狠色综| www.91操| 精品在线网站| 99九九视频精彩在线| 91刘玥视频在线观看| 五月精品免费XXX| 亚洲乱码日产精品BD在线观看| 狼人狠狠操| 国产精品色情AAAAA片软件| 五月丁香啪| 日韩在线视频网站| 丁香88AV五月婷婷| 色九月综合| 婷婷天堂综合| 久久婷婷五月草视频在线播放| 亚洲色欲AAAAAA| 天天操天天曰| 五月丁香无码| 色九月| 五月天激情www| 综合色图婷婷| 久久与婷婷| 九九色精品| 久久这里只有精彩| 五月天婷婷久久视频| 人妻AV在线| 99亚洲视频| 国产va在线视频| 久久小说| 色婷婷五月天不卡| 中文字幕精品推荐免费在线观| 这里只有精彩亚洲视频推荐| 综合久久六月| 激情五月天啪啪| 久久婷五月天| EEUSS鲁片一区二区三区| 成人色五月天| 九九九九操逼| 伊人啪啪网| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 操一操干一干| www.五月激情.com| 色五月丁香A欧美com| 色丁香影院| 亚洲超级碰| 丁香婷婷五月| 思思热在线精品视频网站| 亚洲爆乳无码精品AAA片蜜桃| 综合六月激情婷婷| 亚洲综合网在线| 深情五月天| 丁香五月色五月| 九九视频在线观看| 日日日影院| 天天综合五月天| 激情五月天婷婷| 这里只有精彩小视频视频网站| 色婷婷成人做爰A片免费看网站| 九九热在这里只有精品| 九月婷婷在线视频| 五月六月婷| 超碰在线99| 麻豆AV一区二区三区| 五月丁香天堂网| 日韩欧美五月丁综合| 久久婷婷丁香花综合网| 婷婷四色五月| 色狠狠综合| 婷婷久久亚洲| 婷婷五月天久久久| 五月六月伦理| 成人婷婷色五月天| 97欧美在线| 香蕉久久国产AV一区二区| 亚洲五月天激情| 99热这是里只有精品| 五月天丁香欧美激情| 99这里有精品| 五月丁香六月婷婷久久肏| www。五月天。com| 无码人妻电影| 九九99九九精品视频| 五月天丁香网| 丁香五月狠狠在线观看| 丁香婷婷久久综合在线| 五月丁香啪啪啪| 超碰在线观看9| 嫩BBB槡BBBB搡BBBB视频| 九九av在线| 亚洲AV日韩在线观看| 六月激情综合| 九九干视频| 99热骚货| 久鲁鲁色网| 五月婷婷深深爱| 91男人资源站| 久久久婷| 九九99在线免费在线观看视频| 五月天啪啪| 日日鲁鲁夜夜爽爽| AV大香蕉| 久热黄色| 1769在线观看欧美国产| 国产AV一区二区三区最新精品| 五月婷婷天堂| 五月天自拍视频| 精品99在线| 1024你懂的欧美曰韩| 天天干人人奸97| 99精品成人无码A片观看金桔| 思思热在线视频精品| 这里只有精彩视| 青青草护士中出内射-欧美电影在线天堂新版| 亚洲av免费在线| 久久激情天堂| 九九99在线视频| 熟妇天天综合| 丁香五月天大香蕉啪啪| 人妻丰满精品一区二区A片| 婷婷五月激情图片| 婷婷丁香97| 棕合影院色色| 婷婷丁香亚洲色综合91| 九九色大香蕉| 2025天天爽天天摸| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 黄色成人网站在线播放| 一区二区aV电影免费看| 天天综合区| 亚洲午夜国产成人电影VA国产欧…| 熟女人妻一区二区三区免费看| 国产精品色| 99re6在线视频精品免费| 在线观看中文字幕| 激情综合婷婷| 最近中文字幕大全免费版在线| 国产一级片| 色色热| 69超碰在线| 婷婷丁香九色| 九九99热精品| 99日在线观看视频| 99久久视频| 91色综合| 99热这里只有精品手机在线观看| 99在线观看这里都是精品| 婷婷丁香五| 天天色,天天操,天天射| 人人舔人人色人人高潮| 九九草热在线观看| 国产亚洲精久久久久| 色综合另类| 91Chinese在线| 大香蕉综合| 国产乱子轮XXX农村| 亚洲色图欧美色图日本视频| 五月婷婷综合成人| 9久9久9久女女女九九九一九| 中文字幕黄色电影网址| 久99久视频| 亚洲 激情 中文| 天天色域综合网| 成人丁香五月| 人妻AV在线| 无码日本精品XXXXXXXXX | 婷婷五月丁香国产| 热九九九九| 六月丁香开心婷婷欧美| 91seav| 伊人春天av| 日韩婷婷五月| 伊人久久丁香婷婷六月五月综合| 女人被男人吃奶到高潮| 婷婷激情九月| 啪啪啪大香蕉| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 日韩久久色| 丁香五月激情网| 天天综合色99| 五月天激情综合在线| 丁香花五月天| 婷婷五月天在线观看| 色999五月色| 五月婷av| 丁香色情五月综合激情| 人人草人人爱手机视频看看 | 99热这里有精品| 狠狠色丁香久久婷婷综合五月| 国产VA播放| 五月天综合视频| 日韩无码成人电影| 伊人影院久久网| 五月天激情啪啪| 久久只有精| 婷婷六月色丁香视频在线观看| 亚洲激情综合| 婷婷六月综合基地| 精品欧美一区二区三区久久久| 五月丁香久人妻中文| 青草激情在线| 婷婷精品视频| 欧美久久久久久久久中文字幕| 五月丁香久久网| 色综合另类| 影音 五月 婷婷 久久| 人妻人人操| 五月天精品视频| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | 99热只有这里有精品| 国产乱妇无乱码大黄AA片| 五月婷婷啪啪啪| www.成人婷婷综合| AA片在线观看视频在线播放 | 国产99久久久| 五月丁香婷婷深深爱| 久久性爱99国产| 色丁香五月天射婷婷爱婷婷| 深爱激情五月婷婷| 国产又爽又猛又粗的视频A片| 欧美精品999| 精品人妻在线| 九月婷婷人人操人人舔人人爱| aaaaaa片| 夜夜干夜夜操| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 午夜理论片最新午夜理论剧 | 伊人婷婷大香蕉| 婷婷久久久| 亚洲色婷婷五月天| 六月丁香成人网| 夜精品无码A片一区二区蜜桃| 99re66热这里只有精品| 五月激情综合美女久久| AA片在线观看视频在线播放| 九九国产视频| 成人AV在线电影| 9999三级片| 欧美日韩123| 日韩成人AV在线播放| 天天综合 99久久婷婷| 99婷婷五月天激情| 五月天婷婷丁香| 思思热在线视频精品| 国产操逼视频网站| 开心婷婷五月花| 婷婷综合精品视频97| tingtingseav| 伊人网色婷婷五月天| 91精品刘玥| 亚洲欧美999| 九月婷婷综合在线| 五月天四色房丁香亭亭| 伊人影院久久网| 人人草开心五月天| 日韩av网站在线观看| 久久激情天堂| 8区视频在线| 婷婷五月综合在线| 婷婷综合另类小说| 操人无码| 久久五月天大美女| 26uuu| 狠狠艹狠狠艹| 国产偷人爽久久久久久老妇APP| 六月婷婷色五月| 成人做爰高潮A片免费视频| 涩涩网五月天| 日韩三级视频一区二区| 天天色噜| 激情另类综合| 日本三级韩三级99久久| 日日干日日s| 熟女人妻一区二区三区免费看| 久久99久久99久久99人受| 丁香五月丐人妻| 天天狠狠综合精区| 热99AV网站| 婷婷综合色网| 激情视频综合| 丁香五月激情婷婷视频| 天天干天天插| 五月丁香色婷婷基地| 北京熟妇搡BBBB搡BBBB| 欧美五月丁香在线观看| 成人va在线| 在线另类视频| 思思久久精品视频| 婷色综合| 激情综合网五月| 久久这里这里有精品免费视频| 日日爽日日| 大香蕉五月丁香| 五月花婷婷| 久久性爱视频这里只有精品| 激情九色| 99ER热精品视频| 亚洲va欧洲va国产va不卡| www,久久久| 97 天堂| 五月丁香自拍| 精品婷婷五月视| 综合久久首页| 天天色视频| 亚洲色婷婷五月| 特级操b片| 开心婷婷五月| 色六月天天激情综合网| 国产av天天插天天操天天爽| 婷婷中文在线| 99热99这里只有精品| 五月激情丁香五月| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 人人操超踫| w婷婷五月婷婷w| 91色呦哟| 亚洲免费婷婷| 丁香五月天色| 免费AV在线| 成人做爰黄A片免费看直播室男男| 9精品在线| 激情小说五月天| 天天天操天天天日| 婷婷激情丁香五月天综合| 亚洲婷婷综合视频| 五月天激情网图片| 五月丁香六月激情综合| 狠狠干思思热| 国产阿姨日皮艹逼内射视频 | 色五月婷婷7777| 色婷婷电影网| 五月天婷婷综合免费| 五月婷婷综合色啪| 超碰操网| 色色色色色综合| 久久性爱99国产| 欧美人妻一区二区| 日日干日日| 就爱操www com| 丁香色婷婷| 九热久| 色情激情五月婷婷| 777色色色| 99精品久久久久久久婷婷久久| 色色色777| 人妻九九九九| 99热高清在线| 99婷婷色| 亚洲视频在线观看| 亚洲精品视频在线| 色婷婷久久| 丁香五月香蕉| 天天日夜夜帕| 99视频在线观看欧| 九九色video| 亚洲第一成人无码A片| 婷婷久久久久| 激情五婷网| 天插天啪天啪天啪| 久久久婷丁香五月| 五月丁香色色综合| 五月丁香六月在线欧美| 999婷婷综合| 99九九综合久久九九| 九九大香蕉黄色影院| 激情久久 婷婷| 五月天激情综合网| 大香蕉丁香| 99er久久| 亚洲国产精品成人va在线观看| 久色姿源| 天天综合.com| 久久99激情| 色婷婷精品小视频| 日日色五月天| 五月天久久婷婷婷| 99热精这里只有精品| 天天综合天天玩夜夜玩天天玩夜夜玩| 婷婷激情六月综合| 99久热在线精品| AV色五月婷婷| 婷婷五月天AV| 婷婷五月天激情综合| 青青草色在线视频观看| 亚洲中文字幕av| 九九热亚洲中文在线观看免费| 久久丁香五月综合六月激情红杏视频| 97婷婷丁香| 五月婷婷综合激情| 色色色在线免费视频| 五月丁香好婷婷A片网| 永久AⅤ1| 伊人五月天| 婷婷五月免费视频| 翔田千里 50岁 无码| 97福利视频| 91狠狠综合久久久| 五月婷婷久久大片| 在线观看欧美3区| 激情久久久久久久久久| 99久久亚洲精品视频| 99热国产这里只有| 色五月婷婷在线视频| 天天射综合网夜夜操| 这里只有精品免费| 丁香五月婷婷啪| 五月婷婷久久网| www.狠狠干com| 激情五月天伊人av| 日韩三级高清无码| 亚洲精品视频在线播放| 丁香五月天堂网| 日韩av在线播放综合网| 色五婷婷| 五月激情婷婷六月丁香| 色综合久久88色综合天天| 丁香五月天.com| 精品久久人妻| 久草热8精品视频在线观看| 92久久久| 任你擦免费视频| 91艹人| 欧美日本另类| 亚洲视频在线观看| www.99免费视频| 99热99在线| 久久这里有精品视频| 婷婷五月色| 亚洲天堂青草| 99色看这里只有精品| 丁香五月天激情视频| 国产成人精品一区二三区熟女在线| 丁香六月激情综合网| 欧洲激情五月天| WWW.99视频| AV性爱在线| 9 1大香蕉| 国产激情久久久| 婷婷五月天开心激情网| 久久总和99| 久久人妻超碰一区| 婷婷色在线视频| 激情黄色小说五月天| 亚洲啪啪视频| 五月天婷婷青青草| www.99热| 亚洲色A| 女人天堂AV| 91视频五月丁香| 天天拍久久| 国产成人综合在线| 日日操夜夜操不卡| 性爱网六月丁香| 99热日韩这里只有精品| 激情内射p| 深爱开心激情| 影音先锋 一区| 色五月天网| 五月丁香激情啪啪| 丁香婷婷五月综合影院| 天天爽天天做| 9精品久久999| 怕怕視頻| 9999三级片| 免费操超碰| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | enecarbon-materials.comWu染请涟系Bao护@wip1688 | 囯产精品久久欠久久久久久九大| 色色网站| 久色激情| 久色五月婷婷综合| 在线不卡视频| 婷婷精品在线| 99热这里只有精品9| 国产亚洲在线| 国产精品99久久久久久猫咪| 久机视频这只有精品| 久久无码成人| 国产美女精品|