99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

嵌入式數(shù)據(jù)拷貝選型:DMA、NEON與CPU拷貝性能對比與決策指南

嵌入式數(shù)據(jù)拷貝選型:DMA、NEON與CPU拷貝性能對比與決策指南 1. 抉擇背后的核心問題先說結論沒有最好的拷貝方式只有最適合當前場景的拷貝方式。DMA、NEON、CPU普通拷貝這三條路分別對應的是“解放CPU” “榨干CPU”和“直接用CPU”三種思路選錯了輕則性能白扔重則系統(tǒng)卡頓、數(shù)據(jù)錯亂。我在嵌入式開發(fā)里被這個問題折騰過很多次早期做過一個視頻采集項目Sensor數(shù)據(jù)量大概一幀2MB幀率30fps也就是每秒要搬60MB數(shù)據(jù)。一開始無腦用CPU普通拷貝結果主控芯片的CPU占用率直接被拉到40%以上主線程處理協(xié)議棧的時間被嚴重擠壓丟幀丟到客戶投訴。后來逐個換成NEON優(yōu)化、DMA搬運才把CPU占用率壓到了5%以內(nèi)。所以這個選擇問題的本質其實是四件事的權衡數(shù)據(jù)量大小、拷貝頻率、CPU當前是否緊張、硬件平臺支持情況。這四件事沒有一件是可以拍腦袋決定的。另外一個容易被忽略的關鍵點是很多人以為NEON和DMA是替代關系其實不是。NEON是CPU內(nèi)部的SIMD指令集擴展數(shù)據(jù)搬運路徑依然要經(jīng)過CPU核心DMA是獨立于CPU的數(shù)據(jù)搬運引擎搬數(shù)據(jù)這件事本身不占CPU算力。兩者解決的問題有重疊但定位完全不同。這篇文章會把每個方案的本質、適用邊界、性能天花板和坑都攤開聊一遍最后給你一張可以直接照著選的決策表。2. 三種拷貝方式的本質區(qū)別2.1 DMA把拷貝這件事外包出去DMA全稱Direct Memory Access直接存儲器訪問。它和CPU的關系可以理解成“老板和外包團隊”的關系。老板CPU把活交代下去——比如“把這塊內(nèi)存的數(shù)據(jù)搬到那塊內(nèi)存”——外包團隊DMA控制器自己干完活再回來匯報中間老板該干嘛干嘛不用盯著。從硬件路徑上看DMA控制器是掛在總線上的獨立模塊源地址、目的地址、傳輸長度、傳輸模式這些參數(shù)由CPU配置好之后DMA就自己接管總線進行數(shù)據(jù)傳輸。整個過程CPU不參與數(shù)據(jù)的讀寫只在傳輸完成或出錯時收到中斷信號。DMA的典型使用場景是大塊數(shù)據(jù)的周期性搬運比如ADC采樣數(shù)據(jù)環(huán)形緩沖區(qū)的讀取、串口或SPI接收FIFO的搬移、攝像頭Sensor數(shù)據(jù)到內(nèi)存緩沖區(qū)的傳輸、外部SDRAM和內(nèi)部SRAM之間的數(shù)據(jù)搬移。這些場景共同的特點是數(shù)據(jù)量不小、傳輸行為規(guī)律、頻率固定。用DMA要付出的代價是配置和觸發(fā)開銷也就是所謂的“啟動成本”。完整的DMA傳輸需要經(jīng)歷關中斷、配置源地址、配置目的地址、配置傳輸長度、配置傳輸模式單次/循環(huán)/突發(fā)、使能DMA、等待完成中斷這樣一串流程啟動延遲通常在微妙級別對于幾KB以下的小塊數(shù)據(jù)這個啟動成本可能比CPU直接拷貝還要高。2.2 NEON讓CPU本身變得更快NEON是ARM架構下的SIMD單指令多數(shù)據(jù)擴展技術從ARMv7開始引入到ARMv8AArch64進一步完善。它做的事情用一個生活類比解釋就是普通CPU拷貝像一個人一個人地搬箱子NEON拷貝像給你一個超大的托盤一次可以端八個箱子走。具體到指令層面NEON寄存器寬度是128位AArch64下有32個128位寄存器一條指令可以同時處理4個32位數(shù)據(jù)或者8個16位數(shù)據(jù)。做內(nèi)存拷貝時vld1q_u8一次從內(nèi)存加載16字節(jié)到NEON寄存器vst1q_u8一次把16字節(jié)寫回內(nèi)存。如果配合ldp/stp這樣的64位加載存儲指令做雙路展開再加上循環(huán)展開loop unrolling、預取prefetch和緩存對齊優(yōu)化實際的拷貝帶寬可以逼近CPU內(nèi)存帶寬的理論上限。NEON拷貝和CPU普通拷貝最大的區(qū)別在于它依然消耗CPU核心但單位時間內(nèi)搬運的數(shù)據(jù)量大幅提升。也就是說CPU占用率不會降到零但完成同樣大小數(shù)據(jù)拷貝所需的時間大幅縮短騰出來的“時間片”可以用來做別的任務。NEON特別適合的數(shù)據(jù)特征是數(shù)據(jù)塊較大、內(nèi)存對齊良好、CPU有空閑算力可供調度。比如音視頻幀緩沖處理、圖像預處理、協(xié)議棧數(shù)據(jù)包頭解析重組等。2.3 CPU普通拷貝最樸素但未必最慢CPU普通拷貝就是常見的memcpy實現(xiàn)通過加載/存儲指令逐字節(jié)或逐字搬運數(shù)據(jù)。在C語言層面寫一個循環(huán)for (i 0; i n; i) dst[i] src[i];編譯成匯編后就是ldrb/strb或者ldr/str指令的循環(huán)執(zhí)行。樸素的CPU拷貝有一個常被忽略的優(yōu)勢小數(shù)據(jù)量場景下延遲極低。因為數(shù)據(jù)量小的時候不需要像DMA那樣花時間做配置也不需要像NEON那樣處理向量加載的對齊問題幾條加載存儲指令就直接完事了。如果你的數(shù)據(jù)量只有幾十字節(jié)到幾百字節(jié)CPU普通拷貝往往是最快的方式。但CPU拷貝的性能會隨著數(shù)據(jù)量和拷貝次數(shù)的增加迅速惡化。因為每搬運一個數(shù)據(jù)單元都要執(zhí)行至少兩條指令加載存儲指令開銷直接和數(shù)據(jù)量成正比而且大規(guī)模的搬運會頻繁觸碰Cache Miss和內(nèi)存頁錯誤導致性能斷崖式下降。另外CPU普通拷貝還有一個不為人知的坑如果拷貝操作發(fā)生在中斷上下文耗時過長會直接導致系統(tǒng)抖動特別是在實時性要求高的系統(tǒng)里一個大memcpy會阻塞中斷響應造成微妙到毫秒級的延遲毛刺。2.4 一張圖看懂三者的關鍵差異維度DMANEONCPU普通拷貝CPU參與程度初始化后幾乎不參與全程參與但效率高全程參與數(shù)據(jù)吞吐上限取決于總線帶寬取決于CPU內(nèi)存帶寬取決于指令執(zhí)行速度小數(shù)據(jù)量1KB配置開銷大不劃算有一定開銷中等最快延遲最低大數(shù)據(jù)量100KB最優(yōu)CPU可做其他事很優(yōu)但吃CPU慢且占用CPU實現(xiàn)復雜度中等寄存器配置較多中等需要指令優(yōu)化最低典型場景外設數(shù)據(jù)流、大塊周期性搬運音視頻處理、內(nèi)存密集型運算小塊數(shù)據(jù)、臨時緩沖拷貝3. 選型決策框架四步鎖定正確方案這一節(jié)我把實踐中的判斷流程做成一個四步法照著走大多數(shù)場景都能得出明確結論。3.1 第一步先看數(shù)據(jù)量級數(shù)據(jù)量是最先要判斷的指標因為它直接劃定了方案的大方向。數(shù)據(jù)量小于1KB默認選CPU普通拷貝。這個量級下DMA的配置開銷遠大于節(jié)省下來的搬運時間NEON的好處也體現(xiàn)不出來。比如一個網(wǎng)絡協(xié)議包頭解析、一個結構體備份、一個寄存器配置塊的傳遞直接memcpy就好。數(shù)據(jù)量在1KB到16KB之間需要結合CPU占用情況判斷。如果這段代碼所在的任務對延遲敏感且CPU空閑用NEON如果這段代碼在頻繁調用的路徑里且CPU本身繁忙可以考慮DMA。數(shù)據(jù)量大于16KB優(yōu)先考慮DMA。尤其是周期性出現(xiàn)的搬運任務比如圖像幀、音頻流、大塊日志落盤緩沖。如果不希望引入DMA配置的復雜度NEON是第二選擇但要注意成本是持續(xù)的CPU時間片消耗。我在項目里通常把4KB作為一個參考分割線因為4KB正好是常見內(nèi)存頁大小跨頁拷貝涉及TLB翻譯后備緩沖器重載CPU拷貝性能會有明顯波動。這時候DMA引擎通??梢宰龈玫目偩€調度穩(wěn)定性表現(xiàn)更好。3.2 第二步確認源/目的地址的對齊情況對齊是NEON能否發(fā)揮威力的分水嶺也是DMA能否高效傳輸?shù)那疤釛l件。NEON的vld1q_u8這類指令要求地址按照向量寬度對齊16字節(jié)對齊如果源地址或目的地址沒有對齊要么使用非對齊加載指令性能會打折要么先做對齊預處理增加代碼復雜度。實際工作中我在音頻處理模塊里遇到過源地址是奇數(shù)偏移的情況當時用NEON非對齊加載指令做了處理性能相比對齊場景下降了將近20%但依然比CPU普通拷貝快不少。DMA方面不同硬件平臺的對齊要求差異較大有些控制器要求源和目的地址按照總線寬度對齊有些要求緩沖區(qū)地址4字節(jié)對齊有的還要求傳輸長度是某個值的整數(shù)倍。設計數(shù)據(jù)緩沖結構時在內(nèi)存分配階段就做好對齊預留是避免后續(xù)性能損失最高性價比的做法。C語言里做16字節(jié)對齊分配的方法// 動態(tài)分配16字節(jié)對齊的內(nèi)存 uint8_t *buf NULL; posix_memalign((void **)buf, 16, buffer_size); // 或者在靜態(tài)數(shù)組上做對齊 __attribute__((aligned(16))) uint8_t buf[1024];3.3 第三步評估CPU的繁忙程度和延遲容忍度這一步需要回答兩個問題在這段拷貝發(fā)生的時刻CPU有沒有更重要的任務要做如果拷貝占用了CPU會不會導致其他任務超時答案如果是“有更重要的任務”或者“會導致超時”那就選DMA讓拷貝徹底脫離CPU。典型例子是通信協(xié)議棧的主循環(huán)里做數(shù)據(jù)轉發(fā)CPU的核心任務是解析和封裝協(xié)議如果花大段時間拷貝數(shù)據(jù)網(wǎng)絡響應時間就會飆高觸發(fā)對端超時重傳陷入惡性循環(huán)。答案如果是“CPU有空閑算力”且“拷貝頻率不高”NEON是更好的選擇。因為NEON的實現(xiàn)和調試成本比DMA低沒有中斷處理、沒有DMA控制器資源競爭代碼也更好維護。這里補充一個做實時系統(tǒng)時的經(jīng)驗延遲敏感任務里寧可讓拷貝慢一點也不要讓拷貝阻塞關鍵中斷路徑。我曾經(jīng)把一個批量日志緩沖區(qū)的拷貝放在中斷底半部每次拷貝耗時約700us導致高頻定時器中斷被推遲系統(tǒng)產(chǎn)生了可感知的時序偏移。后來改成DMA異步搬運日志落盤稍慢了幾毫秒但系統(tǒng)時序完全恢復穩(wěn)定。3.4 第四步確認硬件平臺支持情況這一步?jīng)Q定上面三步的結論能不能落地。如果平臺有DMA控制器且驅動完善大多數(shù)主流MCU和SoC都具備DMA方案可行。要注意DMA通道數(shù)量是否夠用多個外設共用DMA通道時的仲裁策略以及DMA描述符是否支持鏈表/環(huán)形緩沖模式。NEON則要確認CPU架構是否支持。Cortex-M系列除部分Cortex-M7/M33/M55/M85等帶DSP/SIMD擴展的型號多數(shù)不支持完整NEONCortex-A系列基本都支持。如果是RISC-V平臺則需要看是否支持V擴展向量指令兼容性需要單獨驗證。4. 實操環(huán)節(jié)三種拷貝方式的典型實現(xiàn)與性能實測4.1 CPU普通拷貝的實現(xiàn)與性能基準作為基準方案直接用標準庫memcpy。注意不同編譯器的memcpy實現(xiàn)優(yōu)化程度差異很大GCC在-O2以上會把memcpy內(nèi)聯(lián)成優(yōu)化的加載存儲序列但有些場景下比如拷貝長度是編譯期未知變量時memcpy會退化為調用庫函數(shù)性能取決于庫的實現(xiàn)質量。測試代碼非常簡單#include stdio.h #include string.h #include time.h #define BUFFER_SIZE (1024 * 1024) // 1MB static uint8_t src[BUFFER_SIZE] __attribute__((aligned(64))); static uint8_t dst[BUFFER_SIZE] __attribute__((aligned(64))); int main(void) { clock_t start, end; double cpu_time_used; int iterations 100; // 先填充源數(shù)據(jù)防止全零頁優(yōu)化 for (int i 0; i BUFFER_SIZE; i) { src[i] (uint8_t)(i 0xFF); } start clock(); for (int i 0; i iterations; i) { memcpy(dst, src, BUFFER_SIZE); } end clock(); cpu_time_used ((double)(end - start)) / CLOCKS_PER_SEC; double bandwidth (double)BUFFER_SIZE * iterations / cpu_time_used / (1024 * 1024); printf(CPU memcpy bandwidth: %.2f MB/s\n, bandwidth); return 0; }在Cortex-A53、主頻1.2GHz的平臺上實測帶Cache的1MB連續(xù)拷貝帶寬約在600~900MB/s之間。如果數(shù)據(jù)量超過Cache容量且源和目的地址都未命中Cache帶寬會掉到200~400MB/s。這個數(shù)字就是后續(xù)對比的基準線。4.2 NEON優(yōu)化的實用寫法NEON優(yōu)化的核心思路就四個字讀寬寫寬。盡量一條指令處理更多字節(jié)減少指令總數(shù)和總線事務數(shù)。下面是一個經(jīng)典的NEON內(nèi)存拷貝實現(xiàn)采用64字節(jié)塊處理配合預取和循環(huán)展開#include arm_neon.h void neon_memcpy_64(uint8_t *dst, const uint8_t *src, size_t size) { // 處理16字節(jié)對齊的主體塊步長64字節(jié) size_t aligned_size size ~(size_t)63; for (size_t i 0; i aligned_size; i 64) { // 預取下一輪數(shù)據(jù)到Cache隱藏內(nèi)存延遲 __builtin_prefetch(src i 256); // 一次加載64字節(jié)4個128位向量 uint8x16_t v0 vld1q_u8(src i); uint8x16_t v1 vld1q_u8(src i 16); uint8x16_t v2 vld1q_u8(src i 32); uint8x16_t v3 vld1q_u8(src i 48); // 一次存儲64字節(jié) vst1q_u8(dst i, v0); vst1q_u8(dst i 16, v1); vst1q_u8(dst i 32, v2); vst1q_u8(dst i 48, v3); } // 處理尾部不足64字節(jié)的數(shù)據(jù) for (size_t i aligned_size; i size; i) { dst[i] src[i]; } }這段代碼有三個關鍵點需要注意第一__builtin_prefetch是GCC的預取內(nèi)建函數(shù)參數(shù)是預取地址和偏移量。預取的距離需要根據(jù)內(nèi)存延遲和Cache命中情況調整太近了沒效果太遠了可能把還沒用到的數(shù)據(jù)擠出去一般取256字節(jié)到1024字節(jié)之間比較安全。第二循環(huán)展開的層數(shù)不是越多越好。展開4路每次處理64字節(jié)通常是比較好的平衡點這個平臺上展開8路每次處理128字節(jié)可能因為寄存器壓力過大導致編譯器Spill寄存器溢出到內(nèi)存反而性能下降。建議實測不同展開層數(shù)選最優(yōu)值。第三NEON版本代碼編譯時需要注意開啟對應架構優(yōu)化選項。GCC需要指定-mfpuneon和適當?shù)?mfloat-abi選項AArch64下一般直接默認啟用arm-linux-gnueabihf-gcc -O2 -mfpuneon -mfloat-abihard -o neon_test neon_test.c在同平臺實測上述64字節(jié)塊NEON拷貝的性能大約是Cache內(nèi)拷貝帶寬可達1.5~2GB/s超過CPU普通拷貝兩倍以上Cache外的內(nèi)存拷貝帶寬約600~900MB/s比CPU普通拷貝也有明顯提升。NEON的核心價值在于把同一條內(nèi)存帶寬曲線上的CPU指令開銷降下來了。4.3 DMA配置的完整流程用STM32系列舉例使用DMA做內(nèi)存到內(nèi)存?zhèn)鬏數(shù)臉藴柿鞒?/ 假設使用DMA1 Channel1做mem-to-mem傳輸 void dma_memcpy_init(void) { RCC_AHBPeriphClockCmd(RCC_AHBPeriph_DMA1, ENABLE); DMA_InitTypeDef DMA_InitStructure; DMA_InitStructure.DMA_PeripheralBaseAddr (uint32_t)src; DMA_InitStructure.DMA_MemoryBaseAddr (uint32_t)dst; DMA_InitStructure.DMA_DIR DMA_DIR_PeripheralSRC; // 外設作為源這里是內(nèi)存 DMA_InitStructure.DMA_BufferSize BUFFER_SIZE; // 傳輸字節(jié)數(shù) DMA_InitStructure.DMA_PeripheralInc DMA_PeripheralInc_Enable; // 源地址遞增 DMA_InitStructure.DMA_MemoryInc DMA_MemoryInc_Enable; // 目的地址遞增 DMA_InitStructure.DMA_PeripheralDataSize DMA_PeripheralDataSize_Word; // 32位 DMA_InitStructure.DMA_MemoryDataSize DMA_MemoryDataSize_Word; DMA_InitStructure.DMA_Mode DMA_Mode_Normal; // 單次傳輸模式 DMA_InitStructure.DMA_Priority DMA_Priority_High; DMA_InitStructure.DMA_M2M DMA_M2M_Enable; // 內(nèi)存到內(nèi)存模式 DMA_Init(DMA1_Channel1, DMA_InitStructure); // 使能傳輸完成中斷 DMA_ITConfig(DMA1_Channel1, DMA_IT_TC, ENABLE); // 注冊中斷服務函數(shù)NVIC配置略 NVIC_InitTypeDef NVIC_InitStructure; NVIC_InitStructure.NVIC_IRQChannel DMA1_Channel1_IRQn; NVIC_InitStructure.NVIC_IRQChannelPreemptionPriority 0; NVIC_InitStructure.NVIC_IRQChannelSubPriority 0; NVIC_InitStructure.NVIC_IRQChannelCmd ENABLE; NVIC_Init(NVIC_InitStructure); } void dma_memcpy_start(uint32_t src_addr, uint32_t dst_addr, uint32_t size) { // 重新配置源/目的地址和長度很多MCU需要先禁用DMA才能改配置 DMA_Cmd(DMA1_Channel1, DISABLE); DMA1_Channel1-CPAR src_addr; DMA1_Channel1-CMAR dst_addr; DMA1_Channel1-CNDTR size; DMA_Cmd(DMA1_Channel1, ENABLE); } // 中斷服務函數(shù) void DMA1_Channel1_IRQHandler(void) { if (DMA_GetITStatus(DMA1_Channel1, DMA_IT_TC)) { DMA_ClearITPendingBit(DMA1_Channel1, DMA_IT_TC); transfer_complete_flag 1; // 通知業(yè)務代碼 } }DMA方案在同等平臺實測1MB數(shù)據(jù)拷貝帶寬可以達到與NEON相近甚至略高的水平。最關鍵的區(qū)別是整個傳輸過程中CPU可以完全退出去做其他事情。我在日志系統(tǒng)里把SPI Flash頁寫入的數(shù)據(jù)緩沖搬運交給DMACPU利用率直接降到了接近0%。4.4 三種方式的實測數(shù)據(jù)對比在同一個Cortex-A53平臺1.2GHz32KB L1 Cache256KB L2 CacheDDR3 800MHz上用100次拷貝取平均值拷貝大小CPU memcpyNEON優(yōu)化DMA64B約25ns約30ns配置開銷約100ns以上不劃算1KB約130ns約95ns配置啟動約2us明顯慢16KB約3us約1.5us約4us含配置開銷不劃算256KB約120us約55us約30us勝出1MB約620us約280us約150us勝出明顯注意以上數(shù)據(jù)只反映該特定平臺的情況具體數(shù)值會因主頻、Cache大小、總線架構和DMA控制器性能不同而變化。但趨勢是一致的——數(shù)據(jù)量越大DMA相對優(yōu)勢越明顯數(shù)據(jù)量越小CPU直接拷貝的延遲優(yōu)勢越強NEON始終卡在中間位置對CPU占用敏感度是它的分水嶺。5. 混合使用與進階優(yōu)化策略5.1 雙緩沖機制讓DMA永遠不空等做周期性數(shù)據(jù)采集時只用一塊緩沖區(qū)DMA搬運期間CPU必須要等搬運完成才能處理數(shù)據(jù)兩個環(huán)節(jié)是串行的白白浪費了DMA解放CPU的優(yōu)勢。雙緩沖的思路是準備兩塊緩沖區(qū)。DMA在往緩沖區(qū)A搬運數(shù)據(jù)的同時CPU在處理緩沖區(qū)B里的上一幀數(shù)據(jù)。DMA搬完A之后自動切換到BCPU處理完B之后等DMA切回A。這樣數(shù)據(jù)采集和處理像流水線一樣并行進行整體吞吐量幾乎可以翻倍。實現(xiàn)上可以借助DMA控制器的雙緩沖特性很多DMA支持自動翻轉兩個緩沖區(qū)的地址或者使用DMA傳輸完成中斷在軟件層面切換緩沖區(qū)指針// 雙緩沖結構 static uint8_t buffer_a[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t buffer_b[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t *current_dma_buffer buffer_a; static uint8_t *current_process_buffer buffer_b; // DMA完成中斷里交換當前緩沖區(qū) void dma_complete_isr(void) { uint8_t *tmp current_dma_buffer; current_dma_buffer current_process_buffer; current_process_buffer tmp; // 重新啟動DMA把下一幀數(shù)據(jù)搬進新緩沖區(qū) dma_memcpy_start(peripheral_addr, (uint32_t)current_dma_buffer, FRAME_SIZE); }這里有一個容易踩的坑CPU正在處理current_process_buffer時千萬不能讓DMA往同一塊地址寫數(shù)據(jù)。否則會出現(xiàn)數(shù)據(jù)競爭輕則數(shù)據(jù)錯亂重則程序崩潰。解決辦法是嚴格執(zhí)行上面代碼里的緩沖區(qū)交換邏輯保證DMA寫入的永遠是CPU當前不在處理的那塊緩沖區(qū)。5.2 按需選擇同一條代碼路徑里做大小分支很多場景下數(shù)據(jù)大小不是固定的比如網(wǎng)絡協(xié)議棧里不同包的大小差別很大。這時候不需要全局只選一種方案可以做一個簡單的大小判定小數(shù)據(jù)走CPU拷貝大數(shù)據(jù)走DMA或NEONvoid smart_copy(uint8_t *dst, const uint8_t *src, size_t size) { if (size 4096) { // 小數(shù)據(jù)直接用CPU memcpy延遲最低 memcpy(dst, src, size); } else if (dma_available cpu_busy) { // 大數(shù)據(jù)且CPU繁忙用DMA異步傳輸 dma_memcpy_start_async((uint32_t)src, (uint32_t)dst, size); } else { // 大數(shù)據(jù)但CPU有空閑用NEON提高效率 neon_memcpy_64(dst, src, size); } }這種混合策略的實際收益非??捎^。我在一個網(wǎng)關項目的轉發(fā)路徑上用了這個方式小包延遲沒有惡化大包吞吐量提升明顯CPU占用率還降了算是“三全其美”的做法。但要注意分支判斷本身也有開銷判定條件要盡量簡化避免引入額外的性能損耗。5.3 Cache一致性DMA方案最容易忽略的深坑DMA搬運數(shù)據(jù)不經(jīng)過CPU所以它更新的內(nèi)存內(nèi)容和CPU Cache里的內(nèi)容可能不一致。如果CPU之前讀過或寫過某塊內(nèi)存Cache里有一份副本DMA把新數(shù)據(jù)寫進了同一塊物理內(nèi)存CPU下次讀的時候可能命中的還是Cache里的舊數(shù)據(jù)。這在高性能平臺上是災難級的Bug。表現(xiàn)為DMA中斷明明觸發(fā)了但CPU讀到的還是舊數(shù)據(jù)或者CPU寫的數(shù)據(jù)丟了一部分。解決思路一般有三個第一在DMA啟動前做Cache Clean操作確保CPU寫入的數(shù)據(jù)全部刷到內(nèi)存在DMA完成后做Cache Invalidate操作讓Cache里的舊數(shù)據(jù)作廢// DMA讀取前清理Cache把CPU寫的數(shù)據(jù)同步到內(nèi)存 clean_dcache_range((uint32_t)src, size); // DMA寫入后作廢Cache確保CPU讀到新數(shù)據(jù) invalidate_dcache_range((uint32_t)dst, size);這兩個函數(shù)的API在不同平臺上名字和參數(shù)格式不同Linux下可以用dma_map_single、dma_unmap_single等標準API裸機環(huán)境下需要查芯片手冊調用對應的Cache維護函數(shù)。第二讓DMA操作的緩沖區(qū)使用不帶Cache的內(nèi)存屬性即在頁表項里把該內(nèi)存區(qū)域標記為“非緩存”或“設備內(nèi)存”。代價是該區(qū)域的讀寫性能會下降因為每次都直接訪問內(nèi)存。第三使用DMA引擎提供的硬件一致性機制如果SoC支持“IO一致”或“硬件一致”特性可以不做Cache維護操作但需要確認平臺手冊并非所有平臺都支持。6. 常見問題與排查技巧實錄6.1 DMA傳輸偶爾丟失數(shù)據(jù)這個問題的典型原因是傳輸長度或地址配置出錯。排查時先確認DMA配置的源地址、目的地址和傳輸長度是否符合硬件要求特別是源和目的地址的遞增設置是否正確。很多時候“丟數(shù)據(jù)”其實是地址配置成了固定模式數(shù)據(jù)互相覆蓋了。還有一種非常隱蔽的原因DMA傳輸完成中斷標志位的清除順序不當。有些MCU要求在讀取狀態(tài)標志后再清除標志如果順序反了中斷標志可能被誤清除導致該次傳輸?shù)耐瓿墒录G失。我在調試串口DMA接收時遇到過類似情況解決方式是確認外設的DMA請求標志在每次傳輸后確實被硬件清除如果使用中斷方式在中斷里先讀狀態(tài)再清標志如果是循環(huán)模式Circular Mode注意設置合適的水位中斷閾值防止數(shù)據(jù)覆蓋。6.2 NEON代碼編譯后反而不如普通拷貝快先檢查內(nèi)存對齊。前面反復提過NEON加載指令在非對齊地址上性能會大幅下降。解決方式有兩個一是用vld1q_u8這類非對齊友好的指令二是確保緩沖區(qū)分配時做16字節(jié)對齊。其次是檢查編譯優(yōu)化選項。如果編譯時沒有開-O2或更高的優(yōu)化級別NEON內(nèi)建函數(shù)可能沒有被有效調度和優(yōu)化生成的低效匯編可能比普通拷貝還慢。我在測試時遇到過GCC開了-O0后NEON比memcpy還慢將近5倍的情況開了-O2之后才反超。另外注意NEON指令在數(shù)據(jù)量小的時候優(yōu)勢不顯著。如果你的數(shù)據(jù)只有幾百字節(jié)NEON的前期準備開銷函數(shù)調用、循環(huán)初始化、尾部處理可能抵消掉指令并行帶來的收益這種情況下直接memcpy反而更簡單高效。6.3 如何判斷“CPU被拷貝拖慢”了最直接的手段是看任務耗時統(tǒng)計。在拷貝函數(shù)前后打時間戳計算每次拷貝的耗時和總CPU時間占比。如果發(fā)現(xiàn)拷貝耗時占比超過20%且數(shù)據(jù)量還在不斷增長就必須考慮用DMA替換了。另一個判斷辦法是觀察系統(tǒng)整體響應性。比如通信系統(tǒng)里如果處理一個數(shù)據(jù)包的延遲明顯波動尤其在數(shù)據(jù)量大的時候抖動更嚴重很可能就是大塊CPU拷貝阻塞了主循環(huán)。這時候用性能分析工具perf、Tracealyzer、SEGGER SystemView等確認熱點函數(shù)看memcpy或copy_from_user等調用占比即可驗證。我自己常用的一個經(jīng)驗是當選型不確定時先用NEON快速頂上因為它不需要改架構只需改一個函數(shù)實現(xiàn)然后再在下一個版本迭代里根據(jù)CPU Profiling數(shù)據(jù)決定要不要引入DMA。這樣風險可控不會一上來就動硬件配置和中斷架構。7. 按需選型的最終決策表判斷條件推薦方案核心原因數(shù)據(jù)量 4KB偶爾拷貝CPU memcpy延遲最低實現(xiàn)最簡單數(shù)據(jù)量 4KB高頻拷貝每秒百次以上NEON壓縮指令開銷降低CPU負載數(shù)據(jù)量 4KB ~ 64KBCPU有余量NEON比DMA配置簡單性能足夠數(shù)據(jù)量 4KB ~ 64KBCPU繁忙DMA釋放CPU時間片數(shù)據(jù)量 64KB周期性拷貝DMA吞吐量高且不占CPU緩存敏感場景實時性要求高DMA 雙緩沖避免大塊拷貝阻塞關鍵路徑從實測數(shù)據(jù)和我這些年的經(jīng)驗來看8成以上的場景其實用NEON就夠用且最優(yōu)DMA的主要價值在于“非阻塞”而不是“最快”。很多項目引入DMA是為了讓CPU在等待數(shù)據(jù)搬移的這段時間里去做協(xié)議處理或響應IO事件這是NEON無法替代的。但如果你的系統(tǒng)CPU資源非常充裕、任務也不多那繼續(xù)用簡單的memcpy也沒有什么問題。性能優(yōu)化的最高原則永遠是不優(yōu)化沒問題的地方。我在實際項目中對三種方式的取舍也經(jīng)歷了幾個階段從一開始只會memcpy到項目緊迫時臨時加NEON加速再到系統(tǒng)復雜到需要DMA才能保證實時性每一步都是被逼出來的但也正好把這三條路的優(yōu)缺點都摸透了。這些經(jīng)驗濃縮成一句話就是先量數(shù)據(jù)再看CPU最后決定要不要動DMA。希望這篇文章能幫你少走一些我曾經(jīng)走過的彎路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷操逼网| 亚洲日韩操B| 五月丁香综合网色欲| 高清无码网址| 午夜无码精品色综合久久| 亚州在线中文字幕| 激情五月天综合| 色婷五月天网站| www.97干视频| 人人操超碰| 思思热视频在线观看| 五月婷婷色色| 色婷婷五月天偷拍| 色综合99色| 久久婷婷六月综合| 成人电影AV在线观看| 9久久AV| 欧美日综合| 五月天成人免费视频| 久热黄色| 中文字幕激情综合| 男女激情久久| 狠狠干.com| 日本一级一级一级一级| 可以免费看AV网站| 亚洲色色色色| 激情婷婷狠狠干| 色啪综合| 成人片在线播放| 欧洲区自拍| 免费无码毛片一区二区A片| 婷婷狠狠五月综合| 天天干,噜噜色,狠狠色| 99热大| 99色网站| 人人澡玖玖一| AV在线免费播放| av色色国产| 色99色| 99久久6| 色色色色色网站| 91人人操人人爱| 影音先锋美国A| 99视频只有精品| 99无码| 丁香五月婷婷激情中文| 4399人妻无码久久久| 亚洲这里只有精品| av人人干| 最近中文字幕在线中文视频| 超碰99资源站| 97精品欧美91久久久久久久| 日本五月天一页| 婷婷基地五月色| 播五月婷婷开心| 综激情网| 亭亭五月丁香综合欧美| 9精品视频在线| 亚洲日比视频| 六月丁香激情| 婷婷五月天情色| 亚洲视频一区| 日本人妻久久| 成人五月天丁香婷| 婷婷大香蕉| 天天爽夜爽| 天堂草在线看www| 五月丁香六月停停| 深爱激情五月网| 丁香五月婷婷香| 色亚洲欧洲| 亚洲精品国产精品乱码视99| www.婷婷,com| 丁香五月天成人网站| 丁香五月婷婷呀| 婷婷大美在线| 综合成人小说婷婷| 婷婷五月天影院| 欧美日韩成人| 九九综合影音先锋| 亚洲视频国产一区| www色婷婷久久综合久色| 97热久久| 美女五月激情| 亚洲 五月 婷婷 成人| 香蕉综合在线| 激情五月色综合国产精品| 日本啪啪天堂| www好屌操| 99色播| 狠狠撸激情综合丁香五月天俺来啦| 午夜色婷婷| 久久丁香五月综合六月激情红杏视频| 天插天啪天啪天啪| 五月丁香激情综合啪啪| 另类激情综合| 超碰在线caop| www.91.com黄| 久久久五月激| 久久激情五月天| 欧洲婷婷五月天| 亚洲小说欧美激情| 国产熟女一区二区三区五月婷| 99免费热视频| 久久激情五月婷婷| 91操在线| 亚洲综合视频天天精品| 色色色婷| 五月天电影网| 99热都是精品| 久久久久久久久久久44| 97碰碰在线看视频免费| aⅤ79成人片| 丁香六月天AV| 五月婷婷AV| 激情六月天| 久婷婷色| 日韩青青| 另类色网| 夜夜大香蕉婷婷丁香| 久久激情天堂| 熟女强人妻一区二区三区四区无| 日韩精品一曲二曲三曲四曲五曲| 久久人操-久草婷婷-成人AV| 婷婷五月天激情电影| 天堂综合久久| 精品免费99| 欧美久久网| 无码人妻精品一区二区蜜桃色欲| 岛囯综合激情网| 日本一级一片免费视频| 激情婷婷五月女| 99热在线这里| 五月综合激情久久| 久色成人| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 最新无毒无码AV| 91精品丝袜久久久久久久久粉嫩| 97人人爱人人操| 色狠狠综合网| 婷婷综合| 2015好吊操| 日本在线va| 国产在线aaa片一区二区99| 欧洲色区| 俺来也综合网精品一区| 六月丁香激情婷婷| 欧美色综合天天久久综合精品| 日韩AV中文在线观看| 婷婷五月花.97| 青青色com久久| www.天天干.com| 欧美Va日本Va| 月丁香久久久| 色色色色色色色色网站| 综合久久婷婷| 99免费成人网| 九九热免费视频| 九九热99免费视频| 婷婷欧美综合| 天天操加勒比| 9久久久久| www.com任你艹| 开心五月丁香婷婷| 久久日婷婷| 国产SUV精品一区二区6| 日韩狠狠色| 思思热这里只有精品| av在线资源| 超碰色人妾| 激情宗合网激情五月天| 丁香婷婷影院| 成人天天爽| 99视频这里有精品| wuyuedingxiang99| 成人无码髙潮喷水A片| 色五月开心久久网| www.五月天婷婷| 婷婷色色色| 亚洲婷婷丁香五月视频| 操一操干一干| 99热成人精品| 色色网站日本91| 79色色免费| 九九丁香社区欧美激情| 日本美女上人| 六月丁香五月天| 97人妻碰碰碰久| 99在线视频播放| 午夜九九九九九九九九九九九九九| 亚洲熟妇AV综合网五月丁香伊人 | 婷婷五月天福利| ww久久| 91婷婷丁香五月| 亚洲综合在线播放| 337p大胆噜噜噜噜噜91Av| 综合九色| 色婷婷五月天激情| 欧美 日韩 人妻 高清 中文| 婷婷激情五月吧| 婷婷另类小说| 激情美女五月天激情在线| 色色色9| 激情综合网丁香| 综合色五月| 激情q青青草在线婷婷| 久久久无码精品成人A片小说| 97日韩无套内| 亚洲五月天另类小说图片| 国产人妻777人伦精品HD| 欧美色色色色色色| 久久久久人妻网址| 婷婷色Av| 成人综合视频在线| 亚洲欧美在线观看| 日日操夜夜爽| 日日夜夜狠狠婷婷色| www久久艹| 成人AV免费观看| 久久精品性爱| 日屌日日操日日色| 韩日在线熟女| 超碰操日| 激情五月丁香婷婷| 月月AV| 国产五月视频| 欧美色99| 五月丁香六月花| 婷五月天六| av在线资源| 五月天激情网图片 - 百度| 97热视频| 二区成人视频| 一级黄色影片| 色女伊人| 在线另类视频| 婷婷日本在线| 久久婷婷亚洲| 深爱五月婷婷| 玖操97| 国产永久一黄| 国产99久久久国产精品免费看| 妻久久久久| 丁香五月欧美婷婷| 亚洲性爱电影| 大香蕉院线| 狼人婷婷久久| 牛牛色av| 91夫妻视频| 99国产精品久久久久久久久久久| 色综合色婷色基地| 国产亚洲成AV人片在线观黄桃| 日日想日日夜日日操| 综合色五月亭亭| 超碰9| site:publishdd.com| 在线播放成人网站| 色老久久| 亚洲va欧美va天堂v国产综合| 99 福利 导航| 亚洲精级| 91碰碰视频在线观看| 婷婷丁香五月激情| 五月色俺婷婷| 午夜九九电影| 99色在线观看免费| 五月丁香婷婷久久| 综合性爱网| 久久九九Com| 色激情五月天| 91操人| 激情综合丁香五月| 久8色色| 狠狠色噜噜狠狠色噜噜噜999| 情欲禁地| 色婷婷成人做爰A片免费看网站| 五月丁香婷婷综合网色欲| 色婷婷性爱网| 99超超碰| 日韩成人中文| 婷婷五月丁香亚洲| 婷婷综合中文字幕| 日韩在线观看网址| 无码成人AAAAA毛片AI换脸| 五月婷婷啪啪网| 超碰国产AV| 久草x色在线观看99| 色婷婷在线视频| 这里只精品热在线18| 日本色色图| 日本99色| 毛片新网地| 久久99jiu9| 91丁香色五月| 色婷婷啪啪| 91 久热| 99久久婷婷国产综合精品| 国产成人在线精品| 99久在线精品99re8热| 色综合天天天天做夜夜| 日本色婷婷久久99精品91| 2021日韩无码| 大香蕉狼人久久| 欧美久人人| 精品成人a v无码内射| 9l视频自拍九色9l视频自拍九色9l社区 | 99极品视频| 丁香婷婷激情综合五月激情| 韩日AV片| 草草影院爱爱| 久99久视频| 99在线资源| 综合网啪啪| 人橾人| 国产精品操| 婷婷午夜精品久久久| 久久久高清| 五月丁香婷婷狠狠操| 色五月丁香婷婷| 在线不卡视频| 国产精品美女久久久久AV超清| 久久精品99久久久久久| 婷婷久久丁香| 五月天久久久| 九九操屄| www.婷婷,com| 婷婷丁香五另类网站| 久久五月情| 丁香玖玖| 伍月激情天| 武汉美女啪啪视频免费一级片 | 欧美va在线| 婷婷丁香五月亚洲17cao| 婷婷在线午夜| 99热国产免费| 开心五月深爱五月| 五月婷狠狠| 人人操婷婷| 国产综合婷婷| 丁香五月婷婷成人色区| 婷婷丁香五另类网站| 超碰在线国产| 嫩草AV久久伊人妇女超级a| 久久久久亚洲A∨成人乱码电影| 丁香九月综合激情| 欧美精品999| 亚洲国产精品VA在线看黑人| 婷婷五月在线视频| 99操网站| av操一操| 丁香婷婷久久激情| 久久WW| 五月天丁香| 91久女| 五月婷婷激情性爱| 五月丁香婷中文| 五月天偷拍| 精品婷婷| 激情性爱五月| 亚洲性图一区二区| 久久激情网| 色九月丁香婷婷蜜桃在线观看| 亚洲中文字幕翔田千里| 婷婷色色欧美| 五月婷婷综合色拍| 色色吧综合| 97色五月婷婷在线| 婷婷丁香69精华| 天天色域综合网| 91日本在线观看| 五月婷视频| 九九操操| 激情五月婷| 中文字幕人成乱码在线观看| 色色五月天 亚洲| 91超级碰| 久久人妻人人| 色亭亭影园| 天天久综合网永久入口17v| 91欧美日韩综合| 五月婷婷六月奇米网丁香| 久久婷婷五月综合色和| 婷婷色丁香五月| 啪啪日本欧美| 色欲五月天| 九九色人| 久久草中文日韩欧美| 丁香五月婷婷啪啪| 啪啪操超碰| 久久婷婷七月丁香| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 伊人久久大香网| 秋霞午夜理论| 丁香五月天色婷婷| 99视频在线观看视频| 久久精品99久久久久久| 人妻肉射免费观看| 成人中文网| av中文在线| 99视频精品全部观看10| 五月天综合网| 六月99天天婷婷激情综合| 五月天成人手机在线视频| 婷婷五月天六月丁香| 五月丁香偷拍| 丁香五月 综合| 亚洲综合久| 射琪琪| 丁香婷婷视频一区二区| 丁香五月天堂| 91狠狠综合久久久| 六月丁香啪啪| 99免费综合网| 精品久久人妻| 26uuu色噜噜精品一区| 婷婷激情区| 五月天综合网| 美女要搞搞天天搞搞搞网站| 大香蕉五月婷婷| 色婷婷四色| 五月开心激情| 久久婷中文字幕| 婷婷99狠狠躁| 狠狠爱夜夜| 天天狠狠夜夜狠狠2023| Blackedraw视频一区二区| 婷婷丁香色情| 久热这里| 五月亭亭六月激情| 99久99久| 精品久久久久久久人妻| 五月天伊人| 狠狠狠婷婷五月综合| 五月激情婷婷国产精品久久久久久| 大香蕉久| 思思热再线视频| 伊人久久大香线蕉精品| 激情图片婷婷| 国产欧美大香蕉一区| 日本的α片xxxwww| 超碰99热精品在线| 深爱五月婷婷| 亚洲啪啪啪啪| 欧美大肥婆大肥BBBBB| 9久久婷婷国产综合精品性色| 婷婷五月天堂一本在线| 九月丁香婷婷基地| 天天操比比| AV在线免费播放| 思思久久精品| 夜夜夜叫天天天做| 色综合av超碰| 九九性视频| 九色综合网| 麻豆忘忧草午夜| 伊人在线视频| 噜噜噜噜婷婷五月天| 国产无套精品一区二区| 性爱技巧五月| 丁香蜜臀黄色婷婷五月天| 激情网色五月| 97人人超| 五月婷婷深爱六月| 免费AV在线| 香蕉人在线香蕉人在线 | 久久婷婷桃花五月天| 内射丰满人妻| 婷婷五月色惰| 天天爽天天爽| 日日干日日| 日韩国产在线免费观看| 丁香六月婷婷久久综合| 五月天婷婷基地综合网| 啪啪综合| 五月天成人手机在线视频| 日本久久精品| 欧美色性色好| 天天色天天爱天天舔| 中文字幕 中文字幕明步| 婷婷色吧| 五月天色色无码| 婷婷综合五月天| 久久只有精| www。五月,com| 亚洲超碰在线| 夜夜操,天天撸| 色色色五月婷婷| 九日日夜夜69| 丁香五月激情啪| 五月色婷婷综合丁香精品无遮挡| 日本色啪| 日日噜噜夜夜狠狠久久丁香五月| 色六月丁香婷婷狠狠干| 五月丁香亚州综合网| 丁香五月天激情免费在线观看AV777| 欧美一黄一色一乱一伦| 99热99极品观看| 亚洲性图一区二区| 久久久思思热| 色婷婷久久天天性爱| 精品久热| 五月天婷婷爱| 五月婷婷久久爱| 五月天丁香网站| 高清a片基地| 综合色色网| 色婷婷亚洲婷婷| RenRenSe在线视频网站| 91在线操| 久久丁香婷婷色情综合| 天天干天天拍| 996日日爱| 99热 免费| 九九亚洲综合| 啪啪色区| 欧美亚洲成人在线| 婷婷五月丁香成人网| 99久久网站| 亚洲国产成人裸舞| 婷婷五月激情片| 丁香五月,开心五月,成人婷婷| 国产精品激情AV久久久青桔| 噜噜国产| 性爱视频99| 99爱视频免费看| 激情99热| 梁铮版《蜘蛛女侠》在线| 中文超碰视在线| 精品夜夜澡人妻无码AV| 日本操B视频| 人人操超踫| 色吧五月婷婷六月丁香| 成人Av在线大片| 婷婷五月天丁香久久| 五月天色五月| 五月婷婷丁香六月| 成年人丁香五月| 91Chinese在线| 生活片五区| 婷婷激情视频| 日韩久久色| 日日干日日| 婷婷六月综合激情| 婷婷成人视频| 激情综合网五月| 五月天婷综合| 夜夜 操无码| 亚洲第一精品网站| 欧美综合激情丁香五月六月婷| 天天爽成人综合网站| 9热久久| 日本三级色| 日逼影音先锋男人AV资源站| 91操碰| 婷婷六月色| 亚洲激情综合| 五月天婷婷影院| 777影视理论片大全在线观看| 国产免费一区二区三区三州老师F1F1.CC | 婷婷五月深爱五月| 天天插综合| 夜夜操夜夜操| 另类A片| 中文字幕成人| 777米奇影视第四色| 久久五月综合| 青青青在线视频国产| 欧美性爱五月天| 婷婷五月天电影网| 操B视频在线播放| 亚洲成人网址在线观看| 久久久久久久久久久-久五月天婷婷| 丁香五月电影| 无码少妇高潮喷水A片免费| 久婷五月| 婷婷大乡焦噜噜| 91九色精品熟女内射| 久久丁香综合| 婷婷丁香五月天激情| 天天日夜夜| 五月婷婷官网色| 91操片| 99在线观看精品视频| 99久久久免费| 午夜天天精品视频| 狠狠色丁香婷婷| 中文字幕成人| 欧美综合五月丁香五月天| 六月丁婷婷| 天天日夜夜高潮| 婷婷丁香五月亚洲免费| www婷婷| 色五月婷婷综合| 久久综合久色欧美综合狠狠 | 日本久久婷婷| 视频这里只有精品16| 色播五月丁香综合| 综合网啪| 国产精产国品一二三在观看| 国产性av| 色婷婷六月天| 五月婷婷之六月丁香| 精品一区二区三区木瓜| 色婷婷激情五月天| 色综合天天综合成人网| 亚洲亚洲人成综合网络| 久久婷婷五月天丁香| 激情精品久久| 永久的网站AAAA| 99热无码| 伊人五月天| 69精品人妻不卡视频| 狠狠综合色网| 狠狠干总合| 精品女人九九九| 国产露脸150部国语对白| 九月丁香久久网| 激情AV| 天堂草在线看www| 9色在线| 日韩高清久久| 日韩色情亚洲五月天婷婷| 婷婷五月在线播放| 欧美成人精品A片免费一区99| 超碰v| 欧美精品99| 丁香五月乱中文字幕| 天天爱天天操| 日本色99网站| 天天色天天爱天天舔| 激情5月天天天| 狠狠穞A片一區二區三區| 国产精产国品一二三在观看| 97在线日韩| 六月婷伊人| 色综合久| 九色在线观看91av| 九九亚洲视频| 成人在线二区| 美女婷婷六月色| 99操逼| 人与禽A片啪啪| 99这里有精品久久97| 激情网婷婷婷| 国产SUV精品一区二区883| 丁香久久激情俄| 99热精品综合| 日本精品人妻无码77777| 婷婷五月丁香综合桃花色网| 女性自慰系列第五页| 人人操人人爱丁香五月| 国产精品大香蕉| 欧美色色色色色色色色色色| 激情婷婷| 91精品综合久久久久久五月丁香| 99热这里只有精品搜| 五月丁香激情综合网| 99ree6| 丁香综合网| 天天爱天天秀天天做| 五月天激情国产综合婷婷婷 | 第一区久久网站| 91日本在线观看| 久久婷婷五月综合| 婷婷激情六月| 成人va在线观看视频| 思思久久青草热| 亚洲六月色| 亚洲色色色色色| 这里只有精彩视频| 色婷婷综合综合网| 在线中文字幕av| 婷婷丁香色情| 综合激情婷婷| 久热只有这里有精品| 五月天开心婷婷激情网站| 无码人妻丰满熟妇奶水区码| 五月丁香免费视频| 深爱激情五月网| 婷婷六月丁香开心深深爱| 婷婷 丁香 精品| 久久婷婷五月综合成人d啪| 玖玖精品视频99| 丁香五月综合狠狠| 91成人性爱视频| 色色九九五月天 | 狠狠综合| 狠狠色性| 丁香婷婷婷| 激情综合五月天| 爽极品色| 五月丁香影院| 婷婷六月色情| 成人午夜在线视频| 天天搡日日搡aaaaⅩ| 亲子乱av一区二区三区的| 99久久久国产大片区| 超碰色综合| 99久久婷婷| 亚洲成av人影院| 互月天综合| 国产操肏网站| 久久六月综合| 五月天婷婷丁香视频| 久久伊人大香蕉| 噜噜噜噜在线| 久xxxx| 伊人激情影院| 激情性五月天免费小说视频 | 日本熟女三区| 综合久久五月| 色婷婷影视| 被男人添B超爽视频| 婷婷激情丁香五月婷婷激情丁香五月婷婷| 中文字幕乱码亚洲精品一区| www,欧美干干干干干干| 国产乱妇乱子在线播视频播放网站| 久久久妻人人人| 五月停停大香蕉| 五月天激情四射网站| 国产高潮白浆一区二区| 噜噜精品| 色色色视频免费无码 | Blackedraw视频一区二区| 午夜不卡成人一区二区| 丰满人妻妇伦又伦精品国产| 东北婷婷五月天| 小色小蛇伊人婷婷色香五月| 秋霞成人毛片一级A片| 另类激情五月| 热日韩欧美| 色综合九九| 色婷婷a三区麻| 伊人超碰| 婷婷婷久久| 久热这里只有精品6| 五月丁香久久综合| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 美国天天日天天操| 日本123区日韩欧美不卡在线看| 天天日夜夜曹| 日日干综合| 日韩欧美婷婷丁| 超碰免费在线| 色碰碰| 天天操天天日天天操| 欧美碰碰碰| 激情五月综合| 一起草Av| www.婷婷五月天.com| 91网站黄| 99热久久这里只有精品| 五月婷婷自拍视频| 五月在线婷色| 欧美啪啪网| AV中文网| 91丨九色丨国产打屁股| 婷婷伊人久久综合| 五月天六月丁香| 国产综合婷婷| 久9视频免费播放| 婷婷成人小说综合| 99热这里有精品6| 91成人品| 看全色黄大色大片| 六月婷婷操逼| 六月婷综合| 久久丁香五月天| 久综合网| 日韩综合天堂| 色五月丁香伊人| 俺五月| 99色色网站| 婷婷放心五日爱| 亚洲综合五月天婷婷丁香| 无码免费人妻A片AAA毛片西瓜| 四色 爱 婷婷 精品 亚洲 五月天| 丁香五月天堂亚洲社区| 中文字幕在线观看视频www| 这里只有九九精品| 婷婷激情小说网| 亚洲高清在线| 色五月91| 久热大香蕉| 久久久999精品| 久久免费操| 色你久久| 色情五月婷| 色色色五月婷| 国产免费一区二区三区三州老师F1F1.CC | 五月色亚洲| 美国不卡视频| 高清国产AV| 五月天婷婷激情在线色图| 性无码专区无码| 五月婷婷基地| 激情五月综合| 国产精自产拍久久久久久蜜| 天堂久久性| 99热日| 91操片| 婷婷五月丁香基地| 久久久精品人妻| 色婷婷丁香| 大陆极品少妇内射AAAAAA| 色色色国产| 国产激情久久| 中文字幕日产A片在线看| 天天射综合网站| 涩五月婷婷| 99re这里只有| 成人片黄网站色大片免费毛片| 中文无码婷婷| 天天做天天爱| 成人午夜视频精品一区| www.射伊蕉婷婷| 大香蕉久| 97色吧| 999热在线观看视频| 最近韩国日本免费高清观看| 99热最新| 欧类av怡春院| 日韩一本操| 色色网站免费| jiZZdr| 成人 在线 日韩| 综合激情婷婷| 极品人妻VIDEOSSS人妻| 性综合网| www.金莲av| 懂色av蜜臀av粉嫩av永陈冠希| www.金莲av| 九九九午夜视频| 欧美天天草人人草| 丁香花五月天| 五月婷婷官网色| 激情性爱五月天| 无码人妻少妇色欲AV一区二区| 婷婷综合激情| 成人免费黄色短视频| 亚洲亚洲人成综合网络| 亚洲中文字幕在线观看| 亚洲情综合五月天| WWW·色色色·COM| 26uuu欧美日韩| 狠狠狠狠狠操| 久久精品婷婷| 久久九九激情五月天 | 日本片日本片祼观看网站在线看中文版网页在线看| 色欲久久综合| 超碰成人在线免费观看| 亚洲欧洲小视频9| 婷色五月| 色日本网| 五月丁香黄色视频| 精品综合网在线| 九热精品| 这里只精品热在线18| 五月婷婷开心综合| 91狠狠综合久久久久久| 亚洲婷婷五月天| 五月激情久久| 久久er这里只有精品| 亚洲激情免费久久| 91婷婷五月天嫩女| 97自拍视频在线| 九久热| 日日夜夜狠狠婷婷色| 一區四區歐美日韓| 激情小说五月天| 精品无码久久久久久久久| 97大香蕉五月天| 91丨九色丨43老版熟女| 人人爽人人射-美女久久久久久久久久-成人AV| 丁香婷婷免费| 欧美激情综合色综合啪啪五月| 国产成人网址| 96精品国产综合久久久久久| 丁香五月天.com| 五月天激情Av| 91丨九色丨熟女高潮| 欧美私人家庭影院| 开心五月婷婷婷美女| 超碰人人色| 激情六月色| 亚洲AV影片在线观看| 九九超碰人人| 超碰人人在线观看| 狠狠色丁香五月婷巨| 婷婷六月色| 丁香六月婷| 91在线人| 丁香五月婷婷天激情| 天天爽天天干| WWW色五月| 狠狠操天天操| 少妇高潮一区二区三区99欧美| 国产AV一区二区三区最新精品| 9热久久在线| 五月丁香九九九综合| 六月婷婷视频| 色综啪啪啪啪啪啪| 激情五月天免费视频| 丁香五月激情五月| 亚洲不卡123| 99热免费精品热久久66| 亚洲热久久| 久久精彩视频18| 99热在线中文字幕| 搡BBBB搡BBB搡18| 另类激情五月天。| 亚洲AV中文在线| www.com.色色| 天天久| 96精品成人无码A片观看金桔 | 丁香五月偷拍| 激情深爱五月婷婷| 九九热精品视频| 久久婷婷六月综合| 久/久精品99看9| 92久久| 俺去也综合| 久久精品国产色| 国产69精品久久久久999小说| 99热这里是精品| 五月天激情小说| 婷婷丁香五月天色区| 婷婷五月天久久| 99久久a线观| 五月综合激情婷婷六月色窝| 五月天激情四射| 色婷婷基地| 色色影院aaaav| 五月激情在线| 五月丁香六月婷婷免费| 欧美成人性爱网| 日本三级色| 六月天婷婷| 超级碰碰碰97免费| 色五月91| 五月丁香综合在线| 操91| 日操| 白人荫道BBWBBB大荫道| 99色婷婷视频| 九九久久综合| 五月婷婷综合色拍| 99精品久| enecarbon-materials.com污K127封锁请涟系@wip1688 | 另类丁香五月天区图| 色综合激情| 中文字幕永久在线| 极品少妇高潮啪啪AV无码| 久草天堂| 超碰成人免费| 9999热这里只有精品| 大香蕉综合| 伊人五月人妻精品| 第四色五月天| .肏屄视频一区二区| 无码婷婷五月天| 色爱爱综合网| 丝袜激情网| 如何安全看伊人婷婷| www婷婷| 成人色站,在线视频,看片-SS1AV| 秋霞性爱AV| av九九| 99婷婷狠狠成为人免费视频| 亚洲激情网站无码| 99惹 精品在线| 婷婷五月深深爱| 婷婷网影院| 六月婷婷五月丁香| 激情五月丁香在线观看直播| 亚洲精品V天堂中文字幕| 丁香综合伊人| 大香蕉婷婷婷| 日韩成人av在线| 久热99| 99色人| 久久激情网| 亚洲色色色色| 婷婷五月天AV在线| 国精产品一区一区三区免费视频 | 久久久99免费视频| 噜噜视频| 狠狠插狠狠插| 日在线V视频在线播放| 日韩欧美婷婷丁| 操碰97| 亚洲午夜一区二区| 99久久综合精品五月天| 91xxxx九色| 搡BBBB搡BBB搡18| 99re免费精品视频| 天天激情站| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 大香蕉五月天婷婷丁香91| 婷婷五月天久久久| 激情五月影院| 五月婷婷丁香av| 99婷婷五月天| 婷婷月综合| 日韩AV在线电影| .精品久久久麻豆国产精品| 五月婷婷丁香社区| 色五月av伊人| 一级黄色影片| 超碰三级片| 婷婷丁香五月基地| 久久色六月| 九九黄色网| 欧美熟女99| 荷兰av一级| 五月婷六月婷婷| 狠狠操.COM| 99热20| 金桔一区二区ab地址| 伊人爱爱日本| 疯狂做受XXXX高潮A片动画| 天天色视频| 五月丁香婷婷成人综合网| 九九aV| 九九精品热播| 精品导航在线x不卡| 这里只有精品视频在线| 天天操婷婷| 婷婷激情五月色综合| 99久久99视频只有精品| 五月婷婷 自拍| 五月停视频天堂| 六月婷婷毛片| 玩熟女五十AV一二三区| 日本精品99| 噜噜色五月| 九九精品亚洲| 久久最新色| 色呦呦美女| 一本久道综合色婷婷五月| 亚洲 综合中文| 国产婷婷色五月| 五月婷婷激情刺激| 亚洲国产精品成人免费一区久久久在线观看AAAA| 色婷婷A| www.99热在线观看| 操操天堂| 欧美99热| 激情综合网五月天| 99视频在线| 超碰九色| 国产欧美日韩综合精品一区二区| 日本美女上人| 色婷婷久久久| 久草五月天| 天天射影院| 五月婷婷大香蕉| 香蕉久久国产AV一区二区| 九九99精品| 五月天色婷婷综合| 亚洲激情在线| 国产乱妇乱子在线播视频播放网站 | 婷婷五月天激情网| 91丁香五月| www婷婷| 婷婷成人视频| 国产古装妇女野外A片| 色五月婷婷五月| 1024人妻| 美女久久婷婷| 欧美激情 日韩无码 婷婷 五月天| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 五月天久久色| 亚洲中文字幕在线电影| 国产91资源在线| 色婷婷四虎| 丁香五月色网| 99在线观看视频免费| 91美女被操| 99高级会所久久| 日本在线噜噜| 99爱视频免费| 激情综合网五月婷婷| 二色AV| www.色五月| 色五月天 丁香| 久久婷婷丁香| 天天操夜夜啊| 思思热在线免费视频| 色五月婷激情| 啪色综合| 狠狠干婷婷| 久久99免费视频网站| 无码人妻一区二区一牛影视| 99色嘟嘟精品网站| 天堂在线9| 日本天天综合| 99精品福利视频| 五月婷婷婷婷| 婷婷五月天桃花网| 国产精品汇聚精彩第二页 - 高清完整版在线 - 青蛙AV | 婷婷五月天99综合网站| 国产AV影片| 人妻激情视频| 五月情四婷婷| 天天爽天天干| 色五月亚洲| 午夜日韩久久久网站| 99免费偷拍视频| 色你久久| 九九热区一区二区三区| 激情婷婷丁香色五月| 欧美啄木乌丝袜人妻系列| 久久久久久人妻久久久久久久久久人妻久久久| 丁香五月另类色婷婷麻豆| 国产激情久久久| 超碰cap| 1024人妻| 深爱激清网| 99视频精品| 婷婷色色欧美| 中文字幕丁香五月| 久久婷网| 美女久久婷婷| 91精品91久久久中77777| 五月天婷婷色紫薇阁| 伊人丁香花综合影院| 六月丁香社区| 五月婷婷基地| 久热超碰91| 青青草日本亚洲| 91精品久久久久久综合五月天| 综合色99| www.99热在线| 艾小青av| 无码色色色| 久婷婷五月天影院| www.狠狠干com| 婷婷五月天av| 91九色精品| VfJxEwPH| 色狠狠色噜噜AV天堂五区| 99天堂网最新| 欧美噜噜久久久XXX| 国产精品岛国片在线观看免费| 99色在线观看视频| 99re26视频| 99爱视频免费| 久久 无毛。| 蜜桃五月天色| 色丁香久久| aa久久| 五月丁香婷婷成人网| 丁香婷婷色五月| 五月婷婷综合性爱噜噜| 亚洲另类婷婷五月丁香在线播放| 亚洲欧州色情在线观看| www.天天干| 亚洲欧美成人在线观看| 亚洲激情综合网| 五月丁香另类网| 五月开心网| 婷婷五月天丁香| 丁香六月激情| 91视频免费后入强操| 九九视频这里只有精品在线播放 | 青青草六月丁香| 91九色首页| 欧美一级色| 婷婷色九月| 成人毛片在线免费观看| 综合久色五月| 五月激情天| 香蕉久久国产AV一区二区| 婷婷五月天亚洲综合| 日本三级韩三级99久久| www.金莲av| Va另类视频| 疯狂做受XXXX高潮A片动画| 97se视频在线| 五月丁香偷拍| 狠狠综合色网| 婷婷五月天天天| 五月丁香视频色色| 婷婷综合网| 黄色91在线观看| 五月婷婷在线视频| 婷婷丁香www视频日本韩国| caobi四区| 粉嫩AV久久一区二区三区| 九九干视频| 日韩 中文 欧美| 五月天天综合| 久久婷婷丁香| 五月综合丁香婷婷| 色婷婷亚洲| 亚洲色啪| 五月婷婷婷| 天天狠天天狠| 极品少妇XXXX精品少妇偷拍| 激情六月婷婷| 成人看片网站| 欧亚色色| 亚洲精品久久久久久久久久吃药| 大香蕉五月天婷婷丁香91| 国产精品香蕉| 九月大香蕉| 婷婷的色色五月天| 婷婷黄色| 99久久网站| 爱草视频在线观看| 九九XX视频| 天天做夜夜爽| 国产成人高清| 精品人妻一区| 亚洲五月天综合| 婷婷丁香五月在线观看91| 97激情五月天| www久久99| 色婷婷五月天激情综合| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | 五月天色婷婷综合| 天天插天天日天天爽| www.狠狠| 丁香五月av在线| 超碰在线94| 中文字幕av久久爽一区| 91久久五月天| 婷婷五月天开心网| 色天天综合色| 亚洲视频1区| 99ri国产| 丁香六月色情| 久久国产高潮白浆免费观看99| 巴基斯坦粉嫩无码视频| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 97日在线视频| 久99久视频| 99久久精品视频女神1| 婷婷激情五月呦呦| 日本色爽| 天天色粽合合合合合合合| 日韩九区| 国产一级视频a| 一级黄色尤物综合视频手机在线观看| 天天插天天射天天干| 98色花堂98t.R| 天天看片日日夜夜| 97se在线视频| 丁香五月激情啪啪| 亚洲性色XXXXX| 超碰色婷婷| 99久久人妻精品无码二区| 中文字幕日韩无码制服诱或| 亚洲中文字幕在线观看| 激情都市五月天| 婷婷色色丁香五月天| 婷婷五月丁香久久| 丁香五月亚洲无码| 先锋资源婷婷| 天堂成人A片永久免费网站 | 激情综合五月| www.minyis.com【JT】实力收量可预付QQ2101460746 | 婷婷丁香第一页| 激情婷婷九月| 风流少妇A片一区二区蜜桃|