99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

RK3588邊緣AI設(shè)備不死機(jī)實戰(zhàn):看門狗、NPU守護(hù)與系統(tǒng)自愈機(jī)制

RK3588邊緣AI設(shè)備不死機(jī)實戰(zhàn):看門狗、NPU守護(hù)與系統(tǒng)自愈機(jī)制 先說一個我自己的真實經(jīng)歷。前兩年給客戶做一臺基于 RK3588 的邊緣 AI 盒子部署在園區(qū)配電房做 YOLOv8 安全帽檢測設(shè)備放在弱電井里7×24 跑推理。頭一個月一切正常第二個月凌晨三點(diǎn)值班電話打過來——畫面全黑設(shè)備失聯(lián)。我驅(qū)車來回兩小時結(jié)果到現(xiàn)場一看機(jī)器沒死是 NPU 卡死了推理線程阻塞系統(tǒng)負(fù)載飆到 20 多網(wǎng)絡(luò)假死。按一下復(fù)位好了。但這個場景發(fā)生在偏遠(yuǎn)站端呢來回一次的成本夠買三臺設(shè)備。從那以后我開始認(rèn)真研究 RK3588 平臺的“不死機(jī)”問題陸陸續(xù)續(xù)做了三版方案后來慢慢沉淀成一套完整的守護(hù)機(jī)制我管它叫 Guardian。今天把整套思路、配置、踩過的坑全部攤開講希望能幫到正在做邊緣 AI 設(shè)備的朋友。適合誰看如果你正在做基于 RK3588 的AI盒子、邊緣計算終端、工業(yè)視覺設(shè)備或者已經(jīng)遇到了設(shè)備長時間運(yùn)行后死機(jī)、NPU 卡死、SSH 假死這類問題這篇文章應(yīng)該能幫你省掉至少兩個月的試錯時間。1. 先說結(jié)論RK3588 邊緣設(shè)備為什么需要“守護(hù)”而不是“運(yùn)維”很多做產(chǎn)品的朋友一上來就討論散熱、電源、看門狗方向?qū)Φ窬中×?。RK3588 這塊芯片本身是非常成熟的8nm 工藝、四核 A76 四核 A55、6 TOPS NPU算力在邊緣側(cè)完全夠用。7×24 不死機(jī)的難點(diǎn)從來不在芯片而在芯片之外的整個“系統(tǒng)生態(tài)”。1.1 三個真實場景告訴你“不死機(jī)”有多難第一個場景工業(yè)檢測。設(shè)備掛在產(chǎn)線旁邊環(huán)境溫度 40℃ 以上旁邊還有電焊機(jī)、變頻器這類強(qiáng)干擾源。RK3588 的 NPU 滿載跑 YOLOv8整板功耗能摸到 15W 以上散熱稍跟不上芯片溫度直奔 85℃。溫度一高CPU 降頻推理幀率掉一半客戶以為你算法不行其實你已經(jīng)快死機(jī)了。第二個場景無人店 / 自助終端。這種場景往往是市電不穩(wěn)晚上電壓波動大設(shè)備用著用著突然斷電或者“半斷電”——電壓忽高忽低導(dǎo)致 eMMC 寫入出錯。第二天開機(jī)系統(tǒng)起不來卡在 kernel panic只能派工單上門刷機(jī)。第三個場景車路協(xié)同邊緣站。設(shè)備放在戶外機(jī)柜網(wǎng)絡(luò)是 5G CPE偶爾斷網(wǎng)是常態(tài)。斷網(wǎng)期間軟件里的網(wǎng)絡(luò)重連邏輯如果寫得不好線程會不斷堆積內(nèi)存慢慢漲幾天后 OOM系統(tǒng)自動殺掉關(guān)鍵進(jìn)程然后整機(jī)進(jìn)入假死狀態(tài)。這三個場景說明一個問題邊緣 AI 設(shè)備的不死機(jī)不是靠某一個看門狗芯片就能解決的而是一整套從硬件到內(nèi)核再到應(yīng)用的分層兜底機(jī)制。單純靠遠(yuǎn)程運(yùn)維去“救火”成本高、時效差用戶根本等不起。1.2 死機(jī)是表象根因都在這些位置我統(tǒng)計了自己手上 RK3588 設(shè)備的故障記錄大概 80% 的“死機(jī)”其實不是真正意義上的硬件死機(jī)而是下面這幾種情況NPU 卡死RKNN 推理進(jìn)程在調(diào)用rknn_run時長時間不返回或者返回了錯誤的錯誤碼但應(yīng)用層沒處理導(dǎo)致進(jìn)程不死不活。內(nèi)核鎖死常見于某些外設(shè)驅(qū)動異常比如 USB 攝像頭掉線后內(nèi)核在等待 USB 枚舉超時或者 MIPI-CSI 信號異常導(dǎo)致 dmesg 刷屏把系統(tǒng) IO 拖垮。OOM 被殺Python 推理進(jìn)程內(nèi)存泄漏跑幾天后 RSS 漲到幾個 GB觸發(fā)內(nèi)核 OOM killer關(guān)鍵進(jìn)程被殺。文件系統(tǒng)寫滿或損壞日志沒做輪轉(zhuǎn)eMMC 被寫滿或者異常掉電導(dǎo)致 overlayfs/ext4 元數(shù)據(jù)損壞。有意思的是這些根因在實驗室里都很難復(fù)現(xiàn)因為實驗室環(huán)境太“干凈”了。真正到了現(xiàn)場電網(wǎng)波動、高溫、電磁干擾、斷網(wǎng)、人為誤操作各種因素疊加才會暴露問題。1.3 Guardian 守護(hù)的設(shè)計目標(biāo)與分層思路我定義 Guardian 的目標(biāo)很簡單即使應(yīng)用層已經(jīng)“感知”不到系統(tǒng)了設(shè)備也必須能在無人干預(yù)的情況下自動恢復(fù)而且恢復(fù)時間越短越好。理想狀態(tài)下最壞情況是 3 分鐘內(nèi)重啟恢復(fù)期間如果用戶詢問運(yùn)維人員只需要說一句“設(shè)備自愈了”就行。為了實現(xiàn)這個目標(biāo)我采取的是分層兜底架構(gòu)層級守護(hù)手段解決的問題L0 硬件層硬件看門狗、電源保護(hù)、溫控系統(tǒng)崩潰、電池/電源異常L1 內(nèi)核層內(nèi)核 panic 自動重啟、EDAC 內(nèi)存錯誤內(nèi)核級死鎖、硬件錯誤L2 系統(tǒng)層systemd 服務(wù)健康檢查、日志兜底關(guān)鍵服務(wù)異常退出L3 應(yīng)用層進(jìn)程守護(hù)、心跳上報、RKNN 超時恢復(fù)推理進(jìn)程卡死、內(nèi)存泄漏核心思路是每一層都只兜住自己下面的那一層不要把寶押在單一機(jī)制上。比如你寫了很好的應(yīng)用層守護(hù)但內(nèi)核已經(jīng) panic 了應(yīng)用層代碼再漂亮也沒用必須靠硬件看門狗把系統(tǒng)拉起來。反過來你不能只靠硬件看門狗因為它能做的只是“重啟”重啟之后應(yīng)用層問題依舊存在設(shè)備會陷入反復(fù)重啟的死循環(huán)。下面我把每一層的具體做法拆開講能貼配置貼配置能貼代碼貼代碼都是實測驗證過的。2. 硬件看門狗 軟件看門狗把底兜住看門狗是整套 Guardian 的地基。如果地基打不好上面蓋什么樓都沒用。RK3588 內(nèi)部自帶硬件看門狗DW_wdtIP在 Linux 下對應(yīng)dw_wdt驅(qū)動設(shè)備節(jié)點(diǎn)是/dev/watchdog。這個看門狗一旦啟動系統(tǒng)就必須周期性去“喂狗”否則硬件強(qiáng)制復(fù)位。2.1 devicetree 里開啟硬件看門狗很多 RK3588 開發(fā)板出廠默認(rèn) watchdog 是 disabled 的因為默認(rèn)固件不啟用喂狗服務(wù)開了不喂會一直重啟。所以第一步是在內(nèi)核 devicetree 里把它打開。以 RK3588 的 dtsi 節(jié)點(diǎn)為例wdt { status okay; timeout-sec 16; };timeout-sec我建議設(shè)置在 10~16 秒之間。太短了系統(tǒng)高負(fù)載時喂狗線程本身被調(diào)度延遲容易誤觸發(fā)重啟太長了真死機(jī)時要等半天才復(fù)位業(yè)務(wù)中斷時間太長。16 秒是我測試下來比較穩(wěn)的值。然后是 Linux 內(nèi)核配置需要確保這幾個 config 打開了CONFIG_WATCHDOGy CONFIG_DW_WATCHDOGy CONFIG_WATCHDOG_COREy如果用的是 Rockchip 的 SDK默認(rèn)一般都有。但如果你是自己 build 的 mainline 內(nèi)核務(wù)必檢查一下缺了這兩個 config后面的所有看門狗配置都是白搭。2.2 systemd 軟件看門狗怎么配合硬件看門狗只是最后一道保險正常運(yùn)行時我們更希望用 systemd 的軟硬結(jié)合機(jī)制來提前發(fā)現(xiàn)異常。systemd 本身內(nèi)置了 watchdog 支持可以讓 PID 1 周期性去喂硬件看門狗。只要 systemd 還活著系統(tǒng)就被認(rèn)為是健康的。配置在/etc/systemd/system.confRuntimeWatchdogSec10 ShutdownWatchdogSec60RuntimeWatchdogSec10的意思是 systemd 每 10 秒向/dev/watchdog喂一次狗。這個值必須小于 devicetree 里的timeout-sec16 秒否則喂狗間隔比硬件超時還長系統(tǒng)會被誤殺。ShutdownWatchdogSec60是關(guān)機(jī)和重啟階段給系統(tǒng)更多時間去卸載文件系統(tǒng)、停服務(wù)避免關(guān)個機(jī)還被看門狗打斷。配置完重啟 systemd 或者整機(jī)重啟后可以用下面命令確認(rèn)喂狗生效cat /dev/watchdog正常情況下這條命令會打開設(shè)備節(jié)點(diǎn)并觸發(fā)一次喂狗然后會報錯退出這反而說明驅(qū)動正常。更靠譜的驗證方式是watch -n 1 cat /sys/devices/platform/watchdog/watchdog0/state也可以直接禁掉喂狗服務(wù)手動觀察設(shè)備會不會在 16 秒后自動重啟。我建議每一批板子出廠前都做一次這個測試確保硬件看門狗是真實可用的而不是 devicetree 里寫了“okay”但實際沒生效。2.3 看門狗喂狗的正確姿勢這里有個關(guān)鍵細(xì)節(jié)喂狗不是在應(yīng)用層隨便寫個死循環(huán)就行的必須設(shè)計成“健康檢查通過才喂”。我見過太多團(tuán)隊寫一個while(1) { write(fd, w, 1); sleep(5); }的線程一直喂等于自己把看門狗廢了——任何應(yīng)用層故障都不會觸發(fā)重啟因為你的喂狗線程還活著。我之前在一套方案里做的是分級喂狗喂狗線程每 10 秒讀取一次系統(tǒng)健康狀態(tài)關(guān)鍵進(jìn)程是否存活、內(nèi)存是否夠用、最近的 dmesg 里有沒有驅(qū)動報錯。只有所有檢查項都通過才寫入/dev/watchdog。任一檢查項失敗停止喂狗等硬件看門狗超時自動復(fù)位。偽代碼大致長這樣import fcntl import os import time WATCHDOG_FD os.open(/dev/watchdog, os.O_WRONLY) def system_healthy(): # 1. 關(guān)鍵進(jìn)程存活檢查 if not check_process(rknn_infer): return False # 2. 內(nèi)存檢查可用內(nèi)存低于 200MB 判定為異常 if available_memory_mb() 200: return False # 3. 最近 60 秒 dmesg 是否出現(xiàn)連續(xù)驅(qū)動錯誤 if recent_dmesg_has_errors(): return False return True while True: if system_healthy(): os.write(WATCHDOG_FD, bw) time.sleep(10)注意這里我刻意把這個喂狗邏輯做成了獨(dú)立進(jìn)程而不是放在主業(yè)務(wù)進(jìn)程里。為什么因為主業(yè)務(wù)進(jìn)程是最容易卡死的如果喂狗邏輯跟著它跑卡死就一起卡死守護(hù)就失去了意義。用 systemd 把喂狗進(jìn)程拉起來加Restartalways即便這個進(jìn)程本身崩了systemd 也會把它重新拉起來繼續(xù)喂——當(dāng)然如果 systemd 都崩了還有硬件層兜底這是雙保險。3. 應(yīng)用層守護(hù)與 RKNN 推理異常自恢復(fù)看門狗解決的是“系統(tǒng)級死機(jī)”但實際項目里更常見的是“應(yīng)用級卡死”。系統(tǒng)沒死SSH 能連top 能看到進(jìn)程還在但 NPU 推理線程卡住不動了畫面一直停在那。這種問題靠看門狗是發(fā)現(xiàn)不了的必須靠應(yīng)用層自己的健康檢查機(jī)制。3.1 進(jìn)程守護(hù)與心跳我在方案里給每一個關(guān)鍵業(yè)務(wù)進(jìn)程都配了 systemd service統(tǒng)一加了Restartalways和健康檢查。以推理服務(wù)為例[Unit] DescriptionRKNN Inference Service Afternetwork-online.target rknn.service [Service] Typesimple ExecStart/usr/bin/rknn_infer --config /etc/guardian/rknn_infer.yaml Restartalways RestartSec5 WatchdogSec30 StartLimitIntervalSec60 StartLimitBurst5 [Install] WantedBymulti-user.targetRestartalways保證進(jìn)程退出后 5 秒內(nèi)被拉起來。但光這樣不夠因為前面說的“卡死”不是進(jìn)程退出而是進(jìn)程還活著但無響應(yīng)。所以這里又用了WatchdogSec30——systemd 會要求服務(wù)每 30 秒調(diào)用一次sd_notify(WATCHDOG)如果超時systemd 會認(rèn)為這個服務(wù)已經(jīng)“僵死”殺掉并重新拉起。服務(wù)內(nèi)部需要周期性地維護(hù)看門狗通知。C 里用sd_notifyPython 里用systemd庫或者直接往/run/systemd/notify寫消息import socket import time NOTIFY_SOCKET_PATH /run/systemd/notify def notify(): sock socket.socket(socket.AF_UNIX, socket.SOCK_DGRAM) sock.connect(NOTIFY_SOCKET_PATH) sock.send(bWATCHDOG1) sock.close() while True: # 執(zhí)行一幀推理 result rknn_run() if result is not None: notify() time.sleep(1)這個機(jī)制的意義在于只要推理主循環(huán)還能跑完一幀我們才認(rèn)為服務(wù)健康如果一幀推理超過 30 秒沒完成即使進(jìn)程還在systemd 也直接把它干掉重來。實測下來這套機(jī)制對“NPU 卡死但進(jìn)程還活著”的場景特別有效。3.2 RKNN 運(yùn)行時的超時檢測與自動重初始化RKNN 的rknn_run默認(rèn)是同步阻塞調(diào)用的如果 NPU 內(nèi)部出現(xiàn)了異常這個調(diào)用可能永遠(yuǎn)不返回。你寫再多的心跳代碼也走不到心跳那里。所以我在封裝 RKNN 推理時會把推理放到獨(dú)立線程里用帶超時的 join 去檢測一旦超時就認(rèn)為 NPU 已卡死進(jìn)入恢復(fù)流程std::futurecv::Mat future std::async(std::launch::async, [this] { return infer(frame); // 內(nèi)部調(diào)用 rknn_run }); if (future.wait_for(std::chrono::seconds(5)) std::future_status::timeout) { // 推理超時判定 NPU 卡死 recover_from_npu_hang(); return; } cv::Mat result future.get();恢復(fù)流程recover_from_npu_hang()做幾件事先把舊的推理進(jìn)程退出調(diào)用rknn_destroy釋放 NPU 上下文如果還能調(diào)用的話實在不行就直接exit(0)讓 systemd 重啟整個服務(wù)。然后把/dev/rknpu設(shè)備節(jié)點(diǎn)重新 bind/unbind 一次把 NPU 驅(qū)動復(fù)位echo 0 /sys/class/misc/rknpu/device/remove echo 1 /sys/class/misc/rknpu/device/remove注意/dev/rknpu設(shè)備節(jié)點(diǎn)的路徑在不同 SDK 版本里可能不一樣有的叫rknpu有的叫mpp_service需要先確認(rèn)一下你們板子的實際情況。復(fù)位 NPU 驅(qū)動后再重新rknn_init加載模型繼續(xù)推理。這個過程最好能自動完成不需要重啟整機(jī)恢復(fù)正常的時間控制在 10 秒以內(nèi)業(yè)務(wù)中斷的感知就很小了。3.3 進(jìn)程崩潰后的現(xiàn)場保留進(jìn)程崩潰后第一件事不是急著拉起來而是把現(xiàn)場保護(hù)好。我只說一個點(diǎn)coredump 一定要開但要寫到內(nèi)存盤上不能寫 eMMC。否則每次崩潰都往 eMMC 寫幾百 MB core 文件寫幾次 eMMC 就廢了。我的做法是# /etc/systemd/coredump.conf [Coredump] Storageexternal Compressyes # 把 coredump 臨時保存到 /tmptmpfs重啟后自動清空配合掛載一個 tmpfs 到/var/log/coredumptmpfs /var/log/coredump tmpfs defaults,size256m,mode0755 0 0這樣崩潰時 core 文件先落內(nèi)存盤不影響 eMMC如果現(xiàn)場非常重要再通過網(wǎng)絡(luò)把 core 傳到遠(yuǎn)端。很多團(tuán)隊的設(shè)備一到現(xiàn)場就頻繁崩潰但 Log 里什么都沒有就是因為 coredump 沒開或者開了直接寫壞存儲。4. 散熱與供電防止“慢性死亡”講完了看門狗和應(yīng)用層守護(hù)可能有人覺得夠了。但我的經(jīng)驗是真正的“不死機(jī)”有一半功夫要花在散熱和供電上。白天 NPU 滿載還好到了滿載幾個小時后如果沒有合理的溫控策略RK3588 會熱到降頻甚至直接高溫關(guān)機(jī)。這種問題不是突發(fā)性的而是“溫水煮青蛙”——系統(tǒng)越來越慢最后悄悄死給你看。4.1 PWM 風(fēng)扇控制與轉(zhuǎn)速讀取RK3588 開發(fā)板一般都有 PWM 風(fēng)扇接口內(nèi)核驅(qū)動是pwm-fan。我在設(shè)備樹里是這樣配的pwm13 { status okay; pinctrl-names active; pinctrl-0 pwm13m1_pins; }; fan: pwm-fan { compatible pwm-fan; #cooling-cells 2; pwms pwm13 0 50000 0; /* 50kHz 頻率 */ cooling-min-state 0; cooling-max-state 255; };這里的核心參數(shù)是pwms里的 period也就是 PWM 頻率。不同風(fēng)扇對頻率的要求不同但我測過的大部分 4 線 12V 風(fēng)扇在 25kHz~50kHz 之間都能正常工作。太低的頻率比如 1kHz會有明顯噪音太高的頻率100kHz 以上風(fēng)扇驅(qū)動芯片可能跟不上。然后是讀取風(fēng)扇轉(zhuǎn)速。很多 4 線風(fēng)扇的轉(zhuǎn)速反饋引腳FG可以直接接 RK3588 的 GPIO用pwm-capture或者 GPIO 中斷的方式測量。但我更推薦用hwmon的方式RK3588 的 SDK 里通常已經(jīng)支持了風(fēng)扇轉(zhuǎn)速的 hwmon 節(jié)點(diǎn)cat /sys/class/hwmon/hwmon0/fan1_input如果輸出一個 RPM 數(shù)值說明測速功能正常。如果沒有這個節(jié)點(diǎn)就需要檢查一下風(fēng)扇的 FG 引腳是否接到了正確的 GPIO 上以及內(nèi)核有沒有開CONFIG_SENSORS_PWM_FAN或者你們需要的gpio-fan驅(qū)動。轉(zhuǎn)速讀取的價值不只是讓你知道風(fēng)扇轉(zhuǎn)沒轉(zhuǎn)更關(guān)鍵的是可以做風(fēng)扇失效檢測。當(dāng) PWM 輸出已經(jīng) 100% 但轉(zhuǎn)速始終為 0說明風(fēng)扇卡住了或者掉線了必須立即告警否則芯片溫度會直線飆升。4.2 溫控策略別讓芯片扛到最后RK3588 芯片的結(jié)溫上限一般是 105℃ 左右但長期跑在 85℃ 以上不僅加速器件老化還有可能觸發(fā)內(nèi)部熱保護(hù)直接斷電。我的溫控策略是在用戶空間寫一個守護(hù)線程直接讀 SoC 溫度做分級控制import os import time def read_temp(): with open(/sys/class/thermal/thermal_zone0/temp) as f: return int(f.read().strip()) / 1000.0 def set_fan_duty(duty): # 通過 pwm-fan 的 cooling device 或者 sysfs 設(shè)置占空比 with open(/sys/class/hwmon/hwmon0/pwm1, w) as f: f.write(str(duty)) while True: temp read_temp() if temp 45: set_fan_duty(0) # 停轉(zhuǎn)安靜省電 elif temp 60: set_fan_duty(80) # 低轉(zhuǎn)速 elif temp 75: set_fan_duty(160) # 中轉(zhuǎn)速 else: set_fan_duty(255) # 全速壓溫度 time.sleep(5)閾值可以根據(jù)實際機(jī)型微調(diào)但思路是留出冗余在 75℃ 就已經(jīng)全速散熱不要等到 90℃ 才慌。另外如果你的設(shè)備是靜音優(yōu)先的場景可以考慮把 45℃ 這個停轉(zhuǎn)閾值調(diào)高到 50℃但一定要配合風(fēng)扇失效檢測否則夏天必出事。還有一點(diǎn)RK3588 有thermal-zones的被動降頻策略建議在 devicetree 里打開讓內(nèi)核在溫度過高時主動給 CPU/GPU 降頻而不是硬扛thermal_zones { soc_thermal { trips { cpu_cooling: cpu_cooling { temperature 75000; hysteresis 5000; type passive; }; }; cooling-maps { map0 { trip cpu_cooling; cooling-device cpu0 THERMAL_NO_LIMIT THERMAL_NO_LIMIT; }; }; }; };4.3 供電與硬件防護(hù)軟件做再好供電不行全白搭。RK3588 在滿負(fù)載時核心電壓對電源紋波極其敏感我碰到過一個案例設(shè)備白天跑得好好的一到晚上就隨機(jī)重啟查了半天最后發(fā)現(xiàn)是客戶配的劣質(zhì) DC 適配器紋波超標(biāo)電壓一波動芯片就復(fù)位。所以硬件選型上電源部分至少要滿足三個要求輸入電壓要留足余量標(biāo)稱 12V 供電實際要能扛住 9V~16V 的波動。很多開發(fā)板用的 DC-DC 方案輸入范圍就是 9~24V但有些精簡方案只在 12V 附近能穩(wěn)住。輸出紋波要小CPU 核心供電VDD_CPU的紋波最好控制在 50mV 以內(nèi)否則高頻負(fù)載變化時系統(tǒng)會隨機(jī)復(fù)位。要有過壓/反接保護(hù)鄉(xiāng)村、工控現(xiàn)場的市電環(huán)境很差插錯電源是常事硬防護(hù)必須做。如果成本允許建議加一個簡單的電源監(jiān)控芯片比如 INA226在應(yīng)用層定期讀電壓電流一旦發(fā)現(xiàn)輸入電壓異常波動就主動告警把問題暴露在“死機(jī)之前”。5. 存儲保護(hù)與日志策略延長 eMMC 壽命防止日志寫爆很多 RK3588 設(shè)備出廠配的是 eMMCTLC 顆粒擦寫壽命大概在 3000~5000 次 P/E 之間。如果系統(tǒng)跑一些頻繁寫日志的軟件每天寫幾十 GBeMMC 很快就廢了然后就是各種詭異故障文件系統(tǒng)只讀、應(yīng)用啟動報錯、系統(tǒng)隨機(jī)重啟。這些都是慢性病等到你發(fā)現(xiàn)的時候往往只能返廠換板了。5.1 根文件系統(tǒng)只讀化能讀就不寫我的設(shè)計原則是能只讀的絕對不讀寫。根文件系統(tǒng)掛載為只讀/var、/tmp、/run這些動態(tài)目錄掛到 tmpfs所有需要持久化的數(shù)據(jù)集中到/data分區(qū)。具體做法是把根文件系統(tǒng)做成 squashfs 或者 ext4 只讀分區(qū)然后用 overlayfs 提供一個小規(guī)模的可寫層mount -t squashfs -o loop /dev/mtdblock0 /mnt/ro # 或者 ext4 ro mount -t tmpfs tmpfs /mnt/rw mount -t overlay overlay -o lowerdir/mnt/ro,upperdir/mnt/rw/upper,workdir/mnt/rw/work /這樣程序只能往內(nèi)存里寫重啟后所有修改自動丟棄從源頭上杜絕了“日志寫滿磁盤”的可能。需要持久化的配置和數(shù)據(jù)明確寫到/data分區(qū)并且做好掉電保護(hù)。這個方案唯一的副作用是現(xiàn)場臨時改配置變得有點(diǎn)麻煩。但換個角度想這也倒逼你把配置項通過 web 界面或者遠(yuǎn)程統(tǒng)一管理而不是每次都用 SSH 上去 vi 一通改。5.2 日志輪轉(zhuǎn)與內(nèi)存緩沖如果因為業(yè)務(wù)原因必須寫日志到磁盤至少做到兩點(diǎn)限制大小、及時輪轉(zhuǎn)。我通常用logrotatesystemd-journald配合journald 本身已經(jīng)有大小限制功能# /etc/systemd/journald.conf SystemMaxUse128M RuntimeMaxUse32M SystemMaxFileSize32M MaxRetentionSec3day ForwardToSyslogno這個配置把 journald 的總量控制在 128MB 以內(nèi)避免它無限膨脹。業(yè)務(wù)日志如果走syslog或者直接寫文件也要在應(yīng)用層做好 max size 控制超過就滾動。還有一個很實用的做法日志先寫內(nèi)存盤定期同步到遠(yuǎn)端。把/var/log掛成 tmpfs應(yīng)用和方法和之前的 coredump 一樣。然后寫一個腳本每 5 分鐘檢查一次日志目錄有需要?dú)w檔的內(nèi)容就通過 MQTT 或者 HTTP 上報到運(yùn)維平臺上報完把這個文件刪掉。這樣日志既不會丟遠(yuǎn)端有也不會傷 eMMC。5.3 異常掉電防護(hù)工業(yè)現(xiàn)場最怕的其實是“寫一半斷電”。文件系統(tǒng)層最穩(wěn)妥的方案還是 ext4 開 journaltune2fs -O journal_data_ordered /dev/mmcblk0p6如果用的是 overlayfs 的可寫層tmpfs斷電其實無所謂內(nèi)存直接清空。但data分區(qū)如果直寫 ext4掉電后有可能損壞。所以我建議 data 分區(qū)采用“先寫臨時文件fsync再 rename 覆蓋”的方式保存配置避免原地修改主文件時掉電導(dǎo)致文件損壞FILE *tmp fopen(/data/config.yaml.tmp, w); fprintf(tmp, key: value\n); fclose(tmp); sync(); rename(/data/config.yaml.tmp, /data/config.yaml); sync();這算是嵌入式 Linux 上最實用、最可靠的掉電安全寫文件方式了簡單但極其有效。6. 常見問題排查與避坑速查看完前面的內(nèi)容按部就班把這些機(jī)制搭起來設(shè)備大概率已經(jīng)比較穩(wěn)了。但調(diào)試過程中一定會踩到各種奇奇怪怪的坑。我把常見的幾個寫下來省得大家再走一遍彎路。6.1 開機(jī)報 “cant find suitable delayline” 是什么問題這個錯誤在 RK3588 上很常見很多人一搜出來就慌了以為板子壞了。其實這是 RK3588 的rockchip_drm驅(qū)動在初始化時嘗試去查找某個顯示接口的 delayline 校準(zhǔn)參數(shù)失敗。多數(shù)情況下是 devicetree 里沒有包含對應(yīng)的board.dtsi參數(shù)或者是顯示時序配置里缺了delayline相關(guān)字段。如果設(shè)備不接顯示屏、不跑 HDMI這些報錯通常不影響正常運(yùn)行可以直接忽略。但如果你的設(shè)備需要 HDMI 輸出就要去 devicetree 里補(bǔ)齊對應(yīng)端口的參數(shù)hdmi0_in_vp0 { status okay; }; hdmi0 { pinctrl-names default; pinctrl-0 hdmim0_tx0_cec hdmim0_tx0_sda hdmim0_tx0_scl; };注意不同開發(fā)板的 pinmux 可能不同這個要根據(jù)你的板子原理圖來確認(rèn)。遇到這類問題我的建議是先確認(rèn)功能是否受影響不受影響就不用管。6.2 網(wǎng)絡(luò)連接受限 / 網(wǎng)絡(luò)假死RK3588 設(shè)備跑著跑著 SSH 連不上了、Ping 不通但設(shè)備的串口界面還有響應(yīng)這是邊緣設(shè)備最常見的“假死”現(xiàn)象。排查思路按順序來先看dmesg里有沒有網(wǎng)卡驅(qū)動報錯比如 RTL8211F 這種 PHY 芯片在弱電環(huán)境下偶爾會掛掉。檢查是不是省電策略把網(wǎng)卡休眠了。很多 SDK 默認(rèn)開了ethtool的節(jié)能特性現(xiàn)場環(huán)境下網(wǎng)絡(luò)稍有波動就觸發(fā)網(wǎng)卡掛起。直接關(guān)掉ethtool -s eth0 autoneg on duplex full speed 1000 ethtool -K eth0 tx-checksum-ip-generic off如果還是不定期斷網(wǎng)建議在應(yīng)用層加網(wǎng)絡(luò)質(zhì)量巡檢每 30 秒 Ping 一次網(wǎng)關(guān)連續(xù) 3 次超時就把網(wǎng)卡 down 掉再 up 一遍。ifconfig eth0 down sleep 2 ifconfig eth0 up這個土辦法治“網(wǎng)卡假死”特別有用實際效果立竿見影。6.3 啟動進(jìn) recovery / maskrom 后怎么辦RK3588 的刷機(jī)模式有兩種Recovery 模式和 MaskROM 模式。Recovery 模式按住 recovery 鍵再上電用于日常固件升級MaskROM 模式一般出現(xiàn)在 loader 損壞、固件刷壞的情況下。如果你的設(shè)備啟動進(jìn)不了系統(tǒng)而是被識別為 MaskROM 設(shè)備別慌先用 USB Type-C 線連電腦打開 RKDevTool重新燒錄完整的 Loader 和固件。從我踩過的坑來看最容易導(dǎo)致進(jìn) MaskROM 的情況是燒錄過程中突然斷電、或者用了和板子不匹配的 Loader/miniloader。所以我強(qiáng)烈建議量產(chǎn)前把 loader 文件和固件打包鎖定不要讓現(xiàn)場人員隨意用新版工具去刷否則很容易出現(xiàn)兼容性問題。6.4 miniloader.bin 版本不匹配如果你用的是自己編譯的 U-Boot 或者從網(wǎng)上拉的新版工具鏈燒錄時經(jīng)常遇到miniloader.bin報錯或者燒完起不來。原因通常是 SDK 版本和燒錄工具版本不匹配。處理辦法很簡單——用什么 SDK 編出來的 loader就用那個 SDK 配套的燒錄工具不要交叉使用。Rockchip 官方的工具版本很多但每個版本的 miniloader 和 ddrbin 都跟具體芯片和系統(tǒng)版本強(qiáng)相關(guān)混用很容易翻車。6.5 問題排查速查表現(xiàn)象可能原因優(yōu)先排查方向運(yùn)行幾小時后整機(jī)無響應(yīng)內(nèi)存泄漏 / 內(nèi)核鎖死檢查OOM日志、dmesg尾部、top內(nèi)存占用NPU 推理越跑越慢散熱不足導(dǎo)致降頻查看thermal_zone0溫度、風(fēng)扇轉(zhuǎn)速斷電后起不來eMMC 分區(qū)損壞進(jìn)入 MaskROM 重刷固件風(fēng)扇不轉(zhuǎn)但機(jī)器沒死風(fēng)扇控制失效 / 溫控策略未生效手動寫pwm1測試日志刷屏導(dǎo)致系統(tǒng)卡頓驅(qū)動反復(fù)報錯檢查dmesg關(guān)掉或降級出問題的外設(shè)驅(qū)動WiFi/以太網(wǎng)頻繁斷開省電策略 / 供電不足關(guān)節(jié)能ethtool -K、檢查電源功率這套表是我整理給自己團(tuán)隊線上排障用的基本可以覆蓋現(xiàn)場 90% 的難題。做邊緣 AI 設(shè)備拼的從來不是誰算法刷榜高而是誰能讓設(shè)備在無人看守的角落里安安穩(wěn)穩(wěn)跑上一年。RK3588 本身底子很好用好了它能成為非??煽康倪吘壦懔ζ脚_希望這些經(jīng)驗?zāi)軒湍闵僮咭恍澛贰W詈笤賳乱痪淙魏问刈o(hù)機(jī)制都要先做故障注入測試——手動 kill 進(jìn)程、拔掉風(fēng)扇、斷電、寫滿內(nèi)存——確認(rèn)設(shè)備都能自愈才算真正的“守護(hù)”。祝大家的設(shè)備都能安穩(wěn)運(yùn)行。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91丨九色丨国产打屁股| 97成人操| 婷婷五月综合激情免费视频| 色五月首页| 热99在线| 一区二区乱码视频| 五月激情六月婷婷| 五月丁色AV| a毛片二逼wwwwwwwwww| 色5月丁香婷婷| 99色色网站| 日韩伊人大香蕉| 婷婷天天日婷婷| 五月婷婷激情综合视频| 先锋男人99资源| 久久免费丁香| 婷婷丁香色性爱| 色玖玖| 久久视频九九视频| 丁香婷婷久久激情| 婷婷丁香社区网| 噢美99| 九九99久久| 99性爱视频网站| 久久激情视频99| 在线亚洲综合| 色婷婷久久7777| 五月激情在线| 婷婷久久综合久| 99热资源在线| 色婷天天| 六月婷婷激情图片| 婷婷五月情| 性生活久久人妻| 婷香五月| 久久机热这里只有精品免费视频| 五月激情啪啪| 这里只有精品视频视频在线观看| 色色五月丁香| www.激情五月天。com| www狠狠爱com| 91啪啪啪啪| 九九九激情综合| 激情六月综合| 99综合网| 五月婷视频| 亚洲激情av| 色三级色三级| 99热欧美| 中文字幕日本最新乱码视频| 伊人激情综合| 午夜九九九九九九九九九九九九九| 日韩有码一区| 婷婷五月色色| 久久三级视频| 热无码A∨| 婷婷丁香五月天婷婷| 琪琪色热色色| 99色精品视频| 天天天天做夜夜夜夜做| 丁香婷婷视频在线| 成人丁香五月| 一二线视频 另类| 婷婷色婷婷| 五月丁香网站| 97色射| 激情综合丁香六| 日韩中文字幕| 91九色无码内射| 在线亚洲综合网| 丁香香蕉婷婷| 五月六月婷婷激情网| 丁香五月六月久久综合| 色99综合视频| 五月天婷婷爱| 欧美日本日韩| 久久天堂精品| 99热欧| 色狠狠六月| 色五月婷婷、老熟女| 色狠狠综合| 久8色色| 国产日韩亚洲欧美在线观看| 日韩狠狠色| www.久久久.com| 91婷婷| 久久这里只精品| 国产乱子轮XXX农村| 四季8848精品成人免费网站| 97色永久免费视频| 国产精品国产VA片国产| 97人人看| 久婷婷视平| 99久超碰| 丁香成人色情五月天| 亚洲人妻电影| 久久婷婷六月综合国际| 九九青青草成人| 精品网站99| 五月婷婷丁香狠狠撸久久| 久久婷婷五月综合激情国产| 婷婷中文字幕欧美| 久久色五月天| 综合激情五月婷婷| 极品嫩草| 六月亚洲| 99热精品在线| 91黄址| 深爱激情网婷婷| 五月成人天| 大香蕉AV在线| 99热国产婷婷| 婷婷五月天首页| 色女人久久| 亚洲国产精品SUV| 99在线小视频| 五月丁香狠狠| 国产亚洲精品久久久久久久久动漫 | 激情五月天久久| 久Se视频在线观看| 国产精品VA在线| www狠狠| 99久免费视频| 无码人妻一区| 99热97美女| 伊人春天av| 可以看的AV| 五月天婷婷综合| 婷丁香五月天| 五月丁香花视频| 欧美三级巜人妻互换| 26.uuu丁香五月婷婷| 婷婷五月综合激情小说| 久热久| 国产婷婷综合| 丁香五月先锋| 久久久久8888| 婷婷色丁香五月| 嫩草哈哈操| 人妻系列久久久久久久久久久| 神马欧美精| 久久综合9| 亚洲性爱干干| 夜精品无码A片一区二区蜜桃| 中文字幕永久免费| 这里只有精品视频99| 91碰超| 亚洲婷婷免费| 操久久精| AV在线中文| 99日逼视频| 九九热精品6| 风流少妇A片一区二区蜜桃 | 色五月综合激情| 五月丁香在线观看99| 综合网视频| 91久女| 丁香五月第九色| 99视频精品在线| AV在线观看网站| 国产无人区大片| 69综合在线| 九九爱激情| 国产精品久久久久久久久久| 色婷婷激情五月天在线观看| 婷婷综合偷拍| 成人电影一区| w婷婷五月婷婷w| 久久思思热| 久久这里面只有精品视频| 色婷婷五月天在线观看| 欧美97p| 九热网站| 色婷婷www| 成人五月天丁香婷| 五月婷婷丁香| 五月激情站| www.9797国产| 五月综合久久| 天天日天天日天天搞| 狠狠干.com| 激情六月日韩| 久操人妻| av操B网站| 日本色色色| 99九精品| 日本欧美成人片AAAA| 丁香色啪综合| 五月婷婷综合影院| 99在线精品视频| 五月丁综合在线观看| 婷婷中文字幕欧美| 久久久五月天| 狠狠色噜噜| 欧美操逼天堂| 风流少妇A片一区二区蜜桃| 久久 视频这里只有精总| av在线观看网址| 五月天堂婷婷| 婷婷丁香五月综合激情视频| 欧美激情综合| 婷婷激情五月天小说| 97色碰| 天天艹夜夜爽| 96精品久久久久久久久| 五月婷久久久久综合| 人。妻久久| 日韩999| 久久97久久99久久综合欧美| 色停停香蕉视频| 五月丁香六月婷婷色| 婷婷中文字暮| 免费观看全黄做爰的视频| 婷婷国产成人| 99精品在线下载| 久大香蕉| 九九成年视频| 乱精品一区字幕二区| 丁香 亚洲 久久| 夜夜www| 色综合久久综合| 激情五月婷婷| 99啪啪| 婷婷五月激情在线| 五月亭亭六月色| 99视频在线看| 超碰人人在线观看| 一本色道久久88加勒比| 99热97| 五月天狠狠| 激情婷婷五六月天| 丁香五月婷婷狠狠色| 美女被肏网站在线看| 激情综合网五月婷婷| 婷婷综合激情| 九九视频这里只有精品| 五月激情久久综合网| 日韩色色小视频| 色综合av超碰| 青草青草久9视频在线视频| 色五月婷婷在线| 五月丁香婷草| 久久久久婷| 国产精品激情五月天色婷婷| 婷婷丁香五月天综合网| 电影蜘蛛女| 超碰无码318604| 丁香五月婷婷激情四射深爱激情| 亚洲亚洲人成综合网络| 色噜噜狠狠色综无码久久合欧美| 99热国品| 怎么样可以看免费的一级av| 五月婷婷啪啪啪啪| 五月婷婷综合在线视频| 碰碰碰碰碰99| 国产a视频| av免费在线观看0| 五月婷婷免费看| 国产古装妇女野外A片| 久热久| 天天色99| 久久九九网| 欧美久久网| 激情综合五| 99re热视频这里只精品5| 亚洲mm色| 婷婷网五月| 久久奄也去色色网站| 天天日日人| 五月丁香爱婷婷深深| 99自拍视频| 中文字幕在线资源| jiujiu无码五区| 99'无码| 九九热视频网站| 91免费在线视频6| 色七色九九| 五月天婷a在线| 这里只有精品99视频| 国内婷婷丁香社区在线播放| 久8色色| 色色cOm| 五月婷婷丁香综合网| 日本不卡五月婷婷丁香| 丁香婷婷激情六月五月开心| 另类视频在线| 亚洲无AV在线中文字幕| 日韩有码久久| 丁香六月婷婷综合激情欧美 | 丁香五月综合色婷婷| 色五月丁香五月激情五月激情| AV堂狠狠干| 青青操avbb| 深爱激情久久| 99综合| 色欲色香综合网| 国产亚洲精品久久久久久牛牛| 日产精品一线二线三线芒果| 欧美乱码国产一级A片| 99热在线精品观看| 五月婷深深爱激情网| 亚洲日韩欧美综合VA| 国产成人av在线播放| 色激情五月天| 狠狠 久久| 色综合婷婷| 夜夜天天久久婷婷| 五月婷婷深深爱| 99爱在线视频| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 狠狠草狠狠草| 婷婷导航| 欧洲亚洲免费视频9| 狠狠干2007| 色五月婷婷在线观看| 五月婷在线| 日日噜噜夜夜狠狠久久丁香五月| 色人久久| 99久久网站| 精品人妻伦一二三区久久| 久久丁香婷婷色情综合| 狠狠婷婷爱| 六月激情综合| 影音 五月 婷婷 久久| 亚洲综合视频网| 五月丁香婷婷成人伊人网| 欧洲色色| 九月性爱网| 99热精品在线播放| 色偷偷五月天| 久久久日韩特色特黄AAAA| 久久综合爱| 丁香成人视频| 天堂美国久久| 丁香婷婷久久老熟女综合网| 亚洲无码99| 久99久99精品免| 丁香五月亚洲综合| 性无码专区无码| 亚洲成人AV在线播放| 色六月视频| 丁香五月AV| www.五月婷婷.com| 久久9精品视频| 日本久碰| 五月亭亭六月天| 麻豆观看夏晴子| 久久精品性爱视频,| www.色婷婷| 开心五月婷婷伊人| 色丁香六月| 丰满老熟妇BBBBB搡BBB| 久草五月天电影网| 99在线精品免费视频| 91久久久久久久| 99热这里只有精品99| www99精品日韩| 色播五月丁香婷婷| 九九九九操逼| 激情小说五月天中文字幕| 婷香五月激情视频| 欧美色色色色色色色色色色影视| 99免费视频| 91日本在线观看| 五月天激情久久| 欧美日韩成人在线网| 久久99网| 色婷婷狠| 久久激情综合| 5月婷婷激情6月| 青草青草视频2免费观看| 色五月开心婷婷| 色五月五月婷婷| 五月丁香啪啪网| 丁香六月综合激情| 婷婷五月天在线综合导航| 人人摸人人干| 精品色色网| 黄色中文字目| 欧美日韩aaa| 日本99视频精品免费播放| 久久久久久人妻| 精品网站:999WWW| 99玖玖在线视频| 伊人激情综合网| 日本综合久久| 国产一级婬片毛片| 懂色av蜜臀av粉嫩av永陈冠希| 婷婷五月天综合在线| 五月丁香六月婷婷综合| 五月婷婷婷婷| 久久aaaa片一区二区| 欧美日韩国产成人在线| 色五月超碰| 六月丁香婷| 亚洲国产无线乱码在线观看| 丁香桃色网| 欧美色图天堂网色| http:色情日本com| 丁香五月影院| 久一这里有精品国产| 五月婷婷综合激情小说| 欧美天堂久久| wwccc久久久| 99热很操老逼| 亚洲无码99| 成人视频婷婷| 丁香婷婷激情综合五月激情| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 狠狠久久婷五月综合色| 极品另类| 五月日韩中文字幕| 婷婷久久五月丁香| 久久性爱视频久久性爱视频| 91男同| 亚洲网在线观看| 99热这里只有精品8| 超碰人人草| 色啦啦视频| 超碰99热精品| 五月天激情开心网| 久久这里只有精彩| 六月婷婷网| 99久久婷婷| 色激情五月| 婷婷久久五月| 欧美综合123区| 色色综合网www| 日本精品99网站| 久久久久人妻精选| 精品九九在线观看| 激情九月综合| 色婷久| 亚洲综合色婷| 婷婷综合| 99思思| 天天爽天天摸天天爱| 日韩人妻无码一区二区| 成人视频一区| 91ncm视频| 色综合久久久综合久久网| 男女99免费视频| 亚洲狠狠干| 午夜精品777| 狠狠操狠狠爱| 9l视频自拍九色9l视频自拍九色9l社区| 人五月天婷婷喷水| 国产午夜成人免费看片无遮挡| www.99热视频| 九九热99免费视频| 色5月丁香婷婷| 丁香五月六月激情| 五月丁香婷婷啪啪综合网| 色五月婷婷激情综合网| 婷婷色导航| 97在线天堂| 4399无码视频| 国产精品99久久久久久久女警 | 丁香婷五月| 国产成人AV在线| 高清 码 免费看片短视频| 9999热免费视频视频| 亚州美女| 99久热| 色五月激情综合网| 婷久久| 色播激情五月天| 好激情在线综合网| 五月天五月色| 91操操操| 综合性视频99| 婷婷情色激情| 天天射色五月天| www.色窝| 国产精品婷婷午夜在线观看| 天天干天天色天天干| 精品色情一区二区三区四区| 最新激情五月天| 欧美激情五月综合| 偷偷狠狠久久婷婷五月天| 538任你爽| 六月婷婷九月丁香| 婷婷99中文字幕| 97sese婷婷| 综合另类激情| 色婷婷玖玖影院| 色欲色香,www,com| 1024手机在线观看看片_日韩精品| 9婷婷内射| 色色影院黄大片| 久久色五月| 人妻视频在线| 桃色Av色哟哟| 开心五月婷| 播五月丁香六月| www.国产色| 成人在线视频一区| 久久久精品人妻| 亚洲色综合| 国产激情久久久| 中字幕视频在线永久在线观看免费| 五月天丁香| 亚洲V国产V欧美V久久久久久| 激情五月成年| 天堂爱啪啪| 97色永久免费视频| 五月天自拍视频| 天天干天天叉| 欧美色色色色色色色| 婷婷丁香人妻天天爽| 96丁香六月婷婷蜜桃综合久久| 婷婷五月综合在线| 涩 五月 婷婷 狠狠| 色九月国产| 99re热精品在线视频| 五月天色婷婷图片| 色婷婷丁香五月| 天天日,天天插| 欧美情色电影一区二区| 啪啪操操| 另类天堂| 六月亭亭久久综合激情| 538在线精品| 狠狠精品干练久久久无码中文字幕| 99欧美精品99日本精品| www.yw尤物| 热99这里只有精品视频| 玖玖婷婷五月天| 免费黄网不卡AV| 狠狠99| 色丁香五月婷婷婷| 美国十月色婷婷在线观看| 五月婷婷色色| 亚洲激情六月丁香| 精品无码人妻一区| 九九99九九99| 97人人操人人插| 国产韩日亚洲美州欧亚综合在线| 99热99色| 久久人妻熟女一区二区| 99性视频| 久久免费精彩视频| 99在线精品免费视频| 丁香婷婷五月激情| 天天日天天草| 超碰人人摸人人操| 婷婷在线五月天观看| 激情人妻综合| 51精品国内探花| 激情婷婷人妻| 狠狠做深爱婷婷久久综合一区| 草榴视频黄色网| 97丁香五月天| 91狠狠综合久久久久久| 99ri视频在线播放| 天天天久久人人人合| 五月丁香在线| 玖玖综合色| 激情综合国产| www.99热精品| 天天日天天干天天爽| 天久综合91综合首页| 日本a片网址| 婷婷色五月激情强奸四射| 久热9热| 狠狠狠五月婷婷六月丁香| 99视频只有精品| 色婷婷欧美| 五月天综合在线| 97亚洲精品| 五月丁香六月婷婷网站| 成人无码髙潮喷水A片| 日韩成人电影AV| 五月婷精品| 玖玖婷婷婷丁香五月| 色偷偷狠狠| 国产女18毛片多18精品| 伊人五月天婷婷| 熟女人妻视频| 天天成人丁香美女AV| 九九在线视频| 五月天免费色| 在线播放人妻| 丁香5月婷婷| 玖玖99婷婷| 五月丁香婷婷俺| 丁香五月亚洲综合丝袜| 激情久久综合网| 九九色插| 国产成人亚洲综合A∨婷婷| 五月婷婷综合网| 嫩草综合网| 亚洲亚洲人成综合网络| 超碰在线看| 五月丁香色色网| 久久五月天激情婷婷| 日本久久网| 综合在线网| 最近中文字幕2019视频1| 午夜无码精品色综合久久| 婷婷综合中文| 五月丁香欧美综合| 综合99久久| 狠狠色成人影片| 婷婷丁香第一页| 91黄色五月天视频| 91午夜激情| 九九热re99re6在线精品| 第四色激情网| 色五月天综合| 92久操视频| 激情久久综合| 26uuu国产精品| 狠狠色综合五月人人| 激情五月天影院| 国产 亚洲 在线| 97色色色| 久久999久久999久久999久久| 亚洲激情综| 99自拍视频| 就爱射中文字幕资源网| 99久久久久久www| 99久久综合网| 色在线视频网2025| 99热九九这里只有精品| 免费观看高清无码| 九九婷婷网五月天| 五月天玖玖狠狠色色| 在线不卡中文字幕| 国产日韩欧美| 99热亚洲精品| 我爱va亚洲va52| 婷婷刺激综合| 久久婷婷综合五月| 97综合在线| 一本久久亚洲五月婷婷| 亚洲激情婷婷| 好吊兆人妻| 老司机伊人| 99亚洲色| 欧洲激情网站| 激情五月,激情综合网| 久久草大香蕉| 91九色欧美| 国色天香伊人狠狠色| av在线观看网站| 伊人天堂婷婷| 嫩BBB槡BBBB搡BBBB| 五月丁香亭亭| 欧美色欲色欲天天天www| 国产91视频| 青青草青青草五月天| 99久久极情精品一区| 婷婷天天婷婷天天澡| 五月丁香综合久久| 九九热超碰| 色五月婷婷天堂| 99国产在线精品视频| 另类视频一区| 五月婷婷丁香狠狠撸久久| 亚洲色色图片| 91操操| 另类图片激情五月| 午夜日韩久久久网站| 日韩av一区二区在线/日产精品久久久| 成人在线不卡| 五月丁香在线| 丁香婷婷影院| 一起草性爱不卡视频| 99在线视频免费| 、激情六月天| 亚洲综合99| 六月丁香啪| 青青操成人福利| 五月丁香婷婷欧美色图视频五月丁香777电影 | 五月丁香久| 亚洲色婷婷久久99精品91| 天天爱天天爽| 俺去也五月天| 婷婷五月成人| 搡BBBB搡BBB搡18| 99热亚洲精品| 久久伊人五月天| 99久久综合| 色色色综合色| 五月天婷婷综合| 婷婷六月丁| 啊v视频在线观看| 97在线精品| 国产精品扒开腿做爽爽爽A片唱戏| 曰日爽日日操| 99在线精品免费视频| 97超级碰碰碰| 日韩综合成人| 久久9热好| 久久久久久综合88| 五月丁香六月激情| 5月丁香六月婷婷| 91碰免费视频| 色色色国产| 99热都是精品| 色综合五月婷婷狠狠干| 3p日韩网站视频| 老司机午夜福利视频金瓶梅| 亚洲性爱干干| 日日狠狠久久偷偷四色综合免费| 99无吗| 激情丁香五月| 久久久99视频| 日韩操人| 丁香久久在线| 91丨九色丨国产在线| 五月婷婷激情| 精品久久人妻热| 另类小说五月天激情| 直接看的av| 久热黄色| 青青草视频免费观看| www.一区二区三区| 4399在线观看免费毛片| 只有精品视频在线观看| 99惹精品视频| 人人操AV| 欧美怡红院黄站| 久久精品女人天堂AAA| 中日韩狠狠色| 视频这里只有精品| 六月婷婷五月天| 91综合在线| 亚洲中文字幕AV在线| 99啪视频在线观看| 99色视频| 日日舔夜夜操| 色五月激情网| 狠干综合| 丁香婷婷久久激情| 人人草人| 97人人干人人操| 欧美日本不卡黄色片| 二色av| 亚洲男人的天堂婷婷色五月| 狠狠色婷婷7777久| 潘金莲AAAAAAAAAA| 大香蕉五月天| 五月婷婷婷婷网| 五月天成人综合| 激情五月丁香色色去久久| 亚洲色婷婷色| 开心激情网五月| a网站免费观看| 国产超碰人人| 婷婷五月丁香伊人| 激情五月综合网| 欧美久久网| 伊人五月天婷婷| 五月天综合视频| 激情五月天色婷婷综合| 五月色丁香激情| 99精品视频在线观看| 超碰男人色| www.五月天激情| 色噜噜狠狠色综无码久久合欧美| 国产91九色| 思思久热| 免费观看欧美成人AA片爱我多深 | 五月综合精品| 婷婷中文字幕| 色色色欧美| www.五月丁香| 99热在线播放精品| 婷婷丁香五另类网站| 丁香激情五月天| 五月丁香六月婷婷啪啪| 真实亲子乱子伦高清在线观看| 95精品区一区二| 婷婷成人综合| 啊V视频在线观看| 色综合久久88| 激情丁香五月天| 久久月天堂| 另类小说五月天激情| 白人荫道BBWBBB大荫道| 天天色天天搡| 丁香五月AV| 天天插天天玩天天干| 亚洲人妻av| 大香蕉天堂| 五月婷婷丁香瑟瑟视频| 日本高清不卡免费一区二区三区| 99久久综合精品五月天| 久久您您综合网| 色色丁香五月婷婷| 国产婷伊人| 激情五月六月丁香| 欧美丰满熟妇BBB久久久| 79亚洲精品少妇| 亚洲操人| 狠狠色噜噜狠狠狠888了| 免费观看全黄做爰的视频| 五月花成人网| 日本操B视频| 99热这里只有精品最新| 日本nghangse中文字幕| 蜜桃五月天| 亚洲AV另类| 色五月丁香婷婷久草| 人人妻人人澡| 99热婷婷| 久久婷婷六月综合资源| 久久五月天激情| 老司机伊人| 伊人玖玖网| 國語久久婷| 六月丁香成人| 色www久视频| 婷婷六月丁香欧美视频在线| 五月久久婷婷天堂视频| 色婷婷狠狠| 五月天伊人av| 69热91天堂| 可以免费观看的av| 五月丁香六月婷婷综合在线| 99在线精品免费视频| 天天插天天| 色色婷婷丁香五月天| 五月婷婷啪啪啪| 五月丁香拍拍激情综合| 色吧网综合| 91九色欧美| 99re熱| 五月丁香六月停停停| 色色色热热热| 激情五月天综合网| 国产美女无遮挡裸体毛片A片| 人妻精品久久久久久久| 色综合久久综合中文综合网| 天天做天天爱天天高潮| 深情五月天| 久热69| 大香蕉婷婷五月天| 五月天婷婷丁香花| 国产小网站| 六月丁香网| 开心五月丁香啪| 色综合久久综合| 婷婷五月天AV| 天天插天天操| 国产精品久久..4399| 色婷婷性爱网| 人人人操| 99视频只有这里精品| 五月天堂色| 狠狠色狠狠色综合日日91| 五月天激情四射| 中文网av| 五月欧美色播| 九久久精品视频99| 91人人人人人| 婷婷丁香六月| 天天操天天曰| 99热这里只有精品13| WWW.99视频| 久草九一| 亚洲午夜AV| 思思99久久| 五月天激情图| 欧美色色色色色| 大香蕉人人网| 2050人人操免费工开爱| 五月天开心网| 天堂久久婷婷| 婷婷五月天播播| www.日日日.com| 久99| 五月丁香网站| 99啪视频在线观看| 精品一二三区久久AAA片| 99视频在线| 99久在线精品99re5热视频| 人人视频色| 丁香九月综合| 97人人操人人干| 日韩无码人妻一区二区| 五月丁香婷婷伊人日韩| 天天日天天操心| 99精品综合| av网址在线| 97婷婷丁香| 天天舔天天操| 丁香激情综合| 五月涩涩网| 9这里只有精品| 操国产人妻| 色色色综合视频| 天天肏视频| 九九综合| 激情久久久久久久久久久| 婷婷五月天天激情| 欧美色偷偷大香| 日韩有码一区| www99精品日韩| 色就色94欧美setu| 成人国产欧美大片一区| 免费超碰在线观看| 日韩中文字幕| 色六月 婷婷| 无码人妻AV久久久一区二区三区 | 综合久久人妻| 亚洲综合色色色| 婷婷五月天日本无码| 26uuu亚洲欧美| 亚洲国产成人裸舞| 五月丁香淫淫婷婷婷| 99热这里只有的精品视| 久久一热| 思思热AV| 婷婷久月| 玖玖综合色| 伊人色综合网| 另类小说色婷婷| 成人综合网站| 久久久av久av久片一区二区| 97超喷视频在线观看| 九九久久偷拍| 五月丁香激情综合六月涩涩爱| 一区二区免费看| 99久久精彩视频。| 怕怕av| 婷婷五月色综合| 婷婷五月天激情网站| 丁香五月av| 久久精品9| 国产超碰在线| 91综合视频丁香| 极品另类| 色五月婷婷久久| 伊人国产婷婷五月天| www.六月丁香看AV| 五月丁香激情综合久久| 国产精品久久..4399| 少妇人妻偷人精品无码视频新浪| 97偷拍对白视频| 久久99精品日本| 国产精品久久99| www.丁香黄色五月天人与| 色综合伊人网| 婷婷五月色播放| 中文字幕在线aⅴ免费观看| 五月婷九九草| 五月天激情综合在线| 婷婷玉月丁香五月在线视频| 五月天激情久久| 另类视频一区| 99热8在线| 久久久久亚洲AV无码网影音先锋| 色噜噜狠狠色综合日日免费| 婷婷丁香五月亚洲免费| 五月丁香六月情| 草草夜夜操| 91黄址| 国产欧美日韩一区二区三区| 久久婷婷五月天激情四射| 成AV人片一区二区三区久久| 久久色吧| 天天摸天天爽| 五月丁香六月婷婷网| 99色婷婷| 香蕉乱插| 欧美色小说婷婷| 九九无码| 亚洲综合五月天婷婷| 亚洲婷婷丁香| 秋霞三及片| 97色婷婷| 99久久精品国产色欲| WWW.桔色成人.COM入口| 玖玖综合网| 亚洲第一影院高清无码网站| 丁香六月婷婷综合激情欧美| 九九热免费| 色婷婷丁香五月| 国产亚洲在线观看| 亚洲AV日韩在线观看| 蜜臀A∨在线水帘洞| 四月婷婷五月丁香| 五月天婷婷Av| 678五月丁香亚洲综合| 人人人操| 操逼综合网| 91婷婷五月天综合视频| 色香欲综合| 色色色区| 亚洲最大视频| 丰满少妇猛烈A片免费看观看| 99热99在线| 亚洲、热| 色伦专区97中文字幕| 思思热久久阴99| WWW,五月| 懂色av蜜臀av粉嫩av永陈冠希| 九九热这里只有国产精品| 91中文在线| 99热99色| 99性视频| 亚州操逼网| 色色色色网| 强奸幻女毛片| 九九热这里只有精品一| 免费看欧美成人A片无码 | 婷婷五月天成人五月天| 97五月久久丁香婷婷| 亚洲免费视频网站| 色婷婷狠狠18| 123日本不卡在线| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 激情五月九九九| 色色综合视频| 丁香五月婷婷香| 免费V片在线| 亚洲欧美国产高清vA在线播放| 大香蕉综合视频在线| 色色色色av777| 欧洲MV日韩MV国产| 狠狠色丁婷婷日日,伊人激情综合网| 99热亚洲| 狠狠色婷婷在线| 激情五月天丁香| 狠狠88综合久久久久噜噜噜| 荡乳尤物3HP1V5| 五月天婷婷在线啪啪视频| 欧美人与性动交CCOO| 中文字幕97超级碰| 久久色情| 人人色人人摸人人看| 亚洲五月花| 欧美色色色色色色色色色色影视| 人妻久久久| 91视屏在线观看com.wwwvv| 丁香五月天成人| 天天天摸夜夜夜玩| 亚洲影院婷婷色| 五月色影院| 亚洲午夜视频| www.jiujiujiu| 色噜噜狠狠色综合无码久久欧美| 乱精品一区字幕二区| 5月婷婷激情6月| txt五月激情四射网综合俺也来了| 五月婷婷第四色| AV在线大香蕉| 性综合网| 99re这里只有精品在线观看| 婷五月天丁香婷五月| 99人妻碰碰碰久久久久视| 婷婷激情五月| 综合五月天| 日韩色五月| 91狠狠综合久久久| 国产午夜精品AV一区二区麻豆| 色色综合视频| 狠狠色噜噜狠狠| 99色综合| 夜夜天天久久婷婷| 综合久久8| 色婷网| 欧美亚洲999| 亚洲无码免费看| 91人人操人人| 五月天自拍视频| 九九热re99re6在线精品| 五月婷婷婷| 91久久婷婷人人澡草| 一级二级色大片| 内射人妻视频国内| 色综合天天| 狠狠色婷婷在线| 六月丁香天堂| 97操碰视频| 婷婷香五月综合激情| 综合九色| 乱精品一区字幕二区| 激情噜噜噜| xxxx五月| 超碰在线超碰| 国产熟妇的荡欲午夜视频| 婷婷五月天视频亚洲| 青青热久久综合| 五月丁香六月婷婷综合| 高清一区二区三区日本久| Www.狠狠| 99极品视频| 激情综合在线观看| 亚洲激情四射色| 99热6这里只有精品| 久久小片| 先锋资源996| 亚洲操逼网| 久久九九经典| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 天天天天天天操| 性婷婷| 大香蕉婷婷色| 碰久久精品w| http:色情日本com| 五月激情六月丁香| 婷婷五月天开心网| 亚洲丁香网| 天天做综合| 女同激情久久av久久| 婷婷丁香先锋资源网站| 偷偷与邻居做爰完整视频| 91热在线| 五月婷激情| 可以免费看的av网站| 五月婷婷成人网首页| 久操大| 日韩欧美一道四区中文字幕| 亚洲V国产V欧美V久久久久久| 91视频精品99| 91视频综合网| 天天橾夜夜爽| 99久久99热这里只有精品| 免费99情趣网视频| 久久久婷婷婷| 大香蕉五月天婷婷| 日本97在线看片| 国产精品久久久久久久久久免费| 久久三级视频| 久久玖玖综合| 婷婷亚洲欧美丁香五月| 亚洲激情五月丁香久久久久| 六月丁香婷婷拍拍| 久久九九99桃花视频| 久久婷婷五月综合一| 久久网址99热| 色五月婷婷777| 黄色热99| 午夜天堂一区人妻| 丁香五月天堂网| 色色婷| 激情综合五月天| 婷婷欧美| 99热伊人| 九久9精品| 99这里只有精品| 久久97久久99久久综合欧美| 欧美经典片免费观看大全| 98国产精品综合一区二区三区| 国色天香成人网| 熟妇无码乱子成人精品| 成人国产欧美大片一区| 综合狠久久| 九九综合网| 9久久精品视频| 丁香 亚洲 久久| 色欲丁香| 99热久久这里只有精品| 久久色频| 色亚洲婷婷| 性天天中文网| 免费观看欧美成人AA片爱我多深| 色婷婷五月天天天天天天天天天| 涩涩激情五月婷婷| 超碰免费电影| 综合激情在线| 婷婷五月丁香基地在线视频官网| 丁香五月婷婷深爱综合激情| 婷婷舔| www.狠狠操.co m| 久热视频这里只有精品68| 婷婷五月花丁香| www.99热这里精品| 亚洲另类电影| 大地资源色婷婷视频在线| 丁香五月天成人| 色婷久| 99热最新地址在线| 插少妇综合网| 日日操天天操| 色五月综合在线| 天天操夜夜操| 超碰人人妻| 4399亚洲视频| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 三年高清大片免费观看国语| 色9999综合久久| 伊人久久婷婷| 五月婷婷久久内射| 五月丁香中文字幕| 色播五月网| 久久婷综| 97久久精品| 婷婷综合网在线| 日韩九九| 丁香五月天视频| 婷婷久久爱| 亚洲色色五月| 狠狠色丁香久久久婷| 99re热视频这里只精品| 91精品在线看| 久久综合九色综合97婷婷| 婷五月天六| 五六月婷婷| 五月天亚洲综合网| 无码少妇高潮喷水A片免费| 精品无码片| 九九热10| 日日操夜夜撸| 色五月激情网| 五月丁香婷婷综合网色欲| 五月丁香六月婷婷,婷| 偷拍视频五月天| 久久丁香五月天| 99热每日| 热热久久精品视频| 激情丁香五月婷婷| 九九九激情综合| 97超碰色| 五月天五月色婷婷综合| 5五月综合网亚洲| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 丁香午月AV中文字幕| 色永久| AA片在线观看视频在线播放| 狠狠干综合网| 人妻 性久久久久久| 日本丁香五月| 婷婷激情四射网| 五月久久亚洲| 丁香婷婷久久| 人妻熟妇国产精品| 亚洲综合丁香婷婷六月天| 亚洲乱码w在线观看| www免费在线视频| 婷婷五月大| 丁香五月无码| 一级AV片| 丁香婷婷精品视频| 91超碰九色| 婷婷基地成人五月天| xxx综合在线| 亚洲av综合网| 九九久久精品國產| 激情开心五月天婷婷基地丁香社区| 青柠影视免费高清电视剧| 婷婷伊人綜合中文字幕小说| 五月婷婷开心五月| 丁香五月婷婷操逼| 超碰免费大香蕉| 深爱1激情网| 久久久18| 婷婷五月电影院| 久久婷婷五月综合| 色婷婷四色| 色婷婷裸体色性在线| 国产午夜精品AV一区二区麻豆| 久久婷婷热| 婷婷综合在线| 操人精品| 激情99热| 久久99精品久久只有精品| 日韩一级片| 外国碰视频网站97| 超碰人人射| 五月婷婷黄色| 日本三级中国三级99|