99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

“uncorr. ecc 顯示 2”是什么?詳解 ECC 糾錯(cuò)與 MBIST 內(nèi)存自檢

“uncorr. ecc 顯示 2”是什么?詳解 ECC 糾錯(cuò)與 MBIST 內(nèi)存自檢 每次看到內(nèi)存相關(guān)的告警我都覺得這是和整臺(tái)服務(wù)器打交道中最讓人神經(jīng)緊張的一類問題。想必不少搞過服務(wù)器、NAS或者嵌入式設(shè)備的朋友都有過類似的經(jīng)歷某個(gè)深夜管理界面突然彈出一條提示上面寫著uncorr. ecc 顯示 2。第一眼看到這臺(tái)設(shè)備還活著業(yè)務(wù)沒斷心里會(huì)稍微松一口氣但緊接著就全是問號(hào)——“2”到底指什么是內(nèi)存已經(jīng)壞了兩個(gè)bit還是已經(jīng)有兩條內(nèi)存條徹底報(bào)廢了我今天想把這些事徹底聊明白。所謂 ECC全稱是 Error Correction Code糾錯(cuò)碼它能讓內(nèi)存在讀取數(shù)據(jù)時(shí)自動(dòng)發(fā)現(xiàn)錯(cuò)誤而且絕大多數(shù)情況下能把錯(cuò)誤當(dāng)場(chǎng)修好。你看到的uncorr. ecc里的 uncorr是 uncorrectable 的縮寫意思是這個(gè)錯(cuò)誤已經(jīng)超出了 ECC 能修復(fù)的范圍數(shù)據(jù)確確實(shí)實(shí)被破壞了。至于后面那串和 MBIST、SMART 相關(guān)的計(jì)數(shù)本質(zhì)上都在描述同一件事存儲(chǔ)系統(tǒng)正在從“能自救”滑向“即將失控”的那個(gè)臨界點(diǎn)。這篇文章我盡量用大白話把 ECC 的糾錯(cuò)邏輯、MBIST 自檢機(jī)制以及遇到不可糾正錯(cuò)誤之后到底該怎么定位和替換內(nèi)存一次性講清楚。適合正在維護(hù)服務(wù)器/ NAS 的運(yùn)維也適合做嵌入式開發(fā)或者自己攢機(jī)器跑數(shù)據(jù)的朋友。1. ECC 到底是什么從一次報(bào)警說起1.1 一次真實(shí)的“uncorr. ecc 顯示 2”事件我手上那臺(tái)自組 NAS跑的是 TrueNAS平時(shí)負(fù)責(zé)家里和幾臺(tái)工作機(jī)的備份。那天凌晨收到告警郵件進(jìn)管理界面一看存儲(chǔ)狀態(tài)里赫然寫著uncorr. ecc 顯示 2。機(jī)器沒有立刻崩潰硬盤也還正常但這個(gè)數(shù)字讓我整個(gè)人清醒了。因?yàn)樵趦?nèi)存 ECC 的場(chǎng)景下uncorrectable這個(gè)詞一出現(xiàn)意味著數(shù)據(jù)完整性已經(jīng)不是“可能有問題”而是“已有實(shí)實(shí)在在的損失”。按照我后來的排查經(jīng)驗(yàn)這類計(jì)數(shù)一般來源于兩類設(shè)備要么是服務(wù)器/工作站主板上的內(nèi)存控制器把內(nèi)存的 Machine Check 事件記錄到了系統(tǒng)日志里要么是存儲(chǔ)控制器的 SMART 或管理界面把磁盤、SSD 或者 RAID 卡檢測(cè)到的不可糾正介質(zhì)錯(cuò)誤統(tǒng)計(jì)成數(shù)字。不管來源是哪一個(gè)uncorr. ecc 顯示 2都代表底層硬件已經(jīng)發(fā)生了兩次它自己救不回來的錯(cuò)誤??杉m正錯(cuò)誤Correctable ErrorCE是黃燈可以繼續(xù)觀察而不可糾正錯(cuò)誤Uncorrectable ErrorUE是紅燈它已經(jīng)不是預(yù)警而是事故通報(bào)。1.2 ECC 糾錯(cuò)原理為什么能糾正 1 位錯(cuò)誤ECC 的底層邏輯并不玄乎它就是在原始數(shù)據(jù)之外額外存一組校驗(yàn)位讓合法的數(shù)據(jù)組合之間保持足夠的“距離”一旦某一位翻轉(zhuǎn)成錯(cuò)誤值接收方可以通過校驗(yàn)規(guī)則反推出原始數(shù)據(jù)?,F(xiàn)在絕大多數(shù) ECC 內(nèi)存采用的是 SEC-DEDSingle Error Correction, Double Error Detection方案能糾正 1 位錯(cuò)誤同時(shí)能檢測(cè)出 2 位錯(cuò)誤。具體到內(nèi)存條上你看到的是這樣一組數(shù)字標(biāo)準(zhǔn) DDR 內(nèi)存數(shù)據(jù)位寬是 64 位而 ECC 版本的數(shù)據(jù)總線是 72 位多出來的 8 位就是校驗(yàn)位??梢赃@么理解每 64 位用戶數(shù)據(jù)硬件都會(huì)生成 8 位糾錯(cuò)碼打包成 72 位的數(shù)據(jù)字放進(jìn)內(nèi)存顆粒里。因?yàn)閮?nèi)存顆粒多為 x8 位寬所以一條 ECC 內(nèi)存條往往要多配一兩顆 DRAM 專門存校驗(yàn)位。這個(gè)“靠冗余碼糾錯(cuò)”的思路日常生活中很常見。身份證號(hào)最后一位就是校驗(yàn)碼用來發(fā)現(xiàn)前面數(shù)字的抄寫錯(cuò)誤拍 X 光片時(shí)如果機(jī)器抖動(dòng)圖像上會(huì)出現(xiàn)重影但如果你知道固定的重影偏移量也能反推出清晰的原始影像。ECC 就是把這種推測(cè)做成了一套嚴(yán)密的數(shù)學(xué)規(guī)則它不需要“猜”而是按照漢明碼和擴(kuò)展?jié)h明碼的算法直接算出錯(cuò)誤位置然后翻轉(zhuǎn)糾錯(cuò)。需要注意的是ECC 擅長(zhǎng)的是處理極小概率的單比特翻轉(zhuǎn)比如宇宙射線打中存儲(chǔ)電容導(dǎo)致某一個(gè) bit 變了但如果某個(gè)存儲(chǔ)單元已經(jīng)徹底老化連續(xù)多個(gè) bit 都出錯(cuò)SEC-DED 也只能干瞪眼報(bào)出不可糾正錯(cuò)誤。至于為什么偏偏是 8 位而不是理論上的 7 位64 位數(shù)據(jù)用最基本的漢明碼確實(shí)只需要 7 個(gè)校驗(yàn)位但工程實(shí)現(xiàn)為了按字節(jié)組織糾錯(cuò)邏輯并加入“檢 2 位錯(cuò)誤”的增強(qiáng)能力最終統(tǒng)一采用 8 位方案。DDR 標(biāo)準(zhǔn)里 648 的位寬格局也因此固定下來沿用至今。1.3 系統(tǒng)級(jí) ECC 與 On-Die ECC 的差別這幾年大家選購(gòu) DDR5 設(shè)備時(shí)常常被一個(gè)概念搞混DDR5 內(nèi)存顆粒內(nèi)部帶有 on-die ECC。于是有人以為只要用了 DDR5 就等于有了 ECC 保護(hù)。這是個(gè)誤區(qū)。DDR5 的 on-die ECC 是把糾錯(cuò)邏輯放到 DRAM 顆粒內(nèi)部主要為了改善顆粒在更小制程下的數(shù)據(jù)保持能力降低刷新頻率的損耗。它在內(nèi)存控制器看來是透明的和系統(tǒng)真正使用的“平臺(tái) ECC”完全是兩回事。系統(tǒng)級(jí) ECC 由 CPU 的內(nèi)存控制器完成。只有當(dāng)你用的處理器、主板和內(nèi)存條三端都支持 ECC并且內(nèi)存在讀寫時(shí)每次都附帶校驗(yàn)位這才是完整的平臺(tái)級(jí)糾錯(cuò)方案。你依然需要買標(biāo)著 ECC、或者明確是 RDIMM/UDIMM ECC 版本的內(nèi)存條而不是隨便一根 DDR5 普通條。也就是說DDR5 內(nèi)在的糾錯(cuò)能力是幫顆粒自己“續(xù)命”不能幫你保護(hù)應(yīng)用數(shù)據(jù)。理清楚這一層之后再回頭看uncorr. ecc 顯示 2、MBIST 這類日志腦子里就有一個(gè)清晰的坐標(biāo)這些是系統(tǒng)級(jí)或者存儲(chǔ)控制器級(jí)的記錄和 DDR5 內(nèi)存自帶的內(nèi)部 ECC 不是同一個(gè)層面。2. MBIST ECC上電自檢時(shí)發(fā)生了什么2.1 MBIST 到底是什么MBIST 的全稱是 Memory Built-In Self-Test中文叫存儲(chǔ)器內(nèi)建自測(cè)試。它是在芯片出廠時(shí)就集成到硅片里的一段測(cè)試邏輯專門用來對(duì)片內(nèi)的 SRAM、寄存器文件、緩存等存儲(chǔ)陣列做讀寫健康檢查。核心價(jià)值在于不需要外部測(cè)試儀器只要給芯片上電、發(fā)送一個(gè)觸發(fā)信號(hào)芯片就能自己往存儲(chǔ)單元寫測(cè)試圖案、再讀出來比對(duì)從而判斷哪些單元存得住 0、哪些存得住 1。內(nèi)部跑的大部分是 March 算法最常見的有 March C- 等變種。它們會(huì)按特定順序?qū)Υ鎯?chǔ)單元做寫 0、讀 0、寫 1、讀 1 等操作用來暴露固定故障比如某個(gè)位永遠(yuǎn)卡在 0 或 1、翻轉(zhuǎn)故障和相鄰單元干擾。這套算法在芯片量產(chǎn)測(cè)試?yán)锓浅8咝缀醭闪舜鎯?chǔ)測(cè)試的標(biāo)配。很多 MCU 和 SoC 在每次上電啟動(dòng)時(shí)都會(huì)自動(dòng)跑一遍 MBIST只有測(cè)試通過才繼續(xù)加載引導(dǎo)程序。2.2 MBIST 與 ECC 的配合邏輯如果說 ECC 是運(yùn)行時(shí)的“保險(xiǎn)”那 MBIST 更像是上電前的“體檢”。在服務(wù)器、網(wǎng)絡(luò)交換機(jī)和汽車電子設(shè)備里兩者常常成對(duì)出現(xiàn)。設(shè)備上電瞬間跑一次 MBIST用最直接的方式把物理壞塊暴露出來設(shè)備正式運(yùn)行后內(nèi)存單元如果因?yàn)殡妷翰▌?dòng)、溫度變化或者帶電粒子擊中發(fā)生瞬時(shí)錯(cuò)誤ECC 又可以在幕后默默糾錯(cuò)不讓上層應(yīng)用感知到異常。汽車和工控領(lǐng)域尤其重視這套組合。出于功能安全的要求芯片需要保證對(duì)隨機(jī)硬件故障有足夠的探測(cè)覆蓋率所以工程師不僅會(huì)把 MBIST 放在上電流程里還會(huì)設(shè)計(jì)成系統(tǒng)運(yùn)行到安全狀態(tài)時(shí)周期性觸發(fā)。例如在自動(dòng)駕駛控制器里CPU 會(huì)在停車等待時(shí)趁機(jī)跑一段 MBIST確認(rèn)關(guān)鍵 SRAM 沒有出現(xiàn)永久性缺陷而 ECC 則負(fù)責(zé)在高負(fù)載運(yùn)行期間兜住零星的軟錯(cuò)誤。所以當(dāng)日志里同時(shí)出現(xiàn) MBIST 測(cè)試失敗和 ECC 報(bào)錯(cuò)時(shí)問題的性質(zhì)就非常清晰了MBIST 失敗意味著硬件本身有物理缺陷ECC 報(bào)錯(cuò)則說明數(shù)據(jù)層面已經(jīng)出現(xiàn)了可感知的影響。這時(shí)候別再把責(zé)任推給偶發(fā)干擾直接按硬件故障處置。2.3 為什么瞬時(shí)故障也會(huì)被 MBIST 漏掉這里有一個(gè)很常見的誤解既然芯片上電時(shí)已經(jīng)跑過 MBIST為什么運(yùn)行幾個(gè)小時(shí)后還有 ECC 報(bào)錯(cuò)因?yàn)?MBIST 的本質(zhì)是“在某個(gè)時(shí)刻對(duì)所有存儲(chǔ)單元做一次性檢查”它只能證明檢查那一刻存儲(chǔ)陣列沒有明顯的物理壞塊無法預(yù)測(cè)未來幾小時(shí)內(nèi)哪一顆存儲(chǔ)電容會(huì)被高能粒子擊中。這種隨機(jī)軟錯(cuò)誤在流量小、溫度低的時(shí)候更容易被觀察但只要發(fā)生一次ECC 就會(huì)出手。所以你看到uncorr. ecc 顯示 2的時(shí)候不要急著指責(zé) MBIST 沒干活。正相反MBIST 已經(jīng)把硬件缺陷的“存量”清理過一次了ECC 記錄的是運(yùn)行過程中新產(chǎn)生的“增量”。這也解釋了現(xiàn)代 RAS可靠性、可用性、可服務(wù)性設(shè)計(jì)為什么要同時(shí)布這么多道防線MBIST 篩選物理缺陷ECC 糾正瞬時(shí)錯(cuò)誤CE/UE 計(jì)數(shù)把問題風(fēng)險(xiǎn)暴露給運(yùn)維。一套鏈路缺一不可。3. 看到 ECC 報(bào)錯(cuò)怎么辦定位與處置實(shí)戰(zhàn)3.1 先分清 CE 和 UE處理 ECC 報(bào)錯(cuò)的第一原則永遠(yuǎn)是先分清這是可糾正錯(cuò)誤還是不可糾正錯(cuò)誤。CE 是系統(tǒng)已經(jīng)通過 ECC 算法把數(shù)據(jù)救回來的記錄UE 是數(shù)據(jù)恢復(fù)失敗的記錄。兩者的處理節(jié)奏完全不同CE 只需要關(guān)注頻率低頻率可以忽略高頻率意味著硬件正在劣化UE 則必須立刻定位和替換因?yàn)樗呀?jīng)造成過數(shù)據(jù)損失。在 Linux 服務(wù)器上排查時(shí)我用得最多的是 mcelog 和 rasdaemon。mcelog 是老牌的 x86 錯(cuò)誤解碼工具適合把 Machine Check 信息從內(nèi)核 ring buffer 里導(dǎo)出來??梢园阉渲贸?systemd 服務(wù)或者后臺(tái) daemonmcelog --daemon mcelog --client新一些的發(fā)行版更推薦 rasdaemon它會(huì)把 EDAC 驅(qū)動(dòng)上報(bào)的 CE/UE 統(tǒng)計(jì)持久化方便隨時(shí)查看歷史記錄journalctl -u rasdaemon ras-mc-ctl --errors如果系統(tǒng)裝了 edac-utils也可以直接看內(nèi)核暴露的實(shí)時(shí)計(jì)數(shù)edac-util --status這種輸出會(huì)按內(nèi)存控制器、通道和 DIMM 槽位的粒度列出錯(cuò)誤計(jì)數(shù)是快速判斷“哪條內(nèi)存有問題”的第一手資料。CE 和 UE 的含義差別可以用下面這張表概括指標(biāo)全稱含義處置建議CECorrectable Error單比特錯(cuò)誤被糾錯(cuò)算法救回?cái)?shù)據(jù)無損觀察頻率持續(xù)攀升則計(jì)劃更換UEUncorrectable Error錯(cuò)誤超出糾錯(cuò)能力數(shù)據(jù)已損壞盡快定位 DIMM安排下線更換MBIST FailMemory BIST Failure存儲(chǔ)陣列存在物理缺陷硬件級(jí)測(cè)試失敗直接更換顆粒所在芯片或內(nèi)存條3.2 定位到具體槽位知道系統(tǒng)有錯(cuò)只是第一步真正的問題是找到錯(cuò)在哪根內(nèi)存條上。我的排查順序一般是這樣先看 EDAC 的 sysfs 信息在內(nèi)核接口目錄下找到內(nèi)存控制器的錯(cuò)誤統(tǒng)計(jì)。使用 edac-util 可以直接輸出“哪個(gè)控制器、哪個(gè)通道、第幾個(gè)內(nèi)存槽”的粒度。不過要注意EDAC 的槽位編號(hào)和主板上絲印的 DIMM 編號(hào)往往不是一一對(duì)應(yīng)的需要配合主板手冊(cè)做映射。所以下一步就是用 dmidecode 把內(nèi)存條詳細(xì)信息抓出來dmidecode -t memory | grep -E Locator:|Size:|Speed:|Part Number:|Serial Number:|Manufacturer:這里L(fēng)ocator字段最有用它通常直接給出DIMM_A1、DIMM_B2這類主板上印著的物理位置配合服務(wù)器機(jī)箱里的 LED 故障燈就能快速鎖定目標(biāo)。如果是帶 iLO/iDRAC 的服務(wù)器管理界面上通常會(huì)有可視化的內(nèi)存槽位圖甚至直接把故障槽位用紅色高亮出來。命令行環(huán)境下也可以直接查系統(tǒng)事件日志ipmitool sel list | grep -i correct\|mem這套組合拳打下來基本可以保證你不會(huì)在機(jī)房里面拿著手電筒挨根拔內(nèi)存。3.3 替換內(nèi)存和驗(yàn)證的完整流程定位到故障 DIMM 之后就是一個(gè)標(biāo)準(zhǔn)的更換流程。我把它整理成了七步每一步都不建議跳先備份所有關(guān)鍵數(shù)據(jù)。只要出現(xiàn)過 UE就說明數(shù)據(jù)已經(jīng)有被破壞的記錄備份是后續(xù)一切操作的前提。在管理界面里確認(rèn)當(dāng)前狀態(tài)能降級(jí)運(yùn)行的先降級(jí)不能降級(jí)的就安排維護(hù)窗口。關(guān)機(jī)斷電打開機(jī)箱找到對(duì)應(yīng)槽位拔下內(nèi)存條前先拍照記錄卡扣方向。換上規(guī)格完全一致的內(nèi)存條包括頻率、容量、Rank 數(shù)、是否 Registered 都要匹配。開機(jī)進(jìn)入 BIOS找到 Memory Test 或 Memory BIST 選項(xiàng)手動(dòng)跑一輪。如果設(shè)備支持讓系統(tǒng)自己執(zhí)行一遍帶 MBIST 的自檢。進(jìn)入系統(tǒng)后跑 memtest86至少完整執(zhí)行兩個(gè) pass有條件就泡一個(gè)晚上?;氐焦芾斫缑娲_認(rèn) CE/UE 計(jì)數(shù)不再增長(zhǎng)SEL 日志和 SMART 信息里沒有新增相關(guān)錯(cuò)誤條目。這套流程看似繁瑣但能避免絕大多數(shù)返工。我身邊就有同事?lián)Q完內(nèi)存后直接上線結(jié)果第二天又收到同樣告警最后才發(fā)現(xiàn)是換了根電商渠道買到的翻新條。多花一天時(shí)間測(cè)好過之后再熬一個(gè)通宵排查。4. 常見問題速查與現(xiàn)場(chǎng)經(jīng)驗(yàn)4.1 高頻問題清單我在幾個(gè)技術(shù)社群里泡過很久發(fā)現(xiàn)關(guān)于 ECC 的疑問翻來覆去就是這幾個(gè)Q1日志里uncorr. ecc 顯示 2但跑 memtest 完全沒錯(cuò)誤怎么辦 Amemtest86 覆蓋的是內(nèi)存物理地址的遍歷讀寫但它無法模擬真實(shí)業(yè)務(wù)負(fù)載下的電壓波動(dòng)、溫度變化和地址映射干擾。日志里出現(xiàn)過 2 次 UE說明運(yùn)行環(huán)境里發(fā)生過真實(shí)錯(cuò)誤哪怕 memtest 一次通過也不建議直接當(dāng)作“沒問題”。正確做法是保留日志記錄標(biāo)記該槽位為可疑繼續(xù)觀察計(jì)數(shù)變化一旦再次增長(zhǎng)直接換條。Q2CE 計(jì)數(shù)漲得飛快但 UE 還是 0要不要換 A要。CE 連續(xù)攀升說明顆粒的糾錯(cuò)余量正在被快速消耗今天能糾正的單比特錯(cuò)誤明天可能就變成多比特錯(cuò)誤直接演變成 UE。運(yùn)維規(guī)范里通常以“短時(shí)間內(nèi)單條內(nèi)存 CE 超過數(shù)百次”為更換閾值。Q3開機(jī)時(shí) MBIST 測(cè)試失敗是不是只能換芯片 A是的。MBIST 是硬件級(jí)測(cè)試失敗代表存儲(chǔ)陣列存在物理缺陷軟件無法修復(fù)。如果你用 SoC 或嵌入式系統(tǒng)只能更換芯片如果是服務(wù)器里的 DIMM就按內(nèi)存條故障處理。Q4新裝的服務(wù)器還沒跑業(yè)務(wù)就報(bào)uncorr. ecc正常嗎 A不正常。偶發(fā)一次 CE 還能解釋成環(huán)境干擾但 UE 一上來就有 2 次大概率是出貨時(shí)就帶內(nèi)存質(zhì)量問題。盡快走售后別等到上線后再處理。Q5家用 NAS 用的普通內(nèi)存也會(huì)報(bào)這些錯(cuò)嗎 A不會(huì)因?yàn)槠胀▋?nèi)存沒有系統(tǒng)級(jí) ECC所以根本不會(huì)出現(xiàn)uncorr. ecc這種提示。但這不代表它不會(huì)出問題而是問題直接表現(xiàn)為文件校驗(yàn)失敗、系統(tǒng)崩潰、數(shù)據(jù)損壞從另一個(gè)角度更難排查。4.2 我踩過的幾個(gè)坑第一個(gè)坑是只看 “ECC” 三個(gè)字母就下單。ECC 內(nèi)存分 Registered 版本RDIMM和 Unbuffered 版本UDIMM接口長(zhǎng)得很像但有些主板只支持其中一種。買錯(cuò)了輕則無法點(diǎn)亮重則損壞主板內(nèi)存供電。選購(gòu)前一定先查主板支持的 Type、頻率和電壓。第二個(gè)坑是把服務(wù)器上的內(nèi)存故障 LED 誤判成電源故障。半夜值班的時(shí)候看到機(jī)箱里 DIMM 附近有一盞黃燈在閃以為是風(fēng)扇或電源問題結(jié)果查了半天發(fā)現(xiàn)診斷 LED 就指向內(nèi)存槽位。后來我總結(jié)了一條經(jīng)驗(yàn)服務(wù)器上凡是貼著 DIMM 絲印范圍附近的 LED優(yōu)先去查 SEL 日志不要被燈光干擾判斷。第三個(gè)坑是換完內(nèi)存之后沒有做長(zhǎng)時(shí)間壓力測(cè)試。那一次我從二手市場(chǎng)買了一根“幾乎全新”的服務(wù)器 ECC 條外觀和 SPD 信息都對(duì)但顆粒已經(jīng)有老化跡象結(jié)果上線后 CE 計(jì)數(shù)又開始增長(zhǎng)?,F(xiàn)在我對(duì)二手內(nèi)存的態(tài)度是可以買但必須到貨后先烤機(jī) 24 小時(shí)并且優(yōu)先選擇有原廠序列號(hào)、支持在官網(wǎng)驗(yàn)證渠道的條子。第四個(gè)坑是以為 ECC 能修復(fù)一切錯(cuò)誤。ECC 只覆蓋內(nèi)存顆粒內(nèi)部的數(shù)據(jù)錯(cuò)誤當(dāng)出現(xiàn) UE 后如果換了內(nèi)存還在報(bào)那就要懷疑 CPU 內(nèi)存控制器、主板 DIMM 供電、甚至 CPU 插槽的接觸問題。數(shù)據(jù)總線上的一根信號(hào)線斷開或者供電紋波過大都可能產(chǎn)生超出糾錯(cuò)能力的錯(cuò)誤。4.3 選型建議按場(chǎng)景決定要不要上 ECC普通辦公機(jī)、游戲機(jī)上不上 ECC說實(shí)話差別不大因?yàn)橐话銏?chǎng)景下內(nèi)存錯(cuò)誤率足夠低斷電重啟就能恢復(fù)但如果你跑 NAS、虛擬機(jī)、數(shù)據(jù)庫(kù)或者任何“壞了數(shù)據(jù)會(huì)心疼”的場(chǎng)景ECC 就是一筆非常劃算的保險(xiǎn)。AMD 平臺(tái)相對(duì)友好Ryzen PRO 系列以及不少消費(fèi)級(jí) Ryzen 型號(hào)都支持 ECC UDIMM只是需要搭配支持 ECC 的主板Intel 消費(fèi)級(jí)平臺(tái)基本都不支持系統(tǒng) ECC要上只能走 W 系列或者 Xeon 平臺(tái)。自組 NAS 如果選擇二手服務(wù)器拆機(jī) RDIMM價(jià)格便宜但務(wù)必按前面說的流程仔細(xì)測(cè)試。你在決策時(shí)記住一個(gè)原則就夠了ECC 不會(huì)讓機(jī)器變快但能讓機(jī)器在出錯(cuò)的時(shí)候“知道出錯(cuò)”而不是默默把錯(cuò)誤數(shù)據(jù)寫進(jìn)文件里。5. 更進(jìn)一步ECC 在整個(gè)數(shù)據(jù)鏈路中的作用5.1 SSD 也在用 ECC聊完內(nèi)存必須提一嘴 SSD因?yàn)楝F(xiàn)代固態(tài)硬盤內(nèi)部的 ECC 甚至比內(nèi)存還要復(fù)雜。NAND Flash 有擦寫次數(shù)限制隨著壽命消耗存儲(chǔ)單元的保電能力下降讀干擾和寫干擾都會(huì)讓原始錯(cuò)誤率不斷上升。主控需要用 BCH 或 LDPC 糾錯(cuò)碼把這些錯(cuò)誤比特修回來其中 LDPC 依靠軟判決可以獲得更強(qiáng)的糾錯(cuò)能力是目前的主流方案。當(dāng)你看到某塊 SSD 的 SMART 信息里出現(xiàn)Uncorrectable Error Count或Media and Data Integrity Errors這和內(nèi)存里出現(xiàn)uncorr. ecc 顯示 2是同一邏輯存儲(chǔ)介質(zhì)上出現(xiàn)了無法通過冗余碼恢復(fù)的錯(cuò)誤。區(qū)別在于內(nèi)存 ECC 是硬件即時(shí)處理的SSD 的 ECC 則由盤內(nèi)主控完成但它們都在告訴你同一件事——介質(zhì)的可靠性已經(jīng)越過紅線了。所以監(jiān)控 NAS 和服務(wù)器時(shí)SMART 里的 ECC 相關(guān)計(jì)數(shù)同樣要盯緊。5.2 從內(nèi)存 ECC 到端到端數(shù)據(jù)完整性如果把視野拉遠(yuǎn)你會(huì)發(fā)現(xiàn)現(xiàn)代數(shù)據(jù)中心幾乎每一層都有自己的校驗(yàn)機(jī)制ECC 只是第一環(huán)。內(nèi)存在 CPU 和內(nèi)存之間做校驗(yàn)PCIe 總線傳輸時(shí)帶有 CRCNVMe 協(xié)議支持端到端數(shù)據(jù)保護(hù)SCSI/Block 層還有 T10-PI 這類數(shù)據(jù)完整性字段連文件系統(tǒng)層面也有 ZFS 或 Btrfs 的 checksum。數(shù)據(jù)每走一段就有一層校驗(yàn)在盯梢。這種分層設(shè)計(jì)給我最大的啟發(fā)是不要試圖在一個(gè)點(diǎn)解決所有問題。內(nèi)存 ECC 解決內(nèi)存顆粒的錯(cuò)誤總線校驗(yàn)解決信號(hào)傳輸?shù)腻e(cuò)誤文件系統(tǒng)校驗(yàn)解決磁盤和路徑上的錯(cuò)誤。拿我那臺(tái)出過uncorr. ecc的 NAS 來說最終讓我放心繼續(xù)使用的不只是換了一根內(nèi)存條還包括 ZFS 自己會(huì)對(duì)每個(gè)數(shù)據(jù)塊做校驗(yàn)?zāi)芗皶r(shí)發(fā)現(xiàn)并報(bào)告可能被污染的文件。這種“多層冗余”的思路才是在長(zhǎng)跑中保證數(shù)據(jù)安全的正解。5.3 規(guī)劃存儲(chǔ)和服務(wù)器時(shí)把 ECC 當(dāng)作默認(rèn)項(xiàng)最后說點(diǎn)采購(gòu)層面的建議?,F(xiàn)在不管是公司采購(gòu)服務(wù)器還是朋友讓我推薦小型 NAS 硬件我都會(huì)默認(rèn)把 ECC 內(nèi)存列為必選項(xiàng)而不是可選項(xiàng)。它的成本增量相對(duì)于整機(jī)可能只有百分之幾但換來的是一整套可觀測(cè)、可量化的錯(cuò)誤報(bào)告機(jī)制。沒有 ECC錯(cuò)誤發(fā)生時(shí)就悄無聲息等你發(fā)現(xiàn)往往已經(jīng)晚了有了 ECC機(jī)器會(huì)主動(dòng)告訴你“我這兒撐不住了”你就有機(jī)會(huì)在數(shù)據(jù)真正完蛋之前動(dòng)手修復(fù)。說實(shí)話直到現(xiàn)在我看服務(wù)器日志的時(shí)候還是會(huì)習(xí)慣性地先掃一眼 CE 和 UE 計(jì)數(shù)。經(jīng)歷過幾次內(nèi)存故障之后我最深的體會(huì)是uncorr. ecc 顯示 2并不等于世界末日但它是硬件發(fā)來的最后通牒。別拖、別猶豫按流程定位、更換、驗(yàn)證一鼓作氣做完系統(tǒng)又會(huì)安靜如初。愿大家的日志里永遠(yuǎn)只有 CE沒有 UE。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
2020日日干| 79色色| 九九久久99| 日韩九区| 91干网| 婷婷的99视频网站| 久久这里有精品视频| 久婷久婷激情肉| 色婷婷亚洲在线观看| 偷偷操99| 国产视频婷婷| 丁香五月天av| 国产色色网站网址| 色婷婷视频| 人碰人人人玩91| 国产avapp 网| 99看片| 丁香五月亚洲激情婷婷射| 欧美特大片黄| 亚洲欧洲中文日韩久久AV乱码| 五月丁香色婷婷| 色情五月天视频网| 亚洲六月婷婷| 婷婷丁香色情| 色蜜婷婷| 亚洲精品一区中文字幕乱码| AAA久久| 婷婷五月丁香五月| 夜夜骑天天操| 五月成人天| 天天在线久久综合| 久久这有这里精品| 99热这是里只有精品| 色 五月 天 婷婷 丁香 九月| 在线观看国产高清视频免费网站| 人人干av| 97人人超| 中文字幕免费高清电视剧| 婷婷成人综合| 综合网色| 超碰在线人妻| 任你操精品免费| 久久久噜噜噜操操操| 久久婷婷综合基地| 色色丁香婷婷| 国产成人99久久亚洲综合精品| 99久在线精品99re8热| 99热只有精品在线观看| 丁香五月六月激情| 丁香五月激情五月开心五月| 婷婷伊人网| 激情五月天色婷婷| 久色五月丁香视频| A片一曲| 五月婷在线| 久久视频在线| 婷婷激情综合| 激情综合一| 色五月综合在线| 五月天色婷婷伊人网| 九九在线免费观看| 裸体美女丁香五月天。| 99热最新| 爱久久小说下载网| 欧美日韩精品一区二区三区钱| 日韩欧美成人一区二区三区| 大香蕉久久久久久久久| 色婷婷www| 亚洲人妻Av| 色爱99| 婷婷丁香成人五月天| 色婷婷色| 五月天·www·com| 久久久久久五月天| 大香蕉天堂| 婷婷五月丁香超碰| 久婷婷五月激情| 99色色爰| 四月婷婷丁香| 1024日韩| 婷婷五月成人社区| 亚州色婷婷| 九九色综合| 天天日,天天射,天天插| 五月色天情| 激情综合网五月婷婷| 婷婷六月色| 色婷婷五月天偷拍| www.久操| 亭亭丁香aV| 日日色五月天| 婷婷久久五月天| 91久久电影| 香蕉婷婷| 久久精品日| 超碰猛烈的性猛交| 婷婷五月天99| 婷色五月| 日韩无码系列| 亚洲五月丁| 亚洲丁香五月| 开心五月激情网| 国产免费性爱| 婷婷色中文字幕| 激情综合婷婷| 日韩啊啊啊| 九九AV| 中文字幕网伦射乱中文| 91精品久久久久久综合五月天| 性婷婷| 激情五月,色播五月| 婷婷99狠狠躁天天| 99ri国产精品| 色婷婷狠狠久久综合五月| 综合XX网| 9999综合99综合人| site:publishdd.com| 久艹大香蕉| 亚洲AV网站| 色插人人| 亚洲精品色色色| 97婷婷狠狠| 精国产品一区二区三区A片| 婷婷丁香五月社区亚洲| 婷婷五月免费在线| 五月丁香六月婷综合成人综合| AV在线不卡网站| 婷色五月| 婷婷五月丁香综合| 在线观看免费狠狠色丁香香综合| 婷婷.com| 亚洲亚洲人成综合网络| 久久这里只有精彩| 黄网在线免费观看| 五月丁香激情四射| 久久久五月五丁香| 五月天久久网站| 99热精品9| 99热99色| 日韩无码专区| www.99视频| 色婷婷文字幕| 色播五月网| 亚洲精品字幕| 日韩六六久久电影| 播丁香五月婷婷欧美| 色婷婷久久综合| 人人草开心五月天| 一婬一伦一区二区三区| 五月丁香婷婷综合网| WwW色婷婷| 香蕉久久国产AV一区二区| 五月婷婷啪啪综合网| 婷婷五月丁香成人网| 丁香狠狠| 偷拍九九热| 五月丁香激情综合六月涩涩爱| 婷婷久久五月| 亚洲色婷婷色| 亚洲深喉AV| 深爱五月激情综合| 亚洲欧美在线观看| 99成人免费视频| 婷婷中合| 亚洲情欲| 欧美99视频| 久久久久激情| 免费AV黄在线播放| www.91av.com| 强伦轩人妻一区二区电影| 丁香六月婷婷操逼网| 日本在线噜噜| 六月婷婷AV| 丁香五月电影| 99精品在线观看| 综合久久婷婷五月丁香| 欧美久久网| 青青色com久久| 色五月综合激情| 狠狠色色色| 五月精品免费XXX| 伊人大香蕉爱聚| 色爱终和网| 97久久超视频| 五月天丁香网| 深爱五月月天| 丁香婷婷色五月天| www.激情五月天.com| 26uuuuuuuu国产| 色情婷婷久久五月天| 五月丁香六月综合基地| www.狠狠| 91在线观看www| 丁香五月人妻| 丁香婷婷六月天| 99久| 国产成人亚洲综合A∨婷婷| 嫩草视频观看| 五月婷婷六月丁香| 久久激情网| 99精品国产在热久久婷婷| 大香蕉啪啪| 丁香五月激情六月欧亚激情综合导航| 久久婷婷七月丁香| 深爱综合网| 精品爱欲五| 99爱视频免费看| 97精品自拍视频| 91九色在线视频| 丁香五月精品视频| WWW99视频| 色色性爱视频| 天天日天天爽| 五月丁香婷婷激情澎湃四射| 91Chinese在线| 九九婷婷激情综合网| 狠狠色97| 色婷婷亚洲六月婷婷中文字幕| 五月天综合在线| 成人在线观看精品| 精品色色| 狠狠久久婷五月| 91九色精品女同系列| 国产精产国品一二三在观看| www.99热| 玖色色综合| 久久激情五月婷婷| WWW免费视频碰碰碰碰| 色爱99| 9999热在线免费观看| 色婷婷成人做爰A片免费看网站| www,天天干| 亚洲avjiujiur91| 天堂在线9| 高潮毛片又色又爽免费| 欧美婷婷| 丁香五月天激情综合| 另类小说激情五月天| 五月婷婷色色| 色10月婷婷视频| 婷婷五月激情五月丁香五月| 丁香五月 性爱| 国产毛片精品一区二区色欲黄A片| 九九热大香蕉| 99热这里只有精品2| 激情com| 亚洲色夜| 国产成人在线精品| 九九亚洲综合| 色久女| 人人操碰| 99噜噜噜| 超碰在线中文字幕| 五月开心久久| 丁香五月综合激情性爱 | 人妻肉射免费观看| 欧美综合激情五月丁香| 五月香蕉婷婷| 1995年关宝慧版蜘蛛女| 色五月成人在线| 婷婷在线操| 激情com| 色婷婷综合久久久久| www.minyis.com【JT】实力收量可预付QQ2101460746 | 视色综合| 操操操AV| 丁香五月天婷婷中文字幕| 另类视频丁香五月| 99久久大片| 99视频精品全部免费观看| www.思思99热| 五月婷婷激情综合网| 九九色99| 五月婷婷丁香啪啪| 996热| 色欲天天综合网| 激情五月天视频| 久99久99精品免| 2025天天日爽| 久操大香蕉| 日本三级韩三级99久久| 99婷婷| 国产欧美精品AAAAAA片| 五月婷婷综合天天操| 激情五月婷婷色综合| 大香久久综合网| av在线婷婷| 91九色超碰| 激情五月天福利| 伊人五月天久久| www.色婷婷.com| 亚洲无码另类| 婷婷五月综合在线视频| 99亚州综合精品成人网| se99视频| 九七色色六月丁香| 日本在线wwww| 色婷婷婷av| 深爱激情网婷婷| www.六月丁香看AV| 67194成I人在线观看线路1| 女人天堂AV| se色婷婷视频| 香蕉久久国产AV一区二区| 激情com| 天天色综合网1| 亚洲五月天另类小说图片| 99热这里只有精品2| 综合另类激情| 91色噜噜狠狠狠狠色综合| 色婷天天| 亚洲夜夜操| 久草狼人| 亚洲欧洲美女在线观| 日韩另类在线观看| 激情九九这里只有精品| 99无码视频| 婷婷五月综合在线| 五月婷婷综合色啪首页| 久久综合激情五月天| 99精品爱| 91九色网| 色一情一乱一乱一区91| 久久婷婷五月综合色和| 久久婷婷五月天| 操逼综合网| 色婷婷狠| 综合噜噜| 亚洲无码性爱| 丁香六月视频| 丁香六月激情综合| 婷婷五月天中文字幕| 婷婷色五月亚洲| 丁香婷婷九月| 五月 婷 久| 婷婷色五月激情| 成人在线综合| 久久婷婷激情四射五月天| 思思99热在线| 九九99久久| 伊人五月天久久| 久久99热这里| 婷婷综合视频| 丁香五月婷婷激情网| 亚洲最大五月天成人网| 熟惀91九色在线| 丁香婷婷色色| 五月天AV大香蕉| 五月天色婷婷av| 色婷婷免费观看| 欧美123区免| 日日天天操| 婷婷五月天影院| 97碰成超视频免费视频| 人人摸人人| 91a片爽| www.99热最新视频8| 久久激情视频| 天天综合情| 爱操人妻| 亚洲小视频免费播放| 五月婷婷导航| 九九热99免费视频| 婷婷色在线观看| 五月婷婷六月丁香玖玖玫瑰91| 色色亚卅| 97伦色婷婷| 五月丁香激情六月| 69人人操人人爽| 婷婷六月天激情影院| 99久久99久久综合| 精品无码人妻一区| 亚洲六月色| 婷婷五月天性| 伊人久久大香线蕉综合网站| 九九99热久久精品66中文字幕| 午夜福利8055| 99riAv1国产在线观看| 色欲影香| 五月婷婷激情| 丁香婷婷六月天| 天天狠狠夜夜狠狠2023| 青草视频在线蜜臀| 丁香av网| 色婷婷97| 婷婷久久五月天亚洲欧美国产日韩在线观看| 丁香五月人妻| 丁香五月天欧美| 中文字幕视频色婷婷| 欧美色色色| 丁香六月婷婷久久综合| 激情内射人妻1区2区3区| 色婷婷久久综合久色| 99热这里只有精| 久久婷出差欧美色两性综合网| 一点色成人网| 色久丁香五| 久久婷婷网| 色欲午夜无码久久久久久张津瑜| 色五月综合激情| 婷婷综合激情| 婷婷基地爱| 色玖玖综合网| 五月婷婷黄色网址| 亚洲不卡欧洲| 99热这里只有精品69| www.cao.com久久| 一区二区免费看| 五月天另类小说亚洲| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 美国十月色婷婷在线观看| 五月天大香蕉| 九九久久久综合| 色激情综合| 色狠狠六月| 午夜不卡久久精品无码免费| 国产这里只有精品| 五月丁六月香av| 超碰色女| 操操操B| 五月丁香六月玩女人| 狠狠色丁香| 色香蕉婷婷| 99精品在这里| 激情综合网激情五月网| 亚洲av免费在线| 九九一区| 久操热线| 激情久久肏屄视频| 国产婷婷五月天| 亚洲操操| 69久久久| 日本不卡一区二区三区| 超碰99在线| 婷婷色正月| 亚洲精品五十一区| 色五月激情综合网| 久久婷综合网| 日本偷拍九九九| 能看的av| AAA久久| 天天橾夜夜爽| 青青草日本亚洲| www.91色| 五月天激情四射网站| 亚洲成人AV电影在线| 丁香婷婷九月| 思思精品视频| 热热久久99| 欧美美女国产日韩一区二区久| 中文色婷婷| 丁香五月伊人| a性生活久久无| 色婷婷丁香五月天| 婷婷的色色五月天| 日韩无码色色| 天天插,天天射| 色五月丁香激情| 金桔一区二区ab地址| 色色九区| 久9无码视频| 狠狠综合久久综合| 色婷婷无吗| Www.sesese丁香| 内射干少妇亚洲69XXX| 夜夜操夜夜操| 欧美成人va| 99爱这里只有精品免费视频| 婷婷激情五月综合| 这里只有精品免费| 99熟女| 丁香激情五月| 99国产精品久久久久久久久久久| 色一情一乱一乱一区91Av| 色色五月婷| 丁香九月婷婷综合| 婷婷五月天小说网| 狠狠综合| 成人五月丁香花| AV大片在线播放| 成AV人片一区二区三区久久| www.9操| 江苏少妇性BBB搡BBB爽爽爽| 丁香五月婷婷啪啪视频| 五月婷天堂视频| 欧美婷婷色五月网| 九月丁香婷婷综合| 久久这里面只有精品视频| 99热这里只有精品亚洲| 五月大香蕉| 少妇人妻人伦A片| 亚洲国产精品二二三三区| 极品人妻VIDEOSSS人妻| 婷色综合| 四虎成人精品永久免费AV九九| 亚洲视频五区| 色播五月丁香婷婷| 人妻操在线看| 久久婷婷综合国产| 成人av免费观看| 国产亚洲精品AAAAAAA片| 国产69久久久欧美黑人A片| 久久激情中文| 99亚洲精美视频在线观看| 久久婷婷网| 五月天天丁香婷婷在线中| 狠狠色丁香婷婷基地| 俺去也在线官网| 538在线精品| 国产成人网站在线观看| 99ER热精品视频| 婷婷五月综合中文字幕| 久久九九网| 天天爽天天弄| 色五月综合| 开心婷婷五月| 香蕉人妻AV久久久久天天| 婷婷五月综合基地| 丁香五月色| 五月婷婷插一插| 五月丁香综合中文| 亚洲乱码日产精品BD| 狠狠久久婷婷| va婷婷在线| 天天碰夜夜爽| 99在线精品视频| 99热在线网站| 天天综合天天做天天综合| 天天干天天操天天拍| 99视频在线精品免费观看2| 丁香六月天婷婷色| 另类天堂| 亚洲激情婷婷| 强辱丰满人妻HD中文字幕| 一区三区视频有限公司| 激情婷婷五月天伊人在线观看| 97在线日韩| 久久五月网| 狠狠狠狠狠草| 99热91| 激情婷婷久久| 深爱婷婷色| 色情久久久| 123日本不卡在线| 亚洲婷婷在线播放十月| 丁香五月手机在线| 99久久国产综合精品五月天喷水\| 五月丁香毛片| 激情深爱综合网| 欧美在线| 伊人大香五月天| 97在线刺激| 中文字幕不卡网站| 色色网站免费在线视频| 天天搡日日搡aaaaⅩ| 31色区视频免费看| 婷婷六月天激情影院| 亚州操人在线视频| 久久永久视频| 久久这里只有精品16| 99re6久热只有精品6在线直播| 中文久久婷婷| 日本五月天网站| 亲子乱AV-区二区三区| 五月婷婷久久激情| 久久ww| 久久五月天婷婷| 区美毛片子| 九九色天堂| 亚洲六月色| 碰超亚洲| 色色哒五月婷婷六月丁香| 成人美女网| 思思热在线视频观看精品| 久久久婷婷| 99久久99九九99九九九| 热99这就是精品视频| 亚洲色五月天| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 99色人| 亚洲色色精品| 97碰精品| 婷婷五月天成人| 婷婷丁香六月| 色色色色色网| 婷婷五月花免费视频在线| 五月激情影视| 婷婷激情五月天激情在线| 五月婷婷成人| 伊人久久婷婷五月天激情四射| 被强行糟蹋的女人A片| 色色色在线免费视频| 最新久久网址| 成人精品一区二区三区四区五区 | 婷婷五月情天| 丁香五月婷婷Av| 婷婷激情在线| 五月丁香综合激情在线观看| 久久久婷| 91凹凸在线| 婷婷丁香五月天中文字幕| 丁香五月婷婷激情蜜桃| 婷婷丁香九月| 日本精品99网站| 婷婷五月av| 伊人超碰| 狠狠色婷婷7777久综合| 婷婷精品| 伊人五月天婷婷| 日韩精品电影| 丁香成人五月天| 丁香婷停五月激情综合深爱| 日本97久久久精品| 五月综合色| 久久久区区一久久久久久| 久久婷婷桃花五月天| 婷婷欧美激情综合| AV美美午夜| 69精品人人人人人人人人人| 激情五月天偷拍综合网| 激情五婷精品网在线观看网址| 天堂无码人妻精品AV一区| 久久久精品色色色| 涩五月婷婷| 日韩AV免费看| 激情综合无码| 亚洲五月天婷婷在线| 免费啪啪亚州视频| 国产XXXX搡XXXXX搡麻豆| 五月天色综合服务平台| 日本99视频精品免费播放| 天天干天天拍| 五月丁香啪啪| 五月社区婷婷激情| 日本一级| YW无码| 九九热精品| 人妻啪啪啪| oumeisesewang| 欧美熟妇一区二区三区| 国自产拍偷拍精品啪啪一区二区| 亚洲婷婷欧美婷婷| 亚洲爱爱无码婷婷色五月| 婷婷五月天AV在线| 操日本99| 国产成人片| www999日韩精品| 99这里只有精彩视频| 色婷婷9| 丁香五月激情六月| 久久久18| 99九九在线视频| 性爱激情五月| 被强行糟蹋的女人A片| 啪啪色区| 国产在这里只有精品| 婷五月天在线草| 欧美综合123区| 字母不卡码人逼| 国精产品一区一区三区免费视频| 久色网| 99热这里只有精品8| 激情二色月| 五月天色婷伊人| 丁香六月久久| 超碰93在线观看| 五月伊人婷婷999| 九九艹女| 色优久久| 午夜丁香婷婷| 99热国产这里只有精品| 91超级碰在线视频| xx久久| 色综合久久五月天| 79精品视频在线观看,| 天天天日天天天干| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 天天日天天久久青青| 99热这里只有精品99| Av九九| 国语精品探花| 亚洲色无码| 天天狠狠色综合| 校园激情 亚洲| 91久热| 色婷婷综合网| 日本女天天爽| 激情五月综合色婷婷| 激情婷婷五月天伊人在线观看| 91丨九色丨白浆秘| 五月色婷婷影院| 亚洲色碰| site:xiongshengzz.com| 99热色无码| 五月天激情综合网站| Av狠狠色丁香婷| 久久成人性爱| 人人干AV| 婷婷狠狠五月综合| 天天看夜夜看| 婷婷五月在线观看| 天天色播| 中国女人做爰A片| 亚洲成人无码专区| 色色色色色色五月婷婷| 91狠狠综合网| 丁香五月网络网络| 精品久久久久久久久久久久人妻| 国产精品色婷婷AV综合色色| 色色色色色色色色色色色色色97| 九九热超碰| 日韩 欧美 国产 一区 二区| 精品人妻久久久| 丁香六月婷婷激情| www.婷婷六月天| 啪啪一区| 亚洲影院婷婷色| 色99在线观看| er99免费视频在线| 六月丁香网| 激情五月色婷婷| 激情小说色五月| 婷婷久久18| 狠狠艹狠狠艹| 婷婷五月情天| 婷婷五月天小说网| www超碰com| 996er热| 丁香五月天激情AV| 日日干日日| 欧美搡BBBBB摔BBBBB| 欧美精品久| 国产亚洲精品人人| 成人丁香婷婷| 99热官网| 五月婷婷日本| 婷婷激情蜜桃玖玖丁香| 激情网五月天| 天天爽天天干| 97碰碰电影| 五月婷婷色播网| www.9797国产| 国产午夜精品AV一区二区麻豆| 久久婷婷五月综合色天| 久草久青福利| 婷婷色网站| 色播激情| 色宗合,宗合网| 久久WW| 蜜桃婷婷丁香综合久久开心亚洲| 五月丁香婷中文| 五月丁香基地| 少妇高潮呻吟A片免费看软件| 欧美大片免费观看| 婷婷色在线| 夜夜谢天天干| 青吴乐视频| 亚洲婷婷五月天综合| 五月丁香婷婷综合网| 午夜不卡久久精品无码免费| www色色com| 婷婷五月天色播| 九久久婷婷| 粉嫩av懂色av蜜臀av熟妇| 99热这里有精力| 国产人妻777人伦精品HD| 丁香五月性爱| 五月色婷婷中文字幕| 亚洲在线播放| 深爱激情网综合| 99精品偷自拍| 九九热只有精品6| 婷婷久久亚洲| 黄色高清无码| 婷婷六月天亚州| 亚洲人妻av伦理| 去干网av| 狠狠综合| 六月色播| 国产成人高清| 欧美va在线观看| 色爱综合五月| 五月婷婷激清网| 97日本操| 99久久久| 天天操天天国产三级片处女学生妹| 色狠狠综合网| 久久综合99综合| 丁香五月AV综合激情| 国精产品一区一区三区免费视频| 无码一区二区三区四区五区| 亚洲综合九九| 婷婷六月爽| 久操大香蕉| 五月开心婷婷中文字幕| www.91色| 久久这里只有国产| 五月婷婷激情| 天天爽天天爽夜夜爽| 美女久久婷婷| 手机免费福利视频| 伊人成综合五月婷婷| 五月天色影院| 99久re热| 91超级碰碰| 夜夜爽天天| 成人免费120分钟啪啪| 操逼在线视频| 色婷婷人人| 婷婷五月天成人| 超碰成人在线观看| 婷婷激情图片| 三十路磁力链接| 免费在线观看av网站| 色色色com| www.99婷婷| 欧美婷婷| 丁香五月天AV| 玖玖爱综合网| 五月综合久久| 丁香色情五月综合网站| 欧美操我| 99视频在线精品免费观看2| 日操| 99小视频在线观看| 97色婷婷| 天天色·欧美| 久久久久视剧HD| 婷婷丁香五月综合激情视频| 在线观看欧美| 亚州美女| 人妻操操色| 日韩精品一区二区亚洲AV观看| 色久天| 婷婷五月偷拍| 国产成人高清| 色青青电影色五月| 日本一毛片| 五月天另类综合网| 影音先锋91资源站| 日日夜夜干| 日韩视频99| 99综合视频在线| av一区二区电影免费在线观看| 亚洲国产成人在线| 色色色欧美色色| 丁香花五月天婷婷成人社区| 99ri精品在线| 欧美性色A片免费免费观看的| www.99热这里精品| 99在线观看亚洲| 激情骚五月| 五月天综合| 四色五月婷婷| 深爱开心激情网| 任你日热视频| 大香蕉综合视频在线| 天天射美女| 丁香五月婷婷手机| 伍月婷丁香婷| 开心五月婷婷婷美女| AA片在线观看视频在线播放| 99日本黄站| 有哪些A片网站| av在线超清中文| 操人久久| 婷婷情色五月| 色婷婷成人做爰A片免费看网站| 婷婷色综合| 伊人色欲五月天| 色五月婷婷天天干| 99re热99| 激情熟女网| 婷婷无五月无码视频| 五月丁香香蕉| 久久久久久激情| 婷婷五月天无码| 人人看人人要| 婷婷天天插天天爱| AV堂狠狠干| 视频一二区| 激情综合网激情五月婷婷| 97人人干人人操| 成人网址在线观看| 五月丁香婷婷深深爱| 伊人色综在线| 色婷激情网| 天天草狠狠擦| 国产噜一噜天天噜| 激情AV| 色女人久久| 热99久| 激情五月天婷婷丁香| 久久加勤综合| 九九婷婷激情综合网| 久久精品一区二区三区四区| 色九九综合| 亚洲精品视频在线播放| 六月丁香啪啪| 色色婷婷丁香| 久激情网| 五月天婷婷久久视频| 婷婷丁香色五月久久88| 女人露出p毛视频www网站| 五月婷婷黄色| 五月丁香成人网| 亚洲色五月| 天天操天天插天天射| 在线观看国产高清视频免费网站 | 这里只有精彩视频| 噜噜在线| 99热最新网址| AA片在线观看视频在线播放| 九九九激情综合| 激情人妻蜜夜系列区| 六月婷婷毛片| 久久成人亚洲欧美电影| 操逼综合激情网| 91欧美日韩| 久久婷婷丁香五月宗合| 肏屄色播伊人97婷婷| 色综合区| 五月丁香激情综合啪| 丁香激情五月综合网| 人妻av在线| 97av在线视频| 久草五月| 超碰操日| 99色热综合| 久久99jiu9| 色综合天堂| 狠狠干五月天婷婷网| 激情五月丁香色婷婷| 亚洲人人操BD| 六月丁香五月婷婷| 91se在线视频| 久热这里| 九九激情| 亚洲综合色婷婷| 色噜噜,噜噜色| 99日这里只有精品| 欧美丁香五月| 婷婷性爱| 激情婷婷五月综合| 99热这里| 日韩av干| 色欲资源网| 天天干天天拍| ji'qi'luan'ren'lun| 九九热99免费视频| 国产亚洲精品久久久久久郑州| 嘿嘿视频免费看9| 久久9视频欧美| 天天干-天天日| 蜜臀99精品| 91久久久久久久久18| 欧美成综合在线观看| 亚洲无码播放| 久久久久人妻中文| 国产密乳av一区二区三区四区| 337p大胆噜噜噜噜噜91Av| 色色色图| 亚洲成人精品三区| 蜜臀丁香黄色婷婷五月天| 成人婷婷桔色| 开心五月深爱五月| av大香蕉| 欧美性交一区二区三区| 亚洲性天天| 五月天婷婷基地| 国产欧美性成人精品午夜| 色播五月天婷婷老师| 婷婷成人综合免费视频| 99九九在线视频| 中文在线成人| av操B网站| 综合亚洲色色| 五月丁香啪| 99热热热99精品婷婷| 9热久久| 九九婷婷五月天影视| 九月丁香| 色色色色色色色色色色色色色五月天| 亚洲色婷婷色| 五月丁香777| 久热伊人9| 丁香五月开心婷婷| 美国少妇性做爰| 色五月综合网| 亚洲AV网址| 超碰伊人碰婷婷五月| 99色热综合| 熟女人妻一区二区三区免费看| 日本熟妇精品99| 激情综合网五月| 五月丁香婷婷钟和色图| 夜夜骑操AV| 99在线精品观看99| 99网址在线观看| 伊人日日干| 色婷婷久久| 99熟女视频| 综合久久高清| 五月丁了香蕉综合| 婷婷激情五月天在线| 狠狠综合| www.婷婷亚洲基地| 精品色色| 1024你懂的欧美曰韩| 屁股翘好撅高迎合跪趴| 九色无码| 月婷婷婷婷五月| 亚洲99一级无嗎特制在线| 另类小说五月天综合网| 99re在线播放| 思思久ren热| 婷婷五月丁香六月| 99热精品在线| 婷婷色色网| 伊人久久艹| 五月丁香999| 久婷婷色| 综合av在线| 天天噪夜夜爽| 久久久aaa| 丁香五月婷婷在线观看| 五月天大香蕉视频| 婷婷丁香六月天| 色综合久久44| 五月天婷婷视频| 五月天激情综合首页| 性做久久久久久久免费看| www色婷婷久久综合久色| 九九九九精品精| 久热这里只有精品99re| 日本人妻操| 婷婷久久五月| 丁香五月aV| 香蕉网婷婷| 色婷婷的五月天| 99综合视频一体| 婷婷香蕉| 激情五月,激情综合网| 久青操| 久99热| WWW.开心五月天.COM| 九九久久精品國產| 狼友超碰| 激情婷婷综合| 五月丁香婷婷激情四射迷人| 色五月成人| 天天五月香欧美| 高清av在线国产| 九九人人精品| 色国产五月| 九草性爱| 综合网激情| 热99热9| www.五月天色色.com| 五月丁香婷婷综合网| 伊人五月成人| 九九久久精品| 天天狠狠综合精区| 色色色地址| 久久婷婷欧美| 婷婷五月丁香色综合| 九九色综合| 久热这里只有| 五月丁香激情片| 亚洲视频1区| 日本99久久| 婷婷五月天激情在线| 综合天天综合| 色开心五月丁香| 狠狠插狠狠插| 综合网激情| 色五月丁香一区在线| 啪精品| 五月天色色无码| 99热啪啪| WWW.桔色成人.COM入口| 大香蕉婷婷久久| 丁香五月-激情综合| 激情六月天婷婷| 天天色情站| 99在线观看精品| 99色嘟嘟精品网站| 婷婷激情综合| 激情综合网激情五月天| 亚洲综合婷婷六月丁香五月| 丁香婷婷网| 操碰久| 99久久天堂婷婷| 五月丁香六月激情| 久久久精品AV| 第四色五月天| 五月天丁香六月综合| 久婷婷色| 91干在线视频| 黄色网址五月婷婷| 色无码| 色欲婷婷五月天| 五月天婷婷7米| 五月丁香六月婷婷综合网| WWW,激情五月天,COM| 婷婷五月综激情| 婷婷六久久| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 成人在线精品| 先锋资源婷婷| 亚洲AV日韩在线观看| 成人无码髙潮喷水A片| 亚洲va成人va成人va在线观看| 五月丁香六月婷婷成人电影| 五月天伊人综合| 亚洲最大五月天成人网| 影音先锋 婷婷| 五月色婷婷在线观看| 在线日韩视频| 综合激情婷婷| 色婷婷色九月| 99热日| 亚洲色图五月丁香| 激情婷婷五月天丁香| 九月大香蕉| 97香蕉人人在线观看| 东京热人妻一区二区三区在线| 99re热视频这里只精品| 免费看欧美成人A片无码| 色婷婷六月| 99自拍视频在线| 99免费在线| 99这里只有精| 九九色热| 亚洲综合婷婷| 免费视频无码| 国产婷伊人| 超pen个人视频97| 激情五月黄色| 91狼友视频在线观看| 91在线操逼视频| 婷婷9月天| 岛国资源站| 91 原创 在线 九色| 婷婷五月天毛片| 操97免费超级视频| 久久久激情视频| 中文字幕综合网| av婷婷丁香 六月| 日日干夜夜撸夜夜骑| 国产精品激情五月天色婷婷| 99色热视频| 日本人人xxx| 婷婷五月电影| 日韩成人AV在线| 日本三级日本三级99| 婷婷五月天视| 1995年关宝慧版蜘蛛女| 激情丁香五月婷婷啪啪| 亚洲热综合| 亚洲网视屏| 天天搞天天爽| 婷婷丁香日韩五月| 国产九九一区二区三区| 色婷网| 五月婷婷综合网在线播放| 欧美久久婷婷| 色综合九九色综合88| 中文字幕成人| 久久色六月| 亚洲黄3级片网站欧美| 99久久99九九九99九他书对| 好好干Av| 五月天社区狠狠| 99A级片| 国产午夜精品AV一区二区麻豆| 五月丁香色欲| 91精品国产99久久久久久天美| 久婷婷五月激情| 午夜五月天| 99综合免费视频| 久草婷婷在线| 7超碰自拍| 就是色婷婷五月亚洲色| 青青草蜜臀| 99ri视频在线播放| 欧美日韩欧美| 中文字幕按摩做爰| 99精品女人天堂| 99r久久这里只有精品| 天天插天天爽| 尔尔AV一区| 天堂网色婷婷| 欧洲婷婷五月天| 天天射影院| 国产成人网站在线观看| 色原狠狠综合| 思思热在线视频99| 99ri精品在线| www.25五月婷婷| 色婷婷丁香五月天在线观看| 激情五月天影院| 久久人操-久草婷婷-成人AV| 120分钟婬片免费看| 亚洲五月色| 婷婷五月天av| 五月天天综合| 狠狠擼综合| 99综合久久| 精品无码片| 天天婷婷天天| www.夜夜| av网站免费在线| wuyuedingxiang99| 婷婷五月天综合久久| 一起草AV入口| 97亚洲色 torrent magnet| 天天色视频| 淫五月停停| 久久婷婷五月| 99超级碰碰| 五月丁香A片| 色婷五月天网站| 第四色激情网| 性爱人人网| 天天舔天天摸视频| 少妇人妻人伦A片| 97干欧美| 黄网在线观看免费| 亚洲视频码| 99re思思热这里| www.99热视频| 琪琪色五月天| 日本丁香五月| 日本偷拍九九九| 婷婷色五月亚洲| 亚洲五月天激情| 久色网| 色欲婷婷五月天| 伊人玖玖精品| 91人人爽久久涩噜噜噜| 亚洲区在线| 激情宗合网激情五月天| 色婷婷成人做爰A片免费看网站| 久久九九@| 狠狠综合网| 色色色色区| 99精品热| 超碰自拍天堂| 色综合色综合婷婷热| 日日夜夜爽| 91操人| 激情婷婷五月女| 97人人射| 99热6这里只有精品6| 亚洲综合激情五月久久| www.天天干.com| 亚洲欧美成人在线| 99熟女| 能看的av| 99色啊| 99自拍网| WWW,激情五月天,COM| 91狠狠色丁香婷婷综合久久精品| 五月婷婷高清| 最近中文字幕2019视频1|