99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

RocksDB多列簇寫壓力不一致:從機(jī)理到排查治理實(shí)踐

RocksDB多列簇寫壓力不一致:從機(jī)理到排查治理實(shí)踐 1. 一個(gè)典型故障現(xiàn)場(chǎng)高優(yōu)業(yè)務(wù)被低優(yōu)列簇“拖死”先從一個(gè)我自己經(jīng)歷過的case講起。去年年中我們維護(hù)的一個(gè)KV服務(wù)出現(xiàn)了詭異現(xiàn)象RocksDB的寫入P99延遲從平時(shí)的5ms左右直接飆升到接近200ms而且持續(xù)了大半夜。表面上看核心鏈路的寫QPS并沒有明顯增長(zhǎng)負(fù)責(zé)的同事一度懷疑是磁盤老化或者機(jī)器出了物理故障。但翻監(jiān)控就會(huì)發(fā)現(xiàn)一個(gè)關(guān)鍵線索——活躍的寫請(qǐng)求幾乎全部集中在一個(gè)叫biz_log的列簇上。這個(gè)列簇對(duì)應(yīng)的是運(yùn)營(yíng)側(cè)的流水日志數(shù)據(jù)業(yè)務(wù)上允許延遲、甚至允許丟失優(yōu)先級(jí)極低。而真正承載核心交易數(shù)據(jù)的core_data列簇寫請(qǐng)求占比其實(shí)很小。問題的詭異之處就在這里明明低優(yōu)先級(jí)的列簇在瘋狂寫入結(jié)果把高優(yōu)先級(jí)的核心列簇延遲也拉高了幾個(gè)數(shù)量級(jí)。這就是典型的“寫壓力不一致”引發(fā)的事故。多列簇共享同一個(gè)RocksDB實(shí)例運(yùn)行時(shí)不同列簇的寫入負(fù)載天然存在差異——有的高頻小KV有的大批量順序?qū)懹械氖桥紶柕谋l(fā)式寫入。如果只關(guān)注總TPS而忽略每個(gè)列簇的分布寫壓力不一致帶來的連鎖反應(yīng)會(huì)在不經(jīng)意間擊穿整個(gè)服務(wù)的穩(wěn)定性水位。這篇文章不想停留在概念層面而是把多列簇下寫壓力不一致這類問題的機(jī)理、排查鏈路和治理經(jīng)驗(yàn)完整梳理一遍。無論你是在運(yùn)維自建的RocksDB集群還是在業(yè)務(wù)里直接嵌入RocksDB當(dāng)?shù)讓右孢@套方法論都可以直接套用。2. 多列簇的設(shè)計(jì)邏輯與壓力不一致的根源2.1 列簇到底“共享”了什么又“隔離”了什么RocksDB的Column Family列簇經(jīng)常被比作關(guān)系型數(shù)據(jù)庫(kù)里的分表或者邏輯庫(kù)但對(duì)比并不完全準(zhǔn)確。從實(shí)現(xiàn)上看多列簇之間確實(shí)共享了WAL日志、共享同一個(gè)DB實(shí)例的元數(shù)據(jù)、共享同一套后臺(tái)線程池flush線程和compaction線程也共享同一份Block Cache如果你的配置是默認(rèn)的LRUCache。但是每個(gè)列簇內(nèi)部有獨(dú)立的memtable、獨(dú)立的SST文件集合、獨(dú)立的LSM樹層級(jí)結(jié)構(gòu)。這意味著什么最直接的含義是數(shù)據(jù)是邏輯隔離的但計(jì)算資源是物理共享的。無論哪個(gè)列簇觸發(fā)flush占用的是同一批后臺(tái)線程無論哪個(gè)列簇引起compaction風(fēng)暴消耗的是同一批CPU和同一份磁盤IO帶寬。這就能解釋很多“怪現(xiàn)象”了——你用CF1寫熱點(diǎn)數(shù)據(jù)用CF2寫大量低頻日志兩者互不相干但CF2一旦進(jìn)入compaction密集期CF1的讀寫延遲照樣會(huì)被拉高因?yàn)楹笈_(tái)線程池的資源被CF2的compaction任務(wù)吃掉了大半。2.2 不同列簇的寫放大天然不同這是“不一致”的第一推動(dòng)力寫放大Write Amplification這個(gè)概念對(duì)RocksDB使用者來說并不陌生。Leveled Compaction架構(gòu)下寫放大通常在10到30多倍的區(qū)間內(nèi)浮動(dòng)具體取決于數(shù)據(jù)量級(jí)、Level大小比例、compaction觸發(fā)閾值等參數(shù)。但放在多列簇環(huán)境下問題會(huì)進(jìn)一步分化不同的列簇因?yàn)閿?shù)據(jù)特征不同、Key分布不同、刪除操作比例不同寫放大系數(shù)可能天差地別。舉一個(gè)很直觀的對(duì)比。假設(shè)我們有兩個(gè)列簇meta_cfKey為業(yè)務(wù)IDValue很小幾十字節(jié)寫入后很少更新幾乎不刪除。這種數(shù)據(jù)在compaction過程中SST文件可以很快被推到深層Level參與merge的文件數(shù)量相對(duì)少寫放大系數(shù)可能只有10倍出頭。cache_cf頻繁覆蓋寫入同一個(gè)Key而且伴隨大量Delete操作。每次compaction需要反復(fù)merge舊版本數(shù)據(jù)加上刪除墓碑tombstone的存在文件合并的代價(jià)成倍上升寫放大系數(shù)可能輕松突破50倍甚至更高。同樣是一秒寫入1MB數(shù)據(jù)cache_cf給后臺(tái)帶來的磁盤寫入量可能是meta_cf的五倍。如果這兩個(gè)列簇混在同一個(gè)實(shí)例里資源消耗的不均衡會(huì)直接表現(xiàn)為看起來總量不大的寫入請(qǐng)求卻在后臺(tái)撬動(dòng)了超預(yù)期的物理IO。這一點(diǎn)是理解“寫壓力不一致”的核心。很多人在排查故障時(shí)只看前臺(tái)QPS完全忽略后臺(tái)任務(wù)的影響面而多列簇場(chǎng)景下的性能問題多數(shù)時(shí)候恰恰是后臺(tái)的compaction/flush活動(dòng)在暗中主導(dǎo)一切。2.3 觸發(fā)閾值雖然“各自獨(dú)立”但資源池是共享的RocksDB的每個(gè)列簇有獨(dú)立的compaction觸發(fā)閾值。比如level0_file_num_compaction_trigger默認(rèn)是4當(dāng)一個(gè)列簇的L0層SST文件數(shù)達(dá)到4時(shí)會(huì)觸發(fā)Compactionwrite_buffer_size默認(rèn)64MB每個(gè)列簇的memtable寫滿后會(huì)觸發(fā)flush。但注意觸發(fā)是獨(dú)立的執(zhí)行卻不是。后臺(tái)線程池max_background_jobs默認(rèn)是2早期版本是max_background_compactions和max_background_flushes兩個(gè)參數(shù)也就是說不管你有多少個(gè)列簇同時(shí)觸發(fā)compaction同一時(shí)刻能夠并行執(zhí)行的后臺(tái)任務(wù)數(shù)量是固定的。生產(chǎn)環(huán)境里我見過太多類似配置一個(gè)實(shí)例開了五六個(gè)列簇但后臺(tái)線程數(shù)沒調(diào)整過默認(rèn)只有兩個(gè)線程。結(jié)果某個(gè)列簇進(jìn)入大批量寫入后compaction任務(wù)持續(xù)占滿線程池其他列簇的flush等待時(shí)間不斷累積——而flush一旦跟不上memtable的寫入速度就會(huì)觸發(fā)Write Stall也就是全局限速寫。整個(gè)實(shí)例的寫入表現(xiàn)立刻惡化。3. 壓力不一致造成的幾類連鎖反應(yīng)資源競(jìng)爭(zhēng)只是表象壓力不一致導(dǎo)致的連鎖反應(yīng)其實(shí)更值得細(xì)說。很多故障并不是“某列簇把資源吃完了”這么簡(jiǎn)單而是多列簇之間的相互干擾在系統(tǒng)里形成了惡性循環(huán)。3.1 Write Stall這類“全局懲罰”會(huì)被低優(yōu)列簇激活RocksDB的Write Stall機(jī)制是保護(hù)存儲(chǔ)引擎的兜底手段。當(dāng)某個(gè)列簇滿足以下條件之一時(shí)RocksDB會(huì)限制甚至?xí)和K袑懭胱⒁馐撬辛写氐膶懭雖emtable數(shù)量超過max_write_buffer_number默認(rèn)2表明flush跟不上寫入速度L0層SST文件數(shù)超過max_write_buffer_number對(duì)應(yīng)的停寫閾值待compact的字節(jié)數(shù)超過max_compaction_bytes設(shè)置的停滯線問題在于這個(gè)“暫停所有寫入”的懲罰是全局生效的。一旦低優(yōu)先級(jí)的日志列簇因?yàn)閷懭脒^快導(dǎo)致memtable積壓觸發(fā)了Write Stall那么連帶著核心列簇的寫入也會(huì)被按在地上摩擦。在實(shí)際排查中通過RocksDB的rocksdb.db.write.stall相關(guān)監(jiān)控指標(biāo)你能清楚地看到stall事件開始和結(jié)束的時(shí)間點(diǎn)往往和低優(yōu)列簇的高峰寫入窗口高度重合。這個(gè)特點(diǎn)非??右?yàn)樗鼤?huì)讓故障看起來像是核心鏈路自己出了問題——實(shí)際上真正的導(dǎo)火索是隔壁列簇的失控寫入。3.2 Compaction帶寬搶占導(dǎo)致的“吞吐真空”如果Write Stall是明面上的暴擊那么compaction帶寬的搶占就是暗地里的持續(xù)放血。這里的核心矛盾在于不同列簇的compaction任務(wù)在同一個(gè)線程池里排隊(duì)而任務(wù)本身對(duì)磁盤IO的需求差異極大。小文件的compaction可能只需要幾十毫秒大范圍的Level合并可能持續(xù)幾分鐘、幾十分鐘。在多列簇場(chǎng)景下一個(gè)低優(yōu)列簇的大規(guī)模compaction任務(wù)可能把線程池里的Worker長(zhǎng)期占用導(dǎo)致高優(yōu)列簇的小型compaction任務(wù)排隊(duì)等待。更深一層的問題是L0層及早期Level的compaction延遲會(huì)反向加劇寫放大。如果L0到L1的compaction遲遲不能推進(jìn)L0文件不斷堆積會(huì)導(dǎo)致查詢性能下降同時(shí)后續(xù)的compaction需要合并的文件數(shù)量變大產(chǎn)生不必要的額外IO。最終的結(jié)果是低優(yōu)列簇“持續(xù)放血”的同時(shí)高優(yōu)列簇也在被迫吞下被放大的寫開銷。3.3 列簇之間內(nèi)存分配的隱形沖突還有一個(gè)容易被忽略的點(diǎn)Block Cache。默認(rèn)情況下多個(gè)列簇共享同一個(gè)Block Cache。數(shù)據(jù)熱度的差異會(huì)導(dǎo)致列簇間對(duì)緩存的爭(zhēng)搶——高優(yōu)列簇的熱點(diǎn)數(shù)據(jù)可能被低優(yōu)列簇的scan操作沖擊頻繁被淘汰讀放大因此上升。如果某個(gè)列簇的數(shù)據(jù)量極大且經(jīng)常做全表掃描這種“緩存污染”效應(yīng)會(huì)非常明顯。經(jīng)典案例是一個(gè)在線服務(wù)里用RocksDB存了兩種數(shù)據(jù)一種是核心配置讀多寫少、體積小、高優(yōu)另一種是歷史痕跡列表偶發(fā)全量掃描、體積大、低優(yōu)。結(jié)果因?yàn)楣蚕鞡lock Cache核心配置的命中率被低優(yōu)列簇的scan擠到腳踝白白多了大量磁盤讀。4. 定位多列簇寫壓力問題的完整排查鏈路說實(shí)話多列簇寫壓力問題的排查之所以讓人頭大是因?yàn)楸砻姘Y狀通常是“整體變慢”而不是“某個(gè)列簇變慢”。從監(jiān)控圖上看可能只有整體延遲在漲、磁盤IO在漲很難一眼鎖死根因。這里分享一套我用下來比較順手的排查路徑。4.1 第一步分列簇確認(rèn)寫入量分布而不是看總量打開RocksDB的STATISTICS或者接入Prometheus后監(jiān)控rocksdb.cf.write.nanos之類的指標(biāo)先把每個(gè)列簇的寫入耗時(shí)和請(qǐng)求量分開看。這一步的關(guān)鍵是回答一個(gè)問題到底是誰在寫我習(xí)慣先把每個(gè)列簇的QPS、每秒寫入字節(jié)數(shù)拉出來做對(duì)比。如果發(fā)現(xiàn)某個(gè)列簇的寫入量占了總量的八成以上但業(yè)務(wù)上它并不屬于核心鏈路那么壓力不一致就已經(jīng)坐實(shí)了。這里補(bǔ)一個(gè)容易踩的坑很多人只看QPS每秒請(qǐng)求數(shù)不看寫入字節(jié)數(shù)。但RocksDB的寫入耗時(shí)更多是由數(shù)據(jù)量級(jí)決定的而不是請(qǐng)求次數(shù)。一個(gè)寫1MB大Value的請(qǐng)求可能抵得上一千個(gè)小Value請(qǐng)求的壓力。所以務(wù)必兩個(gè)指標(biāo)一起看。4.2 第二步解析Compaction Stats找出寫放大異常的列簇RocksDB提供了一個(gè)非常重要的工具方法GetCompactionStats()或者是通過db_bench、ldb等工具導(dǎo)出的compaction統(tǒng)計(jì)信息能按列簇列出Compaction次數(shù)與耗時(shí)讀入/寫出的字節(jié)數(shù)寫放大系數(shù)寫入磁盤字節(jié)數(shù) / 新寫入數(shù)據(jù)量實(shí)戰(zhàn)中我通常會(huì)重點(diǎn)盯“寫放大系數(shù)”這個(gè)值。正常業(yè)務(wù)場(chǎng)景下Leveled Compaction的寫放大在10到30倍之間是可接受的。如果某個(gè)列簇長(zhǎng)期處在40倍、50倍以上就說明這個(gè)列簇的compaction設(shè)計(jì)有問題——要么刪除操作過多、要么Level層數(shù)不合理、要么Key分布導(dǎo)致merge代價(jià)過高。下面的表格可以作為一個(gè)快速參考列簇名稱寫入速率寫放大系數(shù)Compaction耗時(shí)占比風(fēng)險(xiǎn)等級(jí)core_data2MB/s12x20%低biz_log15MB/s35x55%高cache_cf5MB/s48x65%高如果biz_log和cache_cf這兩個(gè)列簇和core_data共享同一個(gè)實(shí)例那么core_data的延遲隨時(shí)可能被它們拖垮。4.3 第三步用慢日志和堆棧確認(rèn)“誰在等待”監(jiān)控?cái)?shù)據(jù)顯示是低優(yōu)列簇在刷寫但最終確認(rèn)還需要看請(qǐng)求級(jí)別的等待。RocksDB的rocksdb.db.write.stall.micros指標(biāo)可以告訴你寫停頓時(shí)長(zhǎng)“compaction”相關(guān)的等待則經(jīng)常出現(xiàn)在rocksdb.db.compaction.pending這類指標(biāo)里。如果看到待處理compaction的字節(jié)數(shù)在持續(xù)堆積另一個(gè)信號(hào)是后臺(tái)線程池打滿。更進(jìn)一步的做法是抓取RocksDB線程池的運(yùn)行狀態(tài)通過ThreadStatus能查看后臺(tái)線程當(dāng)前執(zhí)行的任務(wù)屬于哪個(gè)列簇、是flush還是compaction、已經(jīng)執(zhí)行了多久。當(dāng)某個(gè)低優(yōu)列簇的compaction任務(wù)長(zhǎng)時(shí)間霸占工作線程時(shí)這個(gè)工具能直觀暴露問題。實(shí)測(cè)下來這個(gè)定位手段比單純看監(jiān)控指標(biāo)高效得多因?yàn)樗苤苯咏ⅰ熬€程——列簇——任務(wù)類型”的對(duì)應(yīng)關(guān)系。4.4 第四步結(jié)合系統(tǒng)指標(biāo)交叉驗(yàn)證最后交叉驗(yàn)證一下磁盤層的情況。寫壓力不一致導(dǎo)致的問題絕大多數(shù)都會(huì)映射到IO層。用iostat看%util、avgrq-sz、await幾個(gè)關(guān)鍵值。如果發(fā)現(xiàn)磁盤帶寬明顯被打滿再看是隨機(jī)寫居多還是順序?qū)懢佣唷猚ompaction產(chǎn)生的寫入更多是順帶批量性質(zhì)的順序?qū)懚芭_(tái)業(yè)務(wù)寫入往往是隨機(jī)寫。如果兩種IO特征交織在一起且隨機(jī)寫的平均時(shí)延遠(yuǎn)高于正常水平多半就是compaction在搶磁盤尋道時(shí)間。這套“分列簇看指標(biāo) → 解析compaction → 抓等待線程 → 交叉驗(yàn)證IO”的鏈路走下來基本能快速鎖定到底是誰在制造壓力。剩下的問題就是怎么治理。5. 從參數(shù)調(diào)整到架構(gòu)拆分治理方案與權(quán)衡治理方案不能一拍腦袋就定。你需要先明確一點(diǎn)壓力不一致是正常的完全消除不一致既不現(xiàn)實(shí)也沒必要。真正該做的是阻斷不一致帶來的跨列簇傷害。下面按投入成本從低到高給出幾個(gè)可行的方向。5.1 優(yōu)先調(diào)整后臺(tái)線程池別讓“默認(rèn)值”背鍋如果在生產(chǎn)環(huán)境采用多列簇方案第一件事就是把max_background_jobs調(diào)大。一般建議至少和CPU核數(shù)掛鉤比如8核機(jī)器可以設(shè)為416核可以為8。但要留意后臺(tái)線程數(shù)是CPU和磁盤IO之間的權(quán)衡調(diào)大了會(huì)帶來更頻繁的任務(wù)切換和內(nèi)存開銷實(shí)際需要實(shí)測(cè)調(diào)整。還有另一個(gè)容易被忽略的參數(shù)max_subcompactions。它允許單個(gè)compaction任務(wù)被拆分為多個(gè)子任務(wù)并行執(zhí)行對(duì)緩解單個(gè)大列簇獨(dú)占線程池的問題很有幫助。配合max_background_jobs調(diào)整能讓大體積的compaction更快完成減少長(zhǎng)時(shí)間占用線程池的概率。5.2 給低優(yōu)列簇套上“軟限速”RocksDB原生提供了RateLimiter機(jī)制可以在全局層面限制寫入速度。新版RocksDB支持按列簇設(shè)置不同的寫入速率上限。思路是這樣的給低優(yōu)列簇日志、流水、歷史數(shù)據(jù)設(shè)置一個(gè)相對(duì)嚴(yán)格的寫入限速比如50MB/s。給高優(yōu)列簇留足余量別讓限速成為瓶頸。這個(gè)方案的優(yōu)點(diǎn)是改動(dòng)小、見效快。缺點(diǎn)是RateLimiter的粒度比較粗它限制的是寫入請(qǐng)求本身的速率不能直接控制compaction的消耗速度。在實(shí)操中還可以結(jié)合SlowdownWrite和StopWrite兩套閾值階梯設(shè)置讓低優(yōu)列簇在堆積時(shí)先降速再全停而不是一下子拖累全局。5.3 調(diào)整觸發(fā)與Level策略讓低優(yōu)列簇“少折騰”面對(duì)寫放大異常偏高的列簇調(diào)整Compaction策略能從根本上減少后臺(tái)資源消耗。對(duì)寫入量大但歷史數(shù)據(jù)不需要頻繁讀取的列簇考慮使用Universal Compaction Style。它的寫放大通常低于Leveled適合“寫多讀少、導(dǎo)入型”數(shù)據(jù)。對(duì)于存在大量覆蓋寫和刪除的列簇適當(dāng)調(diào)大write_buffer_size讓更多數(shù)據(jù)在內(nèi)存中完成合并減少早期的flush與compaction頻率。對(duì)低優(yōu)列簇可適當(dāng)提高level0_file_num_compaction_trigger讓L0層多積壓一些文件再觸發(fā)compaction減少小文件合并的“折騰”次數(shù)。但這會(huì)讓L0層查詢性能略降需要權(quán)衡。這些方案的核心思路其實(shí)就一句話讓不同列簇通過不同的內(nèi)部策略去匹配自己真實(shí)的數(shù)據(jù)訪問模式減少不必要的后臺(tái)負(fù)擔(dān)。5.4 物理隔離把壓力不一致控制在架構(gòu)層面如果參數(shù)調(diào)整已經(jīng)做到位故障依然反復(fù)出現(xiàn)那就需要考慮更徹底的方案——物理隔離。常見的做法有幾種按業(yè)務(wù)優(yōu)先級(jí)拆DB實(shí)例核心數(shù)據(jù)放一個(gè)RocksDB實(shí)例日志數(shù)據(jù)放另一個(gè)實(shí)例。不同實(shí)例走不同的線程池、不同的磁盤、不同的部署單元。這是最徹底也是成本最高的方案。多目錄/多盤部署如果一個(gè)實(shí)例拆不了至少在系統(tǒng)層面把不同列簇的SST目錄拆到不同磁盤上。RocksDB支持--dir參數(shù)指定列簇的數(shù)據(jù)目錄這樣compaction的IO落盤壓力可以分散。容器化隔離給高優(yōu)列簇對(duì)應(yīng)的實(shí)例單獨(dú)設(shè)置CPU綁核避免和低優(yōu)列簇爭(zhēng)搶CPU資源。這里提醒一下拆實(shí)例并不是萬能的。拆分后需要處理跨實(shí)例的數(shù)據(jù)一致性、備份任務(wù)變多、監(jiān)控復(fù)雜度上升等額外問題。所以我通常建議先做參數(shù)和限速層面的治理把物理隔離當(dāng)作最后一步的大招。6. 從一次真實(shí)壓測(cè)看多列簇調(diào)優(yōu)的見效過程理論說再多不如看一組實(shí)測(cè)數(shù)據(jù)。我曾經(jīng)在一個(gè)模擬業(yè)務(wù)場(chǎng)景下做過一次對(duì)比壓測(cè)兩個(gè)列簇一個(gè)模擬核心交易數(shù)據(jù)一個(gè)模擬突增的日志寫入。初始配置下兩個(gè)列簇共享默認(rèn)后臺(tái)線程不區(qū)別處理。當(dāng)日志列簇寫入速度從5MB/s拉高到30MB/s時(shí)核心列簇的寫入P99直接從8ms漲到了96ms。隨后我做了三件事將max_background_jobs從2調(diào)到6并把max_subcompactions設(shè)為4給日志列簇單獨(dú)配置了RateLimiter限速在50MB/s以內(nèi)同時(shí)將它的write_buffer_size從64MB調(diào)大到128MBlevel0_file_num_compaction_trigger從4提升到8將核心列簇單獨(dú)分配到一塊獨(dú)立的SSD目錄。同樣的壓測(cè)場(chǎng)景下核心列簇的寫入P99回落到10ms左右日志列簇自身的吞吐雖然受到一定約束但業(yè)務(wù)上完全可以接受。這個(gè)調(diào)整過程實(shí)際上就是把“不可控的資源搶占”變成了“可控的資源分配”——前者讓人心慌后者讓人安心。有一點(diǎn)很值得注意壓測(cè)驗(yàn)證的時(shí)候不要只測(cè)“正常狀態(tài)”一定要測(cè)“極端狀態(tài)下的隔離性”。也就是說在日志列簇瘋狂寫入時(shí)核心列簇的指標(biāo)是什么表現(xiàn)。只有極端場(chǎng)景下才能暴露出參數(shù)的真實(shí)短板。這也是我在實(shí)戰(zhàn)中反復(fù)強(qiáng)調(diào)的一點(diǎn)——性能不是“平均狀態(tài)”下的性能而是“有人搗亂時(shí)”的性能。7. 幾點(diǎn)實(shí)錄經(jīng)驗(yàn)與最后的建議最后分享幾個(gè)我自己在多列簇運(yùn)維中總結(jié)的零散心得不按教程順序純粹是踩坑換來的經(jīng)驗(yàn)。第一監(jiān)控一定按列簇維度去做不要只做DB總維度。RocksDB暴露了豐富的列簇級(jí)指標(biāo)但默認(rèn)的Prometheus采集配置有時(shí)候不會(huì)區(qū)分列簇標(biāo)簽。如果沒有做這一層故障發(fā)生后你只能憑猜測(cè)定位效率極低。哪怕初期只接核心列簇的指標(biāo)也比沒有強(qiáng)。第二對(duì)寫壓力不一致要有預(yù)期管理。我在設(shè)計(jì)存儲(chǔ)方案時(shí)通常會(huì)在需求階段就評(píng)估每個(gè)列簇的真實(shí)寫入特征——是高頻小寫還是批量大包、是否包含大量Delete、數(shù)據(jù)生命周期多長(zhǎng)。這些特征直接決定列簇的參數(shù)配置方向。而不是把所有列簇都當(dāng)成同一種負(fù)載來對(duì)待等到線上出問題了再追悔莫及。第三調(diào)參一定要記錄基線。RocksDB的參數(shù)調(diào)優(yōu)高度依賴具體場(chǎng)景同樣的參數(shù)在不同機(jī)器、不同數(shù)據(jù)量下表現(xiàn)可能完全不同。每次做參數(shù)調(diào)整我習(xí)慣在變更記錄里寫清楚改了什么、為什么改、預(yù)期收益是什么、實(shí)際結(jié)果如何。長(zhǎng)期沉淀下來這些記錄比任何官方文檔都值錢。第四高危列簇寧可不共享實(shí)例。如果有一個(gè)列簇明確是“批量導(dǎo)入型”或者“日志型”而資源預(yù)算又充分我的建議是直接物理拆分出去不要賭它不會(huì)干擾其他列簇。一次線上事故的代價(jià)可能會(huì)遠(yuǎn)超一臺(tái)額外機(jī)器的成本。RocksDB的多列簇設(shè)計(jì)本身是優(yōu)秀的它讓我們能在同一個(gè)實(shí)例里優(yōu)雅地組織不同業(yè)務(wù)的數(shù)據(jù)。但越是靈活的機(jī)制越需要精確的治理。寫壓力不一致帶來的連鎖反應(yīng)本質(zhì)上是一個(gè)資源調(diào)度問題——理解了底層共享與隔離的邊界你就能在故障發(fā)生前提前布防而不是在故障發(fā)生后疲于奔命。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
www.1024久久| 五月婷婷婷| 江苏少妇性BBB搡BBB爽爽爽 | 婷婷久久在线| 五月丁香激情综合网| 好好干av| 91热视频色网站| 欧洲精品欧洲情| 成人超碰网| 五月天激情婷婷小说| 9在线9在线婷婷在线国产| 五月婷婷色综图片| 天天干夜夜想| 99热99这里有免费的精品| 日韩综合久| 日本三级中国三级99人妇网站| 丁香六月色婷婷| 天天射影院| 九九在线精点品| 欧美va精品va老师va| 婷婷黄色网| 色色五月婷| 九九热99精品| 丁香五月日啪| 全高清无码视頻| 四LLL少妇BBBB槡BBBB| 5五月综合网亚洲| AV九九| 琪琪色综合网站| 99免费热视频在线| 夜夜操,天天撸| 五月天丁香啪啪综合| 久婷自拍视频| 九月色婷婷综合亚洲| 六月婷婷五月丁香| 99啪啪视频| 思思热视频| 丁香五月天偷拍| 少妇婷婷五月天| 国产古装妇女野外A片| 五月天狠狠| 色婷綜合网| 异能之下短剧免费观看全集| 99精品在线观看| 手机在线视频观看9| 欧美日韩成人在线| 俺去也五月| 亚洲综合99| 丁香五月六月综合欧美| 五月天综合色| 五月天色区| 996热re视频精品视频这里| 天天爽天天爽天天爽天天爽天天爽 | 26uuu成人网| 激情五月天综合图片小说网站| 丁香五月欧美婷婷综合| 色网五月婷婷| 激情 久久 婷婷| 色色色色综合网| 91操在线视频| 天天日夜夜爽| 久久人妻熟女一区二区| 日韩无码AV电影网站| 天天色综网| 香蕉综合在线| 婷婷五月天成人| 欧美六月| 亚洲va成人va成人va在线观看| 99这里有精品免费| 白天AV月月| 成人精品一区二区三区四区五区| 9热在线观看| Caoporn公开| 婷婷酒色网| 91在线视频观看午夜福利| 综合久久婷婷99| 久久九九Com| 99啪啪| 亚洲精品色| 日韩少妇内射免费播放| 五月婷婷丁香综合,亚洲天堂| 激情綜合W W W,激情五月天| 9久热精品在线视频| 超碰人人摸人人操| A在线观看| 五月婷婷丁香| 西瓜美女a片| 国产午夜精品久久久观看| 99热这里只有精品在线观看| 五月丁香六月色| 色色色欧美| 欧美搡BBBBB摔BBBBB| www.五月天婷婷| 久久99精品视频| 超碰在线99| 中文字幕按摩做爰| 涩涩婷婷五月| 亚洲五月天伊人| 26uuuuuuuu国产| 开心激情五月天网| 97人人操人人干| 老妇六区| 丁香六月天| 亚洲视频图片婷婷五月| 大香蕉五月丁香| 久久玖玖综合| 六月丁香婷| 激情五月综合网丁| 丁香视频| 婷婷六月色情| 久久这里有精品| 久久综合九色综合97婷婷| 色婷婷第四色| 欧日美女Va| 五月婷婷丁香五月婷婷| 99re这里只有| 玖玖五月丁香| 五月婷婷在线观看| 久色网| 99re资源在线视频导航| 天天日天天狠狠操| www.婷婷五月天| 99这里只有精品| 丁香狠狠操| 色婷五月婷婷| 中文字幕不卡+婷婷五月| 成人无码精品1区2区3区免费看| 九九热av| 热久久色| 99er热精品视频| AV中文在线| 国产XXXX搡XXXXX搡麻豆| 1024在线视频| www,av好吊操| 狠狠色噜噜狠| 夜夜操少妇| 99热| 97性高潮久久久| www.狠狠狠狠| 亚洲成av人影院| www99久久| 五月花婷婷丁香| 婷婷色色五月天| 丁香五月综合激情久久潮喷| 五月婷导航| 操91| 日韩成人电影AV| 日本五月婷婷| 色婷婷AV在线观看| 天天操屄网| 久久草大香蕉| 五月天第四色开心色播| 丁香六月激情综合| 六月99天天婷婷激情综合| 99色亚洲| 色婷婷丁香社综合| 丁五月激情视频免费| 婷婷色综合| 激情五月婷婷| 日本天天色| 久久五月综合| 丁香五月成人| 婷婷五月天另类视频| www,久久久| 色婷婷影| 色综合久久综合中文综合网| 好看的国产精品| 色老久久| 综合亚洲六月婷婷在线| 六月婷婷五月丁香| 日日夜夜天天爽| 久久久久久久久久久久久9| 狠狠五月激情在线| www.婷婷五月天啪啪| 久久综合99| 久久免费精品小视频| 超碰在线精品| 五月人人丁香婷婷五月人人丁香| 美国十月色婷婷在线观看| 殴美日比视频| 伊人久久大香蕉网| 91久久久久久久久18| 99热都是精品| 色播丁香| 成人无码髙潮喷水A片| 丁香激惜男女| 十二区无码| 天天爽,夜夜爽| 麻豆AV一区二区三区| 99热思思在线观看| 日韩 mm 不卡| 日本色婷婷| 99婷婷五月天| 丁香婷婷综合色五月激情国产基地| 五月天开心色情网| 六月丁香婷婷五月天| 婷婷五月色情天| 荫道BBWBBB高潮潮喷| 清色五月天| 丁香色色网| 婷婷五月开心中文字幕色| 操操碰| 性小说五月天| 丁香五月婷婷99| 99在线免费视频| 婷香五月网在线| 啪啪操超碰| 五月天激情黄色小说在线观看| 色天堂97| 色五月婷婷激情五月| 欧美成人猛片AAAAAAA| 99热精地址| 亚洲AV成人无码电影| 五月丁香色婷婷久久| 婷婷激情肏屄网| 狠狠色噜噜狠| 婷婷六月天| 激情六月丁香综合| 中文在线成人| 69天堂99| 九九久久99| 五月天激情社区| 情色五月天网站| 亚洲V国产V欧美V久久久久久| 久久国产性爱A V| 婷婷丁香91综合| 99久久久| 婷婷五月丁香基| 成人网站av免费网站推荐| 97干在线视频| 五月丁香久久| 偷拍91九色| 国产 亚洲 在线| www.91av.com| 337p大胆噜噜噜噜噜91Av| 99这里只有精品|v| 色婷视频| 欧洲一区二区| 久久码久久无清| 国产精品第一国产精品| 亚洲操逼网| 99热费观看| 六月婷婷无码| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | www.婷婷网| 在线sebiav精品视频| 婷婷伊人五月天| 综合网亚洲| 婷婷五月免费在线| 九九热这里只有精品5| 日本综合99| 亚洲操人| 亚洲第一第二网站| 五月丁香激情综合网| 可似看的AV| 天天干天天日日| 色五月婷婷自拍| 日本人妻伦在线中文字幕| 色五月天堂| 国产精品VA在线| 99久久99热这里只有精品| 精品久色| 日本美女天天日天天爽| 一本道综合网| 激情五月天啪啪| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 一区二区三区四日本| 亚洲精品亚洲人成人网| www.婷婷六月天| 久99热| 亚洲综合视频网| 伊人九九综合| 成人网站在线观看视频| 97色干| 九九综合九九| 袁子仪视频观看| 九九99精品| 人妻性操逼中文字幕 国产| 婷婷五月天激情小说| 国内一级精品| 久久久com| .comwww在线观看免费操| 色五月美女| 97涩婷婷婷婷基地| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 国产精品久久久久久久久久| 97人人干| 99视频热99| 色色9 9| 91精选国| 欧美性久| 九九国产视频| 97色婷婷五月天| 五月天婷爱综合| 精品无码99| 亚洲日韩欧美综合VA| 天天爽天天干天天| 欧美人人操| 色五月天堂| 91碰| 99热这里有精品| 丁香五月天91| 久久久久9| 99热99思午夜精品| 色播激情五月天| 96精品久久久久久久久| 欧类av怡春院| 成人视频在线免费播放| 色综合五月婷婷狠狠干| 五月综合色| 伊人久久婷婷| Y11111111111少妇电影院| 殴美日韩成人| 提提热五月天婷婷| 成人免费在线电影| 亚洲亚洲人成综合网络| 综合久久97| 激情5月婷婷狠狠干| 丁香六月婷婷综合在线| 97视频久久| 色婷婷成人做爰A片免费看网站| 五月天婷婷AV| 五月伊人91| 久久精品系列| 欧美日韩aaaa| 成人AV在线电影| 日产精品久久久久久久蜜臀| 91黄操| 秋霞电影理论| 色偷偷综合| 97操碰在线97| 综合狠狠干| 欧美性爱五月天| 丁香五月天综合| 欧在线一区| 做爱夜夜干天天操| 五月婷婷啪啪啪啪| 99激情网| 五月婷婷在线免费| 密着浓厚中出乚交尾GvG935| 久久香蕉网| 色色综合网络| 三人荫蒂添的好舒服A片| 日本九九网| 色丁香在线视频| 丁香五月婷婷视频| 五月丁香色色色| 五月婷婷六月丁香激情深爱| 久久久99视频| 黄色五月婷| 99热这里只有精品2024| 国产精品人人做人人爽人人添| 婷婷五月天色色| 五月丁香久久呀| 婷婷五月综合视频| 欧美成人精品A片免费一区99| 婷婷色播婷婷| 色噜噜狠狠色综合网| 另类综合国产| 久9综合| 婷婷色五月噜噜| 五月婷婷色播| 欧美日韩一区二区三区四区| 日日夜夜综合| 啪啪操网| 99免费热视频在线| 久久 中文 日本| 婷婷五月天激情网址| 超碰在线免费| 丁香五月在线人妻| 99久久综合网| 6080av| 91精品丝袜久久久久久| 婷婷综合五月| 色婷婷亚洲婷婷| 99久扒热| 五月天婷婷爱| 日本va欧美va欧美va精品| 五月婷婷三级| 五月情丁香色| 伊人在线视频| 五月婷婷丁香狠狠撸久久| 日本精品人妻无码77777| 激情另类综合| 99热这里全都是精品| 五月天亚洲图片婷婷| 亚洲九区| 2025最新亚洲激情在线| 久久38视频| 99热亚洲精品| 久久综合综合久久| 色999五月色| 色欲婷婷五月天| 丁香五月色| 婷婷爱在线观看| 天天干天天做| 操啊操av| 91视频久久久| www.婷婷| 天天日天天日天天搞| 日本97在线看片| 五月丁香六月婷婷激情视频在线观看免费 | 99久久婷婷| 欧美天天干五月丁香| 99爱在线视频| 99热只有这里才是精品| 五月丁香综合中文| 思思99热| 婷婷丁香五月综合免费视频百花| 99热很操老逼| 大香蕉综合| 久久66精品| 成人无码中文| 五月丁香六月激情在线| 五月综合色播播丁香婷婷| 亚洲免费在线观看岛国| 五月激情站| 开心五月激情五月丁香五月婷婷| 日韩操人| 五月婷婷熟女| 婷婷色基地在线看 | 97操操| 日本精品。999| 精品热青草| 99久在线精品99re8热| 欧美69色| 中文字幕在线免费观看视频| www色中色综合| 五月天丁香综合| 日本不卡高字幕在线2019| 狠狠色婷婷六月激情网| 婷婷丁香六月五月天| 超碰69天堂| 色色色婷婷五月| 激情综合网丁香| 青吴乐视频| 亚洲av网站| 天天干肏夜夜| 狠狠综合久久| 五月丁香综合中文| 91呦呦呦| 色情五月丁香| 五月婷婷视频| www色婷婷com| 久久九九99字幕| 99热这里都是精品| 亚洲另类毛片| 色婷婷综合久久| 99热手机在线精品| 日本欧美国产| 色婷婷久久综合中文久久一本| 91久久久久久久久久| 91操人视频| 六月丁香VA| 激情五月天婷婷免费观看| 99视频久久久| 丁香婷婷五月人体| av网站免费在线| 高清视频一区| xx久久| 丁香五月六月婷婷殴美综合| 婷婷热婷婷色| 激情久久久| 亚洲综合在线网站| 激情婷婷综合网| 国产成人综合电影| 99热免费| 亚洲人妻av伦理| 97色婷婷| 操操人人| av在线免费播放| 丁香六月综合激情| 五月激情六月综合| 日日夜夜狠狠| 丁香五月综合激情性爱| 久久与婷婷| 蜜乳中文字| 五月色俺婷婷| 亚洲激情97五月天| 综合久久99| 狠婷婷五月| 99热大片| 亚洲bt丁香五月天婷婷激情小说| site:xiongshengzz.com| 91碰| 五月天色导航婷婷资源婷婷| 久久视屏这里只有久久| www.yw尤物| 99久在线观看| 亚洲网站999| 欧美日韩国产一区| 粉嫩av懂色av蜜臀av熟妇| 国产操B视频| 色五月婷婷伊人| 国产精品人妻在线网址| 先锋五月婷婷丁香草草| 日韩成人精品中文字幕| 六月丁香婷婷亚洲中文玖玖| 婷婷五月偷拍| 色婷久| 免费亚洲婷婷中文字幕| 狠狠色婷婷7777久| 色色999三级片| 五月丁香久久综合91| 人人肏逼视频在线一区二区| 婷婷狠狠97| 97影院一级片| 97涩涩丁香五月天| 亚洲色网络| 亚洲黄色精品| 五月色综合| 免费V片在线| 婷婷丁香人妻天久久| 九九视频热| 啪啪婷婷五月天激情| 91Chinese在线| 激情九月婷婷九月| 超碰色婷婷| 欧美日韩大黄| 婷婷欧美| 极品人妻XXXXOOOO| 色婷婷影| 六月丁香综合999| 欧美成人网99网| 亚洲精品国产成人AV在线| 日本猛少妇色XXXXX猛叫| 国产操B| 亚洲久艹| 精品思思久久| 亚洲激情五月丁香久久久久| 99ri在线观看视频| 国产AV国片偷人妻麻豆| 26.uuu丁香五月婷婷| 亚洲精品操一操、噜一噜、摸一摸、爽 | 婷婷啪啪| 婷婷五月在线播放| 免费看欧美成人A片无码| 婷婷免费视频| 色五月五月婷婷| 91操熟女| 久久99免费视屏| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 婷婷综合精品视频97| 久久视频婷婷| 色五月丁香A欧美com| 五月丁香色综合| 无码四色色色| 激情五月天综合网| 九热视频在线伦| 色婷婷五月天天天天天| 五月丁香少妇| 婷婷五月天激情综合深爱| www.99色| 99久.| 五月天综合在线观看视频| 亚洲欧美日韩VIP| 丁香五月天在线视频| 久久婷丁香五月| 亚洲成人无码免费| www.婷婷五月天.com| 无码字幕中文| 婷婷五月天激情丁香| 成人做爰黄A片免费看直播室男男 久草热8精品视频在线观看 | 热思思九九| 99色啊| 久色网| 九九激情网| 来吧亚洲综合网| 久热伊人| 五月天成人综合| 婷婷,五月天,丁香,第一| 丁香五月电影| 天天操夜夜啊| 香蕉久久国产AV一区二区| 婷丁五月| 成人五月丁香花| 丁香五月婷婷天| 伊人丁香在线| 九九热思思| 狠狠综合色网| 五月丁香婷婷啪啪| va中文资源在线观看| 国产人妻人伦精品一区二区| 五月天夜夜爱夜夜操| 久99在线| 天天干天天做| 五月总合激情网| 五月婷婷色色| AV天堂婷婷五月天| 欧美、日韩、中文、制服、人妻| 久久激情五月网| 久久久久97| 色99在线| 99婷婷五月天| 91夫妻网站九色| 五月婷婷 激情五月| 美国不卡视频| 色五月五月婷婷| 婷婷五月俺要去| 国产亚洲99久久精品熟| 超碰在线免费| sewuyue第四色| 超碰一区二区| 激情六月丁香| 天天干天天 亚洲| 操操熟女| 亚洲色五月| 3www激情| 日韩欧美一级大黄网站| 深夜婷婷 丁香| 九九亚洲| 能看的AV网站| 97人凄人人操人人爽| 久草热久草在线视频| 老司机伊人| 婷婷天堂综合| 精品日本视频444| 五月婷婷99热| 色五狠狠| 日本的α片xxxwww| www.久久久久久| 成人无码精品1区2区3区免费看| www.狠狠操.con| 婷婷久久图片| 国产精品第一国产精品| 中文字幕av在线| 婷婷伊人久久综合| 在线视频你懂得| 影音先锋男士资源网一区| 日本欧美在线| 丁香五月婷婷AV在线| 涩涩五月天综合| 99免费偷拍视频| 女人高潮内射99精品| 婷婷中文字幕| 午夜婷婷五月天在线| 二色AV| 免费观看日韩成人av| 狠狠干在线| 久久精彩免费视频| 五月丁香婷婷激情澎湃四射| 五月丁香色婷婷婷基地| 婷婷激情性爱| 91互操| 亚洲精级| 欧美日韩二区在线| 777精品久无码人妻蜜桃| 欧美五月婷婷| 人人爱摸视频| 91成人性爱视频| 这里只有免费的精品| 五月婷六月综合在线观看| 91九色精品| 久久99免费视屏| 5月丁香美女影院| 婷婷色在线| 九九综合| 国产婷婷五月天| 色色色色综合| 色色色色色色网站| 99无码黄色视频| 亚洲激情网站| 深爱激情网五月天| 五月婷婷网五月在线| 色情五月天首页| 婷婷爱综合| 99er这里只有精品| 久久草人妻| 这里只有精品免费在线视频| 亚洲AV成人在线| 97干欧美| 99热爱爱干干日| av成人在线播放| 99超碰人人| 啪精品| 亚洲xx网| 一区视频网站| 成人在线精品| 久久五月视频| 丁香五月花影院| 嫩草极品| 久久久久久久91| 色婷婷久久9.com| 97婷婷丁香五月综合| 色黄啪啪| 99资源在线视频| 五月天婷婷av| 99热这里只有精品在线免费| 色婷婷色五月色丁香| 99热这里只有精品23| 五月丁香花免费视频| 天天舔天天摸天天透| 天天橾夜夜爽| 青青草原伊人网| 91玖玖| 五月天精品| 内射爽无广熟女亚洲| 亚洲 在线 另类| 国产97在线日韩亚洲女人被黑人巨大| 天天插天天射| 夫妇交换刺激做爰| 婷婷日韩| 翔田千里 50岁 无码| 思思热闹这里只有精品| 天天摸天天高潮天天爽| 丁香五月欧美午夜视频| 99久在线精品99re8热| 欧美搡BBBBB摔BBBBB| yjzz亚洲国产| 欧美视频五区| 天天 日综合| 日韩AV大全| 91色综合| 99色综合久久| 91丨九色丨高潮丰满日本| 六月色日韩| 婷婷五月综合视频免费播放| 婷婷激情五月综合| 一级内射毛片| 丁香五月天AV在线| 日日夜夜婷婷| 五月香婷婷| 国产探花一片区| 永久的网站AAAA | 久久久97| 五月婷婷我| 99激情网| 黄色片avv| 9久热在线视频精品| 欧美婷婷五月激情| 日本99在线| 操人妻AV| 丁香五月1页| 国产日韩欧美| 99热久久这里只有精品| 97色欧美| 怡红院视频| 亚洲妇女熟BBW| 99热国内精品| 欧美丁香婷婷五月天| 婷婷伊人綜合中文字幕小说| 婷婷综合一二三| 五月色无码| 久久九区| 五月五月婷婷| 色婷婷综合网站| 超碰99热| 97人妻碰碰碰久| 久久欧洲综合网| 99久久九九| 超碰在线9| 99久久久| 婷婷五月激情黄色| 97色色色视屏| 五月婷婷在线视频| 久热 91| 丁香五月手机在线| 亚洲天堂制| 婷婷六月天精品| 99色色视频| 碰碰91| 97干婷婷| 97婷婷在线视频| 五月天激情啪啪| 五月婷婷啪啪啪啪| 99热只有国产在线精品| 曰韩少妇内射免费播放| 成人羞羞啪啪 全 视频| 五月天成人综合| 91九色在线| 日本超碰在线| 91vip在线观看| 亚洲最大在线| 六月婷久久| 九热免费视频| 成人 视频免费观看网站| 天天噜| 色九九综合热99| 色综合九九| 五月丁香综合网色欲| 人人爱人人草| 亚洲国产精品成人免费一区久久久在线观看AAAA | 91avse| 91久久精品无码一区二区三区| 99 频99热国里只有精品| 五月天狠狠| 丁香六月婷婷综合色| 我爱大香蕉| 色9色| www,黄色在线,con| 丁香色综合| 亚州第一A片| 婷婷五月天视频免费在线观看| 婷婷成人基地| 国产精品视频久久99| 亚洲九九99精品视频在线播放| AV堂狠狠干| 91精品综合久久久久久五月丁香| 99ri国产在线| 久综合网| 99热精品一| 久久182| 99婷婷国产最新视频| 综合激情五月天| 狠狠色丁香| 色五月视频无码播放| 伊人在线另类| 五月五月婷婷| 激情婷婷色色| 婷婷五月丁香高清无码| 思思久久久婷婷| 天天综合亚洲综合网天天αⅴ| 五月丁香六月婷婷激情视频在线观看免费 | 欧美色色色色色色色| www.com亚洲网站在线免费| 97碰免费视频在线| 日韩六六久久电影| 99热热热国产超碰| 婷婷成人视频| 五月婷丁香亚洲| 天堂成人久久| 99精品视频在线观看| 五月五婷婷| 97香蕉碰碰人妻国产欧美| 伊人综合网站| 99色精品| 激情小说五月丁香在线视频观看视频| 超碰在线人人| 午夜日日| 99人人干| 婷婷激情六月| 日本天天综合| av操一操| 国自产拍偷拍精品啪啪一区二区 | 粉嫩AV久久一区二区三区| 久久99性爱| 婷婷五月小说色综合| 九九九激情网| www99热| 精品草原久久视频| 99热这里是精品| 97色综合| 五月激情在线| 国产色色视频| 色欲日日躁| 日韩精品999| 五月丁小婷婷激情四射| 99久久久免费| www激情com| 丁香五月情色| 色婷婷AⅤ| 亚洲欧美在线观看| 中文激情网| 五月天激情婷婷久久| 久久亚洲色导航| 五月丁香久| 91日本在线免费| 精品一二三区久久AAA片| 91ncm视频| a久久免费视频| 99这里只有免费的小视频在线观看| 欧美69久成人做爰视频| 综合久久综合久久| 狠狠插狠狠操| 亚洲第一视频 久久| 思思视频这里是精品| 婷婷五月综激情| 亚洲视频1区| 中文字幕无码AV| av在线资源| 久久亚洲婷婷| 丁香九月综合| 看片视频在线免费日产在线看| 99色婷婷视频| 超碰免费大香蕉| 激情婷婷网| 五月婷婷丁香日韩在线| 少妇2做爰HD韩国电影| 天天干 夜夜爽| 91久久电影| 第四色五月天| 欧美丁香婷婷五月| 99在线精品免费视频| 另类小说五月天综合网| 五月丁香六月婷婷综合免| 亚洲精品网站色视频| 中文字幕在线播放视频| √天堂资源在线人妻熟女| 婷婷欧美激情| 色九九七七| 国产精品人妻在线网址| 欧美超碰人人| 亚洲碰碰碰| 国产激情在线| 日韩成人AV在线播放| 神马欧美精| 久超超碰| 激情五月丁香五月| 中海油常州环保涂料有限公司| 国产91在线视频| 97操碰日本女人| 九热av| 婷婷五月丁香色播| 久久久欧美精品sm网站| 9l视频自拍9l九色9l成人| 激情婷婷九月| 丁香六月婷婷综合激情欧美| 激情九月婷婷| 伍月婷丁香婷| 狠色狠色狠色狠色狠色网| 99热这里只有精品13| 操一操插一插| 欧美五月婷婷| www.婷婷五月天| 97色在线| 国产精产国品一二三在观看| 五月婷婷丁香日韩在线| 狠狠综合久久综合| 激情五月天啪啪| 亚洲另类在线观看| 国产六月婷婷| 五月丁香六月婷婷开心网| 天天做天天爱天天爽| 中文无码婷婷| 亚洲精品又粗又大又爽A片| 97碰碰久久| 久人操| 最新日本A片| 丁香五月成人在线| 激情五月天偷拍综合网| 久久伊人大香蕉| 日本精品人妻无码77777| 3DAV亚洲香蕉久久 一区二区| 激情内射人妻1区2区3区| 97操碰在线97| 91操片| 五月婷婷久久爱| 丁香六月色婷婷| 色玖玖综合网| 日本女色人人| 超碰在线免费9| 人人爱天天摸摸天天爱| 五月天婷婷成人| 五月丁香啪啪| 天天综合区| 色噜噜综合网| 色区域网站视频| 亚洲中文av| 久久5 9视频免费观看| 爱久综合| 九九综合久久| 天天影院色| 激情五月婷婷色色| 色婷丁香五月| 色五月丁香婷婷久草| 久久久97| 狠狠色大香蕉| 操嫩逼电影| 婷婷五月天综合网| 亚洲丁香婷婷| 五月天国产成人| 天天色噜| 超碰国产在线播放| 色五月婷婷av| 热99只有里视频| 色五月av| 亚洲色人妻| 天天免费日日夜夜夜夜| 亚洲色99| www色综合亚洲92| 亚洲激情无码久久| 色婷婷亚洲婷婷| 欧美色一级色| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 91人人爽狠狠狠| 91综合网| 亚洲AAAA网| 成年人丁香五月| 九月婷婷色色| ji'qi'luan'ren'lun| 婷婷六月天| 久婷婷| 日本色色网站| 久久免费干| 精品九九视频| AV操操操| 99久久精品国产色欲| 26uuuuuuuu国产| 国产精品99久久久久久久女警| 天堂二区| 色五月五月丁香| 99激情视频| 久久永久网址| 婷色五月| 91人操| 综合XX网| 无码九九九九| 成人精品亚洲性爱| 丁香婷婷浪潮AV久久综合| 26uuu激情五月天| 日本欧美成人片AAAA| 玖玖在线视频福利| 91欧美| 久99久视频| 久久婷婷网| 182TV亚洲| 丁香五月综合激情性爱| 狠狠色大香蕉| 91九色无码日韩| 97资源碰碰在线| 日本色色网站| 97操碰碰无码视频| 日本一级一片免费视频| 91视频精品99| 91色久| 激情欧美婷婷| 99热这里是精品| 99人这里只有精品| 国产成人精品一区二三区熟女在线| 色婷婷91| 欧美日韩成人免费在线| 丁香婷婷六月天| 丁香五月成人| 夜夜涩涩涩| 熟妇人妻中文字幕无码老熟妇| 激情99热| 日本高清久久| 成年AAAA色情| 免费看欧美成人A片无码| 婷婷开心综合人妻小说网址| 岛国AAAV| 五月天婷婷久久视频| 91青娱乐青青草| 97人人草| 五月社区婷婷激情| 影音先锋91视频| 日本久久精品18| 亚洲精品亚洲人成人网| 97干在线| 国产精品国产VA片国产| 久9热在线免费观看| 人人操人人操919999| 99久在线观看| 欧美激情五月天婷婷| 久热一区| 人人播| 丁香婷婷六月激情文学| 99ER热精品视频| 开心激情网五月| 色婷精品91| 天天干一干| 人人爱人人摸人人澡| 一起草无码| 五月丁香久久| 99热这里只有精品免费观看| 日本三级中国三级99| 色久综合| 激情五月天婷婷丁香 | 少妇搡BBBB搡BBB搡毛茸茸 | 99热久| 欧州婷婷五月天综合| 这里有精品| 99热这里只有精品在线免费| 九九久久久综合| 色婷婷综合视频| 激情黄色小说五月天| 婷婷丁香五月天影院| 婷婷久久五月| 亚洲色情网站| 五月婷婷干干干| 亚洲成人精品三区| 五月婷婷综合在线| 亚洲日日日| 99热这是里只有精品| 强奸幻女毛片| 婷婷六月色情| 欧美性猛交99久久久99| 熟女人妻一区二区三区免费看| 色综合xx| xxxx久| 亚洲黄色网址| www.99久| www.亭亭五月天| 777色婷婷爱五月| 日本三级片片| 精品国产一区二区三区四区阿崩 | 色五月色综合| 色色射| 五月丁香六月在线| 五月丁香啪啪激情| 丁香五月婷婷激情尤物| 丁香综合日产精品久久| 思思热在线播放| 思思热视频| 色高清无码视频| 97色婷| 激情综合网色五月| 九九色婷| 五月丁香在线| 丁香五月激情啪啪| 99热只有| 人人人va亚洲视频在线| 久一这里有精品国产| 大香蕉五月天婷婷丁香91| 99艹精品在线观看| 精品成人无码A片观看香草视频| 婷婷五亚洲| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 好好干av| 做爱夜夜干天天操| 丁香婷婷久久| 日本啪啪网| 九九無妻| VfJxEwPH| 色综合久久88色综合中文字幕| se.久久视频在线观看| 伊人久久丁香狠狠婷婷综合香蕉| 色色色色色网| 激情婷婷色五月| 五月婷六月天| 噜噜噜噜在线| 五月婷婷丁香大陆免费| 九九热在线亚洲免费视频| 97色在线视频| 99干日本| 欧美性久| 天天干天天曰天天射| 色婷亚洲| 金品在线视频99| 啪啪五月综合| www色综合亚洲92| 五月天丁香花婷婷| 91趴趴| 美国天天操无码| www一起操在线观看| 丁香五月激情月| 丁香五月婷婷色偷偷| 婷婷五月天AV在| 色婷婷影| 亚洲乱码在线观看| 97色久| 久热99| 九九热免费观看视频| 美女五月天婷婷| 开心亚洲久久开心| 丁香五月激情六月综合| 色宗合久久五月婷婷| 狠狠色 综合色区| 天天色激情| 五月婷婷视频在线观看| 激情五月婷黄版| 色五月天激情| 丁香色色网| 国精产品一区一区三区免费视频| 五月天婷综合网站| www.sd-xiangsu.cpm| 九九爱看亚洲| 久久色这里只有精品| 狠狠色噜噜狠狠狠888| 超碰在线观看9| 99精品视频网站| 婷婷五月天成人| 97操碰98| 亚洲狠狠婷婷| 91九色国产| 色五月无码| 久久九九99亚洲国产久精综合| 五月天伊人av| 婷婷之六月丁香| 五月天六月色| 九九黄色网| 国产婷婷色综合AV蜜臀AV | 色网站9| av在线观看网站| 国产色婷婷亚洲| 日韩在线五月天婷婷| 大香蕉欧美在线| 丁香六月综合| 99爱在线| 色五月色五天色情网| 夜夜天天久久婷婷| 婷婷婷婷婷婷婷婷| 婷婷色五月天在线| 99婷五月| 激情综合五| 九九这里精品| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 久久婷婷亚洲| 91dy.av| 九九精品亚洲| CHINESE熟女老女人HD视频| 超碰93在线观看| 99色在线观看视频者| 国产av基地| 激情五月六月婷婷综合啪啪| 色色性爱视频| 九九热免费视频| 免费成片在线观看| 77799热| 婷婷亚洲五月| 丁香激情五月天| 九九九九大香蕉| 夜夜做天天爽| 99热综合网| 99爱在线| 丁香婷婷六月激情文学| 第五色色色婷婷| 五月婷婷丁香| 五月天激情久久| 97婷婷五月| 五月天久久久| 大香蕉狼人久久| 夜夜骑福利资源| 26uuu欧美| 久久99精品日本| 久8色色| 色人久久| 婷婷丁香九月| 久久婷婷激情视频| 强壮公让我夜夜高潮A片视频| 日本激情五月天‘| 激情综合亚洲| 欧美超碰人人| 色噜噜狠狠狠综合曰曰曰| 亚洲无码99| 久久艹99| 欧美xx激情视频在线观看| 强壮的公次次弄得我高潮A片日本 | 99九九精品视频推荐| 五月丁色AV| 久久激情视频| 任你擦免费视频| 天天舔天天摸视频| 人妻内射一区二区在线视频| 久久久www| 久久婷婷综合国产| 综合激情九月婷婷,激情综合婷婷中文字| 97超碰在线免费观看| 五月六月激情| 成人在线观看国产| 干亚洲天堂| 婷婷五月成人| 91操在线视频| 99热这里| 久久九精品| 狠狠色狠狠操| 97碰碰人人视频| av性爱在线| 大香蕉久久视频久久视频| 天天做天天爱天天爽在| 色婷婷五月天偷拍| 色婷网| 91精品久久久久久77777| 色你久久| 99riAv1国产在线观看| 九九综舍久久| 性色天| 久草五月天| 国产精品视频免费看| 日韩精品超碰在线观看| 天天干天天干天天干| 五月丁香综合影院| www.91在线观看| 在线成人网站| 五月婷婷啪啪| 婷婷在线五月天观看|