99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

全鏈路壓測(cè)方案:DESP仿真度、流量隔離與自動(dòng)化基線

全鏈路壓測(cè)方案:DESP仿真度、流量隔離與自動(dòng)化基線 簡(jiǎn)介《全鏈路壓測(cè)最佳實(shí)踐》是一份面向性能測(cè)試工程師、測(cè)試開(kāi)發(fā)人員與穩(wěn)定性保障團(tuán)隊(duì)的實(shí)戰(zhàn)型文檔聚焦生產(chǎn)級(jí)全鏈路壓測(cè)從理論方法到工程落地的完整路徑。內(nèi)容圍繞全鏈路壓測(cè)的核心概念、適用場(chǎng)景與DESP模型展開(kāi)逐一拆解數(shù)據(jù)仿真度、環(huán)境仿真度、場(chǎng)景仿真度和壓力仿真度的設(shè)計(jì)要點(diǎn)并結(jié)合新東方續(xù)班體系案例說(shuō)明核心鏈路梳理、背景數(shù)據(jù)與參數(shù)化數(shù)據(jù)構(gòu)造、并發(fā)與TPS負(fù)載配置、壓測(cè)流量隔離及自動(dòng)化實(shí)施過(guò)程同時(shí)覆蓋壓測(cè)平臺(tái)架構(gòu)與功能規(guī)劃。壓縮包僅含1個(gè)docx文件大小約1.65MB結(jié)構(gòu)集中便于按章節(jié)檢索和復(fù)盤(pán)。已有364人學(xué)習(xí)適合需要系統(tǒng)理解全鏈路壓測(cè)模型設(shè)計(jì)、案例拆解與平臺(tái)建設(shè)思路的讀者參考。1. 從一次續(xù)費(fèi)窗口期說(shuō)起全鏈路壓測(cè)要解決的是「測(cè)不準(zhǔn)」某在線教育平臺(tái)的續(xù)報(bào)窗口期在晚上八點(diǎn)開(kāi)啟。測(cè)試同學(xué)提前在預(yù)發(fā)環(huán)境把下單接口壓到 3000 QPS曲線漂亮報(bào)告也寫(xiě)了。窗口一開(kāi)鏈路中間一個(gè)不起眼的規(guī)則校驗(yàn)接口把數(shù)據(jù)庫(kù)連接池占滿(mǎn)整個(gè)下單流程卡在原地運(yùn)維臨時(shí)擴(kuò)容才扛過(guò)去。這類(lèi)翻車(chē)在窗口期和大促現(xiàn)場(chǎng)并不少見(jiàn)原因也不神秘單接口壓測(cè)只回答了「這個(gè)接口能扛多少」沒(méi)有回答「這條業(yè)務(wù)鏈路在真實(shí)數(shù)據(jù)分布、真實(shí)并發(fā)配比、真實(shí)環(huán)境拓?fù)湎履芸付嗌佟埂H溌穳簻y(cè)要解決的就是后者——基于生產(chǎn)業(yè)務(wù)場(chǎng)景、系統(tǒng)環(huán)境和真實(shí)數(shù)據(jù)模擬海量用戶(hù)請(qǐng)求跑完整條鏈路再持續(xù)調(diào)優(yōu)。這份方案適合兩類(lèi)人做性能方向畢設(shè)、需要把模型和落地都講清楚的學(xué)生以及要給窗口期、大促做容量評(píng)估的開(kāi)發(fā)與測(cè)試。下面按模型設(shè)計(jì)、流量隔離、數(shù)據(jù)構(gòu)造、負(fù)載建模、避坑排查、驗(yàn)收答辯的順序展開(kāi)。2. 壓測(cè)模型設(shè)計(jì)DESP 四維仿真度怎么拆成可執(zhí)行參數(shù)全鏈路壓測(cè)的核心是四件事業(yè)務(wù)場(chǎng)景、數(shù)據(jù)鏈路、壓力模型、環(huán)境拓?fù)?。把這四個(gè)核心點(diǎn)抽象成模型就是 DESP數(shù)據(jù)仿真度D、環(huán)境仿真度E、場(chǎng)景仿真度S、壓力仿真度P。模型本身不難背難的是每個(gè)維度落到具體參數(shù)上時(shí)你到底要改哪個(gè)值。仿真度決定壓測(cè)結(jié)果的參考價(jià)值一個(gè)維度偷懶整份報(bào)告就只?!概苓^(guò)了」三個(gè)字。2.1 數(shù)據(jù)仿真度規(guī)模只是及格線復(fù)雜度才是分水嶺壓測(cè)數(shù)據(jù)分兩塊。一塊是被壓系統(tǒng)的背景數(shù)據(jù)也就是歷史存量和存量規(guī)模查詢(xún)類(lèi)場(chǎng)景對(duì)這塊特別敏感——同一個(gè)列表接口返回 1 萬(wàn)條和返回 10 萬(wàn)條結(jié)果耗時(shí)可能差一個(gè)量級(jí)。原則很樸素背景數(shù)據(jù)規(guī)模盡量貼近真實(shí)寧可多導(dǎo)一些不要圖省事只造幾百條。另一塊是請(qǐng)求的參數(shù)化數(shù)據(jù)可以來(lái)自線上脫敏數(shù)據(jù)也可以按參數(shù)規(guī)則自己構(gòu)造。這里最容易忽略的是數(shù)據(jù)復(fù)雜度。真正影響性能的往往不是總量而是對(duì)象之間的關(guān)聯(lián)分布。以續(xù)報(bào)場(chǎng)景為例同樣 100 個(gè)學(xué)員一種分布是 90 個(gè)學(xué)員各報(bào) 2 個(gè)班、10 個(gè)學(xué)員各報(bào) 10 個(gè)班另一種是 10 個(gè)學(xué)員各報(bào) 2 個(gè)班、90 個(gè)學(xué)員各報(bào) 10 個(gè)班。后者的整體性能明顯更差因?yàn)閱蝹€(gè)學(xué)員的關(guān)聯(lián)對(duì)象變多鏈路里逐條校驗(yàn)和優(yōu)惠計(jì)算的成本被放大。如果構(gòu)造數(shù)據(jù)時(shí)按平均分布鋪開(kāi)這條瓶頸根本壓不出來(lái)。數(shù)據(jù)分層構(gòu)造來(lái)源規(guī)模目標(biāo)需要控制的復(fù)雜度因子背景存量數(shù)據(jù)生產(chǎn)脫敏抽樣與生產(chǎn)同量級(jí)單賬號(hào)關(guān)聯(lián)對(duì)象數(shù)分布、歷史數(shù)據(jù)時(shí)間跨度請(qǐng)求參數(shù)數(shù)據(jù)日志回放 規(guī)則構(gòu)造覆蓋 Top 接口主要取值參數(shù)取值多樣性、邊界值占比業(yè)務(wù)規(guī)則數(shù)據(jù)按窗口期規(guī)則改寫(xiě)覆蓋當(dāng)前生效規(guī)則集規(guī)則命中比例、優(yōu)惠疊加層數(shù)分布比例不是拍腦袋定的得從訂單明細(xì)里統(tǒng)計(jì)出來(lái)。通常的做法是拉一段時(shí)間窗口期的訂單統(tǒng)計(jì)每個(gè)學(xué)員的報(bào)班量分布再按這個(gè)分布生成壓測(cè)數(shù)據(jù)。下面這段腳本就是按統(tǒng)計(jì)結(jié)果反向構(gòu)造的# 按真實(shí)報(bào)班量分布構(gòu)造學(xué)員-班級(jí)關(guān)系而不是平均分配 import random def build_student_class_pairs(n_students10000, n_classes5000, seed42): random.seed(seed) # 固定種子保證每輪壓測(cè)數(shù)據(jù)可復(fù)現(xiàn) pairs [] for sid in range(n_students): r random.random() if r 0.90: k random.randint(1, 5) # 90% 學(xué)員報(bào) 1~5 個(gè)班主體流量 elif r 0.95: k random.randint(6, 10) # 5% 學(xué)員報(bào) 6~10 個(gè)班 else: k random.randint(11, 30) # 5% 長(zhǎng)尾學(xué)員專(zhuān)門(mén)用來(lái)壓出瓶頸 pairs.extend((sid, cid) for cid in random.sample(range(n_classes), k)) return pairs三個(gè)參數(shù)要跟著業(yè)務(wù)走n_students決定并發(fā)賬號(hào)基數(shù)一般按預(yù)估峰值在線人數(shù)除以單賬號(hào)可復(fù)用次數(shù)來(lái)估n_classes要保證班級(jí)容量規(guī)則不會(huì)在壓測(cè)中途被耗盡比例閾值 0.90、0.95 是從訂單明細(xì)里統(tǒng)計(jì)出來(lái)的換了業(yè)務(wù)就得重算不要直接抄。種子固定是為了讓每輪基線壓測(cè)跑在同一份數(shù)據(jù)上否則性能波動(dòng)沒(méi)法歸因。2.2 環(huán)境仿真度線上壓測(cè)優(yōu)先線下等比例不等于等比縮環(huán)境仿真度看三個(gè)因子是否線上壓測(cè)、線下部署規(guī)模、線下服務(wù)器資源配置。首選當(dāng)然是在線上壓但要先建壓測(cè)通道、做數(shù)據(jù)隔離不能把真實(shí)數(shù)據(jù)攪亂。做不到線上壓線下就得按線上集群等比例部署服務(wù)器配置盡量保持一致否則仿真度會(huì)大打折扣。這里有一條血淚經(jīng)驗(yàn)等比例壓縮只壓應(yīng)用層不壓中間件瓶頸位置會(huì)整體錯(cuò)位。線上 200 臺(tái)應(yīng)用對(duì)應(yīng) 20 臺(tái)數(shù)據(jù)庫(kù)你在線下壓成 20 臺(tái)應(yīng)用卻仍然只掛 2 臺(tái)數(shù)據(jù)庫(kù)先掛的一定是數(shù)據(jù)庫(kù)你據(jù)此得出的「數(shù)據(jù)庫(kù)是瓶頸」結(jié)論在線上根本不成立。折算清單要一起算應(yīng)用節(jié)點(diǎn)、數(shù)據(jù)庫(kù)連接數(shù)、緩存分片、消息隊(duì)列分區(qū)、網(wǎng)關(guān)實(shí)例缺一個(gè)都會(huì)讓瓶頸搬家。資源類(lèi)型線上規(guī)模線下折算折算時(shí)必須同步調(diào)整的參數(shù)應(yīng)用節(jié)點(diǎn)200 臺(tái) 8C16G20 臺(tái) 8C16G每節(jié)點(diǎn)連接池上限按比例下調(diào)數(shù)據(jù)庫(kù)主從多實(shí)例同比例縮減實(shí)例數(shù)最大連接數(shù)、慢查詢(xún)閾值同步下調(diào)緩存多分片集群縮減分片但保留集群模式客戶(hù)端分片算法不變避免壓測(cè)代碼走另一條路徑網(wǎng)關(guān)多可用區(qū)部署單可用區(qū)多實(shí)例限流閾值按實(shí)例數(shù)等比縮放2.3 場(chǎng)景仿真度核心鏈路要敢做減法壓測(cè)場(chǎng)景就是壓測(cè)的目標(biāo)和范圍前提是把業(yè)務(wù)吃透。做法是從日志和用戶(hù)行為里歸納出一條或幾條核心鏈路明確鏈路上每個(gè)接口、每類(lèi)調(diào)用同步還是異步、串行還是并行、每類(lèi)參數(shù)。所謂核心鏈路是用戶(hù)在關(guān)鍵時(shí)間點(diǎn)的真實(shí)操作序列打開(kāi)購(gòu)物車(chē)、進(jìn)結(jié)算頁(yè)、打開(kāi)收銀臺(tái)、選優(yōu)惠、選支付、下單、下單后置處理。確定核心鏈路最關(guān)鍵的一點(diǎn)是不要貪多。覺(jué)得用戶(hù)可能會(huì)點(diǎn)這里、也可能點(diǎn)那里把低頻操作也塞進(jìn)主鏈路結(jié)果是把核心鏈路的壓力稀釋掉還多了一堆無(wú)關(guān)的失敗點(diǎn)。以零點(diǎn)場(chǎng)景為例非核心查詢(xún)基本都會(huì)被降級(jí)——比如訂單列表只允許查最近三個(gè)月其余提示稍后再查把資源全部讓給核心鏈路。這個(gè)降級(jí)策略本身也要寫(xiě)進(jìn)壓測(cè)方案因?yàn)閴毫δP统闪⒌那疤崾墙导?jí)開(kāi)關(guān)真的生效了。接口峰值調(diào)用占比是否進(jìn)壓測(cè)鏈路降級(jí)策略登錄鑒權(quán)18%是不降級(jí)壓測(cè)標(biāo)識(shí)走獨(dú)立通道班級(jí)與規(guī)則校驗(yàn)26%是不降級(jí)優(yōu)惠計(jì)算24%是不降級(jí)下單與訂單落庫(kù)22%是不降級(jí)歷史訂單查詢(xún)6%否限時(shí)間范圍查詢(xún)推薦位與運(yùn)營(yíng)位4%否直接返回兜底內(nèi)容2.4 壓力仿真度并發(fā)模式與 TPS 目標(biāo)模式怎么選壓力仿真度就是負(fù)載參數(shù)壓測(cè)模式、并發(fā)數(shù)或目標(biāo) TPS、集合點(diǎn)、thinktime、預(yù)熱時(shí)長(zhǎng)、壓測(cè)時(shí)長(zhǎng)。模式選錯(cuò)整套壓測(cè)的方向就偏了。并發(fā)模式適合已知大概并發(fā)的場(chǎng)景。比如預(yù)估有 10 萬(wàn)用戶(hù)會(huì)來(lái)先判斷這 10 萬(wàn)是集中訪問(wèn)還是分散訪問(wèn)集中在秒殺、搶購(gòu)這類(lèi)瞬間場(chǎng)景那就設(shè) 10 萬(wàn)并發(fā)并開(kāi)集合點(diǎn)讓請(qǐng)求同一時(shí)刻放出去如果是一天累計(jì) 10 萬(wàn)按二八法則折算成峰值并發(fā)就夠。TPS 目標(biāo)模式適合后臺(tái)接口類(lèi)場(chǎng)景跟并發(fā)數(shù)無(wú)關(guān)只盯吞吐量接口設(shè)計(jì)上限是 3 萬(wàn) TPS就直接設(shè) 3 萬(wàn)壓測(cè)系統(tǒng)自動(dòng)調(diào)節(jié)并發(fā)去逼近目標(biāo)達(dá)不到就判定不達(dá)標(biāo)非常適合作為基線任務(wù)的固定口徑。# 續(xù)報(bào)核心鏈路壓測(cè)場(chǎng)景配置TPS 目標(biāo)模式 scene: renewal_core_chain mode: tps_target # 可選 tps_target / concurrency target_tps: 3000 # 按歷史峰值 TPS 上浮 20% 設(shè)定 ramp_up_seconds: 300 # 預(yù)熱 5 分鐘避開(kāi) JIT 與連接池冷啟動(dòng)造成的假瓶頸 duration_seconds: 1800 # 穩(wěn)定壓 30 分鐘覆蓋一次 GC 周期 think_time_ms: 800 # 按真實(shí)用戶(hù)操作間隔設(shè)置設(shè) 0 會(huì)虛高吞吐 rendezvous: enabled: false # 目標(biāo)模式不設(shè)集合點(diǎn)集合點(diǎn)只用于瞬時(shí)并發(fā)驗(yàn)證 data_binding: account_pool: pressure_account_q1 param_source: renewal_pair_distribution sla: p99_ms: 800 error_rate: 0.001幾個(gè)參數(shù)的理解比數(shù)值本身重要ramp_up_seconds太短第一分鐘的 p99 會(huì)非常難看那是冷啟動(dòng)不是瓶頸think_time_ms直接決定同一并發(fā)下的實(shí)際 TPS設(shè)成 0 相當(dāng)于讓每個(gè)虛擬用戶(hù)全速打壓出來(lái)的數(shù)字沒(méi)人敢信rendezvous開(kāi)在目標(biāo)模式下會(huì)把平滑壓力變成脈沖除非你就是要驗(yàn)證瞬時(shí)沖擊否則關(guān)掉sla里用 p99 而不是平均值平均值會(huì)把長(zhǎng)尾藏起來(lái)這是壓測(cè)報(bào)告里最常見(jiàn)的黑匣子。3. 流量與數(shù)據(jù)隔離壓測(cè)標(biāo)識(shí)怎么透?jìng)鳌?shù)據(jù)怎么回收線上壓測(cè)繞不開(kāi)隔離。壓測(cè)流量進(jìn)了生產(chǎn)庫(kù)、壓測(cè)訂單污染了真實(shí)報(bào)表后續(xù)清理成本遠(yuǎn)高于壓測(cè)本身。業(yè)界比較成熟的做法是給壓測(cè)流量打標(biāo)標(biāo)識(shí)隨調(diào)用鏈一路透?jìng)鞲飨到y(tǒng)按標(biāo)識(shí)分支處理數(shù)據(jù)側(cè)則用影子賬號(hào)、影子對(duì)象加規(guī)則改寫(xiě)把壓測(cè)數(shù)據(jù)和真實(shí)數(shù)據(jù)分開(kāi)。這套東西不難難在透?jìng)麈溌飞先魏我画h(huán)丟標(biāo)。3.1 標(biāo)識(shí)注入與全鏈路透?jìng)鞯娜齻€(gè)落點(diǎn)第一個(gè)落點(diǎn)是網(wǎng)關(guān)。壓測(cè)流量統(tǒng)一從壓測(cè)機(jī)或壓測(cè)通道進(jìn)來(lái)網(wǎng)關(guān)解析 header 里的標(biāo)識(shí)寫(xiě)進(jìn)請(qǐng)求上下文同時(shí)打到日志 MDC 上后續(xù)排查能按標(biāo)識(shí)撈全量日志。第二個(gè)落點(diǎn)是 RPC 上下文。服務(wù)間調(diào)用要把標(biāo)識(shí)放進(jìn)隱式參數(shù)或 header不能靠業(yè)務(wù)代碼逐層傳參否則遲早漏。第三個(gè)落點(diǎn)是消息隊(duì)列生產(chǎn)消息時(shí)把標(biāo)識(shí)寫(xiě)進(jìn)消息屬性消費(fèi)端讀出來(lái)重新塞進(jìn)上下文。// 網(wǎng)關(guān)層統(tǒng)一收口壓測(cè)標(biāo)識(shí)避免各業(yè)務(wù)方各自解析出偏差 public class PressureTagInterceptor implements HandlerInterceptor { public static final String PRESSURE_HEADER X-Pressure-Flag; private static final ThreadLocalBoolean HOLDER new ThreadLocal(); Override public boolean preHandle(HttpServletRequest req, HttpServletResponse resp, Object handler) { // 只認(rèn) 1其余取值一律按生產(chǎn)流量處理避免臟標(biāo)識(shí)誤傷真實(shí)請(qǐng)求 boolean isPressure 1.equals(req.getHeader(PRESSURE_HEADER)); HOLDER.set(isPressure); MDC.put(pressure, String.valueOf(isPressure)); return true; } Override public void afterCompletion(HttpServletRequest req, HttpServletResponse resp, Object handler, Exception ex) { // 線程池復(fù)用場(chǎng)景必須清理否則標(biāo)識(shí)會(huì)串到下一個(gè)請(qǐng)求上 HOLDER.remove(); MDC.remove(pressure); } }關(guān)鍵在afterCompletion里的清理動(dòng)作。Web 容器線程是復(fù)用的只 set 不 remove下一個(gè)真實(shí)請(qǐng)求可能繼承上一個(gè)壓測(cè)請(qǐng)求的標(biāo)識(shí)結(jié)果真實(shí)用戶(hù)的數(shù)據(jù)被當(dāng)成壓測(cè)數(shù)據(jù)清了這種事故修起來(lái)極其難受。異步線程和線程池場(chǎng)景要用可傳遞的 ThreadLocal 包裝或者顯式在提交任務(wù)時(shí)把標(biāo)識(shí)帶過(guò)去這是透?jìng)麈溌防镒钊菀讛嗟囊画h(huán)。3.2 數(shù)據(jù)隔離影子賬號(hào)、影子對(duì)象與規(guī)則改寫(xiě)隔離分讀寫(xiě)兩側(cè)。讀側(cè)靠賬號(hào)區(qū)分為壓測(cè)預(yù)留一批專(zhuān)用賬號(hào)綁定的學(xué)員是虛擬學(xué)員與真實(shí)學(xué)員在姓名和賬號(hào)維度上完全隔開(kāi)壓測(cè)怎么查都查不到真實(shí)數(shù)據(jù)。寫(xiě)側(cè)靠對(duì)象和規(guī)則班級(jí)可以復(fù)用真實(shí)班級(jí)信息這樣容量、狀態(tài)這些屬性才是真的但訂單、購(gòu)物車(chē)這類(lèi)寫(xiě)數(shù)據(jù)必須帶壓測(cè)標(biāo)識(shí)續(xù)報(bào)規(guī)則和優(yōu)惠規(guī)則通過(guò)標(biāo)識(shí)改寫(xiě)為「當(dāng)前時(shí)刻有效」的規(guī)則集讓壓測(cè)數(shù)據(jù)能正常走完業(yè)務(wù)流轉(zhuǎn)同時(shí)又不觸碰真實(shí)規(guī)則的時(shí)間窗口和名額限制。為什么不干脆建一套獨(dú)立影子庫(kù)成本高而且仿真度反而下降——影子庫(kù)的索引、數(shù)據(jù)量、慢查詢(xún)特征都和生產(chǎn)不一樣壓出來(lái)的結(jié)論沒(méi)法直接用。用標(biāo)識(shí)做邏輯隔離配合任務(wù)結(jié)束后的定向清洗通常是性?xún)r(jià)比最高的方案。前提是標(biāo)識(shí)透?jìng)鞅仨汄?yàn)證過(guò)不能只靠代碼 review 拍胸脯。3.3 壓測(cè)數(shù)據(jù)構(gòu)造與清洗回收的完整閉環(huán)壓測(cè)數(shù)據(jù)按三層準(zhǔn)備。基元數(shù)據(jù)是登錄賬號(hào)和學(xué)員方案里維護(hù)了一個(gè)數(shù)萬(wàn)級(jí)的測(cè)試賬號(hào)池由平臺(tái)按項(xiàng)目統(tǒng)一分配和回收業(yè)務(wù)型數(shù)據(jù)是班級(jí)、續(xù)報(bào)規(guī)則、優(yōu)惠規(guī)則班級(jí)支持一鍵構(gòu)造規(guī)則按標(biāo)識(shí)指定時(shí)間段生效鏈路數(shù)據(jù)則由基礎(chǔ)數(shù)據(jù)和業(yè)務(wù)規(guī)則模擬真實(shí)操作生成支持調(diào)度中心一鍵或定時(shí)觸發(fā)。-- 壓測(cè)任務(wù)結(jié)束后的數(shù)據(jù)回收三板斧刪業(yè)務(wù)數(shù)據(jù)、解綁賬號(hào)、回寫(xiě)賬號(hào)池 DELETE FROM order_item WHERE pressure_flag 1 AND created_at NOW() - INTERVAL 7 days; DELETE FROM cart WHERE pressure_flag 1; UPDATE account_pool SET status idle, bound_student_id NULL, released_at NOW() WHERE batch_no pressure_q1 AND status in_use;順序不能反。先刪業(yè)務(wù)數(shù)據(jù)再解綁賬號(hào)否則賬號(hào)先回池、舊數(shù)據(jù)還在下一輪壓測(cè)就可能讀到臟購(gòu)物車(chē)pressure_flag 1這個(gè)條件必須走索引否則一次清理能掃全表。回收還要考慮異常路徑任務(wù)中途掛掉清理任務(wù)得由調(diào)度中心兜底觸發(fā)不能指望人工發(fā)現(xiàn)。方案里通常會(huì)給賬號(hào)池設(shè)計(jì)狀態(tài)機(jī)idle / in_use / dirty / recycling任何一步失敗都能定位到卡在哪個(gè)狀態(tài)。4. 負(fù)載建模與自動(dòng)化基線把一次性壓測(cè)變成每周跑的任務(wù)一次壓測(cè)報(bào)告的說(shuō)服力有限真正有價(jià)值的是基線同一場(chǎng)景、同一壓力模型、同一數(shù)據(jù)分布每周或者每個(gè)版本跑一次指標(biāo)一偏就報(bào)警。這樣性能問(wèn)題從「上線后才發(fā)現(xiàn)」變成「合并前就發(fā)現(xiàn)」擴(kuò)容決策也有了數(shù)據(jù)支撐而不是等到窗口期前拍腦袋加機(jī)器。4.1 并發(fā)配比表怎么從日志和訂單里推出來(lái)壓力模型不是估出來(lái)的是算出來(lái)的。第一步拉核心鏈路各接口的日志峰值和占比定位鏈路覆蓋范圍和業(yè)務(wù)并發(fā)點(diǎn)第二步用調(diào)用量和抓包確認(rèn)上下游調(diào)用關(guān)系找出真正的并發(fā)點(diǎn)在哪一層第三步從窗口期訂單明細(xì)里統(tǒng)計(jì)報(bào)班量占比把數(shù)據(jù)分布和并發(fā)配比同時(shí)對(duì)齊真實(shí)流量第四步如果有條件全量拉取參與窗口期的真實(shí)加購(gòu)數(shù)據(jù)做一次瞬時(shí)并發(fā)評(píng)估這份數(shù)據(jù)對(duì)擴(kuò)容方案的參考價(jià)值最高。壓測(cè)場(chǎng)景并發(fā)占比目標(biāo) TPS 占比數(shù)據(jù)特征單班續(xù)報(bào)主流程55%58%學(xué)員報(bào) 1~5 個(gè)班占主體多班批量續(xù)報(bào)25%22%學(xué)員報(bào) 6~10 個(gè)班規(guī)則校驗(yàn)更重長(zhǎng)尾學(xué)員續(xù)報(bào)12%13%報(bào) 11~30 個(gè)班單請(qǐng)求耗時(shí)最長(zhǎng)購(gòu)物車(chē)加購(gòu)與結(jié)算8%7%基于真實(shí)加購(gòu)數(shù)據(jù)回放占比之間要有解釋力為什么長(zhǎng)尾場(chǎng)景只占 12% 的并發(fā)卻給了 13% 的 TPS因?yàn)樗膯握?qǐng)求耗時(shí)更長(zhǎng)占用的處理資源更多。這張表是壓測(cè)方案里最該被追問(wèn)的東西答辯時(shí)評(píng)委只要問(wèn)一句「這個(gè)比例怎么來(lái)的」你能不能報(bào)出日志統(tǒng)計(jì)口徑和訂單統(tǒng)計(jì)口徑基本就決定了方案的 credibility。4.2 基線任務(wù)的四段式流程基線任務(wù)通常拆成四段用調(diào)度中心串起來(lái)支持手動(dòng)和定時(shí)兩種觸發(fā)方式。# 基線任務(wù)編排構(gòu)造 - 試運(yùn)行 - 預(yù)熱 - 正式壓測(cè) - 對(duì)比通知 task_run() { step1_build_data # 按分布自動(dòng)構(gòu)造壓測(cè)數(shù)據(jù)產(chǎn)出批次號(hào) step2_smoke_run # 小流量試運(yùn)行驗(yàn)證鏈路連通與數(shù)據(jù)可用 step3_preheat # 數(shù)據(jù)預(yù)熱把熱點(diǎn)數(shù)據(jù)提前加載進(jìn)緩存 step4_baseline_run # 正式基線壓測(cè)固定 TPS 與時(shí)長(zhǎng) step5_compare_and_notify # 與上一輪基線對(duì)比超閾值告警 }第二步最容易被跳過(guò)也最不該跳。壓測(cè)場(chǎng)景復(fù)雜數(shù)據(jù)構(gòu)造完不等于數(shù)據(jù)可用賬號(hào)可能被上一輪占著沒(méi)釋放班級(jí)可能名額已滿(mǎn)規(guī)則可能已經(jīng)過(guò)期。試運(yùn)行用低流量把整條鏈路走一遍幾秒鐘就能發(fā)現(xiàn)「鏈路不通」和「數(shù)據(jù)失效」這兩類(lèi)問(wèn)題比正式壓測(cè)跑到一半大量報(bào)錯(cuò)強(qiáng)得多。第三步的預(yù)熱可以自定義也可以省略但如果你的業(yè)務(wù)有大量本地緩存省掉預(yù)熱會(huì)讓第一輪基線的數(shù)字明顯偏低。4.3 壓測(cè)平臺(tái)的最小功能集自建壓測(cè)平臺(tái)不需要一上來(lái)就做大而全先把跑通閉環(huán)的最小功能集做出來(lái)剩下的按需長(zhǎng)。模塊最小功能驗(yàn)收口徑腳本管理支持 HTTP/HTTPS在線創(chuàng)建與調(diào)試腳本新建到首次調(diào)試成功不超過(guò) 10 分鐘數(shù)據(jù)構(gòu)造一鍵生成基元數(shù)據(jù)與業(yè)務(wù)數(shù)據(jù)構(gòu)造失敗可重試產(chǎn)出批次號(hào)可追溯壓測(cè)建模場(chǎng)景、并發(fā)配比、目標(biāo) TPS 可配置同一場(chǎng)景配置可復(fù)制生成新版本施壓機(jī)管理統(tǒng)一注冊(cè)、心跳、任務(wù)分發(fā)施壓機(jī)掉線能自動(dòng)剔除且告警過(guò)程監(jiān)控實(shí)時(shí)指標(biāo)看板、閾值預(yù)警、熔斷觸發(fā)熔斷后 30 秒內(nèi)停止施壓結(jié)果歸檔報(bào)表聚合、基線庫(kù)、歷史對(duì)比任意兩輪結(jié)果可按場(chǎng)景對(duì)比任務(wù)調(diào)度基線任務(wù)定時(shí)執(zhí)行、結(jié)果通知支持郵件與即時(shí)消息兩類(lèi)通知其中熔斷這一條最容易被砍掉但它是后悔藥壓測(cè)過(guò)程中如果真實(shí)業(yè)務(wù)指標(biāo)出現(xiàn)異常核心接口錯(cuò)誤率飆升、數(shù)據(jù)庫(kù)連接數(shù)打滿(mǎn)系統(tǒng)要能自動(dòng)停止施壓。沒(méi)有這個(gè)開(kāi)關(guān)一次壓測(cè)可能直接把生產(chǎn)拖垮這個(gè)責(zé)任沒(méi)人擔(dān)得起。5. 避坑與排查壓測(cè)里最容易翻車(chē)的五類(lèi)問(wèn)題壓測(cè)方案寫(xiě)得再漂亮落地時(shí)總有幾個(gè)坑等著。下面五條是按「現(xiàn)象 → 原因 → 解決」整理的都是實(shí)際項(xiàng)目里反復(fù)出現(xiàn)的問(wèn)題提前知道能省掉大半天排查。5.1 數(shù)據(jù)與隔離類(lèi)看不見(jiàn)的臟數(shù)據(jù)最傷人現(xiàn)象一壓測(cè)跑完之后生產(chǎn)報(bào)表里的訂單量莫名多了一批客服反饋有用戶(hù)看到不屬于自己的購(gòu)物車(chē)。原因基本可以鎖定在標(biāo)識(shí)丟失。壓測(cè)標(biāo)識(shí)只在入口層打了異步任務(wù)、線程池、消息消費(fèi)這幾個(gè)環(huán)節(jié)沒(méi)有透?jìng)鲗?dǎo)致部分寫(xiě)操作按生產(chǎn)流量處理直接落進(jìn)了真實(shí)表。解決分三步一是把標(biāo)識(shí)透?jìng)髯龀煽蚣芗?jí)能力RPC 隱式參數(shù)、消息屬性、線程池包裝統(tǒng)一收口業(yè)務(wù)代碼不手寫(xiě)二是加一條回歸用例用壓測(cè)標(biāo)識(shí)發(fā)起請(qǐng)求斷言鏈路上每個(gè)節(jié)點(diǎn)的日志里都帶標(biāo)識(shí)三是清理任務(wù)改為按標(biāo)識(shí)定向刪除而不是按時(shí)間范圍模糊刪避免誤傷?,F(xiàn)象二壓測(cè)結(jié)果非常好TPS 達(dá)標(biāo)、p99 很漂亮但線上窗口期一開(kāi)就崩。多半是數(shù)據(jù)構(gòu)造偷懶了。用平均分布造數(shù)據(jù)每個(gè)賬號(hào)關(guān)聯(lián)的對(duì)象數(shù)量差不多鏈路上逐條校驗(yàn)、逐條計(jì)算的開(kāi)銷(xiāo)被攤平最耗時(shí)的長(zhǎng)尾路徑根本沒(méi)被觸發(fā)。解決方法是回到訂單明細(xì)統(tǒng)計(jì)真實(shí)的對(duì)象關(guān)聯(lián)分布按分位數(shù)構(gòu)造數(shù)據(jù)至少保證 5% 的請(qǐng)求落在長(zhǎng)尾區(qū)間。這類(lèi)問(wèn)題的排查有個(gè)技巧壓測(cè)結(jié)束后看耗時(shí)分布的偏度如果 p99 和 p50 差距很小先懷疑數(shù)據(jù)太均勻?,F(xiàn)象三第二周跑同一個(gè)基線任務(wù)指標(biāo)突然變差但代碼一行沒(méi)改。大概率是上一輪的數(shù)據(jù)沒(méi)清干凈。賬號(hào)沒(méi)解綁、購(gòu)物車(chē)還有舊數(shù)據(jù)、優(yōu)惠規(guī)則命中了過(guò)期配置都會(huì)讓第二輪的結(jié)果失真。解決是把清理做成任務(wù)的前置步驟而不是后置步驟每次開(kāi)跑前先對(duì)賬號(hào)池做一次全量校驗(yàn)狀態(tài)不是 idle 的一律回滾或剔除業(yè)務(wù)數(shù)據(jù)按批次號(hào)刪除不按時(shí)間刪規(guī)則改寫(xiě)帶上批次標(biāo)識(shí)避免不同批次互相污染。5.2 負(fù)載與環(huán)境類(lèi)瓶頸會(huì)搬家現(xiàn)象四線下壓測(cè)顯示應(yīng)用層 CPU 打滿(mǎn)、數(shù)據(jù)庫(kù)很閑于是結(jié)論是「應(yīng)用需要擴(kuò)容」線上實(shí)際是先扛不住數(shù)據(jù)庫(kù)。這是等比例壓縮只壓了一半的典型后果。應(yīng)用節(jié)點(diǎn)從 200 臺(tái)縮到 20 臺(tái)數(shù)據(jù)庫(kù)和緩存卻沒(méi)按同比例縮或者縮了實(shí)例數(shù)但沒(méi)調(diào)連接池上限瓶頸位置自然錯(cuò)位。解決方法是維護(hù)一張折算清單應(yīng)用、數(shù)據(jù)庫(kù)、緩存、網(wǎng)關(guān)、消息隊(duì)列逐項(xiàng)對(duì)照每項(xiàng)都要標(biāo)注「縮了多少、對(duì)應(yīng)參數(shù)改了什么」壓測(cè)前先用單機(jī)小流量校準(zhǔn)一次確認(rèn)各層資源利用率的關(guān)系與線上一致再上正式壓力?,F(xiàn)象五壓測(cè)一開(kāi)始的三十秒 p99 高得離譜之后突然變好報(bào)告不知道該怎么寫(xiě)。這是預(yù)熱不足加上 thinktime 設(shè)置不當(dāng)。JIT 編譯、連接池建立、本地緩存加載都需要時(shí)間一開(kāi)始的全速?zèng)_擊會(huì)把這些冷啟動(dòng)成本放大成假瓶頸反過(guò)來(lái)thinktime 設(shè)成 0 會(huì)讓每個(gè)虛擬用戶(hù)全速發(fā)請(qǐng)求壓出來(lái)的 TPS 虛高線上根本達(dá)不到。解決是固定預(yù)熱 5 到 10 分鐘預(yù)熱期的指標(biāo)單獨(dú)統(tǒng)計(jì)、不混進(jìn)正式結(jié)果thinktime 按真實(shí)用戶(hù)操作間隔設(shè)通常在幾百毫秒量級(jí)集合點(diǎn)只在驗(yàn)證瞬時(shí)并發(fā)時(shí)打開(kāi)常規(guī)基線一律關(guān)閉。6. 方案怎么驗(yàn)收答辯前必須能自證的四個(gè)交付物壓測(cè)方案和普通功能方案不一樣它的產(chǎn)出不是代碼是「結(jié)論 證據(jù)」。評(píng)審和答辯時(shí)被追問(wèn)的從來(lái)不是「你用了什么工具」而是「你憑什么說(shuō)這個(gè)結(jié)論可信」。所以驗(yàn)收前先把四份交付物備齊每份都要能獨(dú)立回答一個(gè)問(wèn)題。交付物回答的問(wèn)題驗(yàn)收口徑壓測(cè)模型說(shuō)明四個(gè)仿真度分別做到什么程度每個(gè)維度有可量化參數(shù)缺失項(xiàng)寫(xiě)明原因與影響隔離方案與驗(yàn)證記錄壓測(cè)數(shù)據(jù)會(huì)不會(huì)污染生產(chǎn)有標(biāo)識(shí)透?jìng)骰貧w用例的通過(guò)記錄有清理演練結(jié)果數(shù)據(jù)構(gòu)造與回收清單數(shù)據(jù)從哪來(lái)、跑完去哪了分布比例有統(tǒng)計(jì)來(lái)源回收腳本有執(zhí)行日志基線任務(wù)與對(duì)比報(bào)告性能是否穩(wěn)定、退化在哪至少兩輪同口徑對(duì)比指標(biāo)口徑一致、波動(dòng)可解釋答辯時(shí)最常被追問(wèn)的三個(gè)點(diǎn)提前想好答案。第一「為什么不用線下單接口壓測(cè)數(shù)據(jù)」——因?yàn)閱谓涌跓o(wú)法體現(xiàn)鏈路放大效應(yīng)和資源競(jìng)爭(zhēng)要能舉出自己鏈路里某個(gè)接口在串聯(lián)后耗時(shí)翻倍的例子。第二「壓測(cè)標(biāo)識(shí)會(huì)不會(huì)漏」——不要回答「不會(huì)漏」要回答「怎么發(fā)現(xiàn)漏」比如每個(gè)節(jié)點(diǎn)必須打標(biāo)、定時(shí)抽樣比對(duì)壓測(cè)請(qǐng)求數(shù)與應(yīng)用側(cè)命中數(shù)是否一致。第三「基線對(duì)比看哪個(gè)指標(biāo)」——答 p99 和錯(cuò)誤率平均值只作參考因?yàn)槠骄禃?huì)把長(zhǎng)尾藏起來(lái)而窗口期最先崩的就是長(zhǎng)尾。我自己的習(xí)慣是壓測(cè)正式開(kāi)跑前強(qiáng)制走一遍「標(biāo)識(shí)透?jìng)骰貧w 數(shù)據(jù)回收演練」兩件事各花不到十分鐘但能把后面最難受的兩類(lèi)事故擋在門(mén)外。這套流程第一次做會(huì)覺(jué)得繁瑣做上三輪就會(huì)變成肌肉記憶。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久综合色五月| 天堂色色色| 天天干天天爽天天爽| 免费看片在线观看| 97高清国语自产拍| 日韩精品999| 综合五月天亚洲婷婷| 亚洲欧洲美女在线观| 大香蕉婷婷色| 这里有精品| 久久这有这里精品| 婷婷爱在线观看| 综合久久五| 人妻av在线| 色噜噜狠狠狠综合曰曰曰| 色婷婷色99国产综合精品| www.97视频| 色中色综合| 79精品视频在线观看,| 中文字幕丰满乱孑伦无码专区| 国产av第一专区| jiZZdr| 深爱五月婷| 亚洲亚洲激情| 成人婷婷五月天| 大香蕉婷婷五月| 色综久久久| 亚洲中文字幕在线观看| 色色丁香| 99热思思| 99热思思| 97啪在线观看视频| 婷婷五月天99综合网站| 99色爱| 丁香五月天啪啪| 亚洲成人婷婷| 色五月 五月婷婷| 天天夜天天色天天| 人人爽亚洲| 色国产五月| 丁香五月综合高清在线| 伊人婷婷青青cao| 亚洲精品视频电影| 天天射美女| 五月婷婷偷拍| 色五月婷婷五月天| 亚洲色婷婷| 五月丁香六月综合激情无码软件亮点 | 久久久人妻| 婷婷五月成人| 大香蕉520| 婷婷香五月天| 少妇大叫太大太粗太爽了A片| 九九99免费视频| 涩综合网| av九九| 婷婷激情五月| 丁香九月激情在线视频| 国产AV不卡福利| 高清国产一级婬片a免费| 春色激情| 9999热在线观看| 亚洲免费电影2| 超碰成人在线免费观看| 99热9999| 色九月激情综合网| 东北熟女高潮99综合99| 青青日韩| 五月丁香婷婷啪啪| 欧美婷| 久久久久人无码人妻| 丁香五月欧美色综合| 狠狠色噜噜| 久久这里只精品| 色欲婷婷五月天| 很很干天天干| 日韩AV免费| 欧美超碰人人| 天天插夜夜爽| 翔田千里 50岁 无码| 激情五月综合| 淫视馆av三区| 啪啪综合网| 丁香五月瑟瑟| 天堂久久婷婷| 亲子乱AV-区二区三区| 九伊人网| 思思99热| 色久影院| 久久丁香五月婷婷| 久久久久人妻精品| www.yw色| 5月婷婷五月天| 婷婷黄色| www.久久久久久久久久.com| 丁香六月婷婷一区| 天天综合精品| 久久婷青青草原| 欧美色偷拍| 婷婷丁香69精华| 色婷婷影音| 久久9视频欧美| 1024日韩| 婷婷天堂综合| 丁香五月手机在线| 狠狠爱成人综合网| 99爱在线| 久久99久久99久久99人受| 99色综合网| 久久免费婷婷视频| 国产免费性爱| 欧美久久五月婷婷| 五月天色丁香| 亚洲黄色影视| 五月婷啪啪| 秋霞免费视频| 国产精品久久99| 99久久玖玖| 综合色播| 久久五月婷婷电影| www.99在线| 婷婷五月丁香青青草在线| 97人人草| 五月天婷婷激情| 五月婷婷九九热| 五月天婷婷色播| 玖玖爱综合网| 天天色天天操天天射| 国产亚洲色婷婷久久99精品91| 九九re视频在线视频| 思思视频精品| 五月色综合| 碰碰人人漕| 久久欧洲综合网| 色婷婷香蕉| 激情婷| 99秘 在线| 日韩999| 精品网站:999WWW| 婷婷色网站| 久久丁香五月天| 亚洲综合婷婷五月| 五月天激情图片| 激情九月综合| 五月婷婷深深爱| av九九| 伊人大香蕉综合在线| 99热骚货| 东京热人妻一区二区三区在线| 狠狠色综合777| 99精在线| 成人婷婷深爱综合网| 日日日日日| 久久五月婷婷电影| 国产精产国品一二三在观看 | AV色五月婷婷| 久草热久草在线视频| sS丁香五月婷婷| 九九热这里| 99久久久久| 99色天堂| 五月婷婷就去色| 天天日天天爽| 天天摸人人摸| 激情五月天的婷婷| 99视频精品| 五月花婷婷| 天天插天天插天天日| 天天干天天干天天| 九九热短视频在线观看| 久青草大香蕉| 久久五月网| 综合久久影院| 99热思思| 九九色综合九九色| 久婷五月| 色99久草在线| 五月激情综合网| 婷婷丁香五月麻豆| www九九免费视频| 激情深爱五月| 激情五月第四色| 亚洲亚洲人成综合网络| 五月婷婷丁香五月婷婷丁香| 久久er九九| 激情五月黄色| 啪啪啪综合网| 亚洲视频在线网| 婷婷激情小说| 日韩五月婷婷| 99色精品| 丁香五月婷婷综合啪啪| 青青草原亚洲天堂| 五月天色视频| 亚洲无码成人网| 久久精品A片777777| 色五月在线观看| 91干在线| 中文字幕成人版| 日本婷久久| 丁香五月婷婷色| 成人综合网站| 日本色婷婷| 婷婷中文字幕版| 九九色播五月丁香| 99综合五月免费视频色婷婷| 激情五月天婷婷| 欧美色五月天| 99精彩视频网站在线| http://www.sd-xiangsu.com/| 激情综合网色五月| 级人人91| 99在线免费观看| 深爱五月激情| 色婷婷影音| 九色91国产| 爆乳熟妇一区二区三区四区| 日韩aaaaa| 丁香五月色欲| 成 久久| 亚洲99综合| 婷婷丁香黄色| 丁香激情综合| 成人免费120分钟啪啪| 99视频只有精品| 久热这里只有精品99re,久热这里只有精品7| 密乳Va| 中文字幕不卡网站| www.热99热| 99在线免费视频| 亚洲超碰青涩| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | www.粉嫩av.com| 99爱在线| 丁香婷婷综合影院| 中文婷婷狠狠| 四色五月婷婷| 丁香五月婷婷国产在线| 久久您您综合网| 丁香五月天堂网| 色婷婷六月天| 能直接看的av网站| 色中色综合| 在线观看亚洲视频影院| www.爱婷婷.com| 综合aV在线| 久久久网站| 激情五月小说婷婷| 97天堂| 久热大香蕉| 99热这里只有精品1025| 丁香九月激情| 亚洲高清在线| 熟女网站久久| 婷婷五月天影院| 婷婷五月丁香六月| 五月激情影院| 欧美人人操| 激情亭亭五月| 五月色色网| 色呦呦美女| 丁香六月激情综合| 99热这里只| 深爱激情五月婷婷| 欧美99热| 99爱在线| 久色欧美| 色综合色五月| 超碰免费在线| 五月丁香狠狠爱婷婷综合| 国产看真人毛片爱做A片| 三男玩一女三A片| 五月丁香在线| 久久se 综合网| 五月婷婷久久大片| 色色丁香色五月| 婷婷丁香91| 99啪啪网| 五月婷婷狠天天色综合| 日夜夜久久| 深爱激情五月天| 婷婷伊人中文字幕| 国产在线aaa片一区二区99| 日韩丰满少妇无码内射| 久热久操久热久草国产91| 六月丁香六月婷婷欧美| 狠狠色五月激情| www.狠狠操.con| 中文字幕成人日韩| 秋霞免费三级片| 六月丁香婷婷拍拍| 亚城区在线| 99久久玖玖| 亚洲激情五月| 丁香婷婷五月人体| 就99这里只有精品| 色婷婷亚洲婷婷| 综合色五月| 狠狠久久婷五月综合色| 国产激情视频在线观看| 99这里是精品| 婷婷五月天激情小说| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 无码操B| 91热久久| 日本三日本三级少妇三级66| 夜夜躁狠狠| 婷婷六月五月| 色婷婷成人做爰A片免费看网站| 精品久9| 大香蕉网站,大香蕉综合| 五月婷婷播| 玖玖热99| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 色婷婷色丁香色欲av| 婷婷色啪| 丁香五月社区| www五月婷婷88导航| 99人人操人人操人人精| 日本熟女内射| 国产精产国品一二三在观看| 五月婷婷久久久| 激情五月天婷婷视频| 99a级片| 婷婷无五月无码视频| 91操片| 五月天婷婷无码视频| 涩涩涩五月天| 日韩久久视频| 日亚二欧美| 99五月香婷婷丁香在线视频| 丁香婷婷五月天亚洲| www.操.com| 怡红院AV亚洲一区二区三区H| 99re这里只有| 丁香激情五月天| 成年人99热| 综合五月婷婷| av九九| 99热资源在线| 91岛国片| 婷婷五月天Av| 超碰二区| 国产精品成人AV在线| 婷婷五月综合中文字幕| 婷婷色情小说| 久久99人人| 深夜婷婷五月丁香| 亚洲成av人影院| 久久五月天合网| 五月伊人网| 综合超碰熟| 色五月婷婷天天操夜夜操| 99在线精品视频| 热99国产精品| 国产美女无遮挡裸体毛片A片| 欧美A级网站| 久久资源网五月婷| 成人看片网站| 国产精产国品一二三在观看| 天天做天天爱天天爽在| 色婷婷8| 开心日韩丁香婷婷五月| 91人人人人人人人| 五月丁香六月激情啪| 亚洲日比视频| 国产精品国产| 99在线观看| 亭亭玉月丁香| 在线综合婷婷| 六月婷婷日| 伊人久久五月天综合| 色婷婷av综合网| 99亚州综合精品成人网| 欧美色色干| 婷婷97碰碰| 日本精品99| 丁香五月欧美| 9久热这里只有精品| 激情色五月天| 男人的天堂五月丁香| 五月丁香色婷婷色| 午夜大香蕉| 五月丁香综合久久| 四色五月视频| 99久热| 色五月在线| 色噜噜狠狠色综无码久久合欧美| 无码色色| 成人视屏在线观看| 青青草国产亚洲精品久久| 五月婷婷伊人久久| 六月婷色| 色婷婷成人做爰A片免费看网站| 五月丁香六月婷婷不卡免费无码 | 99精品九九| h亚洲| 五月天色婷婷激情综合| 婷婷94s| 任你日视频| 婷婷 激情 五月| 九九美女视频| A片试看50分钟做受视频| 五月天狠狠干| 五月丁香六月在线欧美| 超级碰碰99| 九九碰九九爱97超| 99久久免费精品| 色婷精品91| 99国产精品白浆在线观看免费 | 欧美激情综合五月色丁香| 九九精品网| 99视频内射三四| 超碰亚洲欧美| 综合网激情| 99re视频精品| 99热在线里有精品| 久久3p| 夫妇交换刺激做爰| 996热| 丁香五月开心五月激情| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 清色五月天| 欧美性爱中文字幕| 色五月色开心开心五月| 99精品在线观看| 人人操人人干AV| 人妻操操色| 99福利导航| 桃色五月婷婷| 乱岳熟女50岁| 五月天婷婷色| 99亚州综合精品成人网| 五月天婷婷免费视频| 婷婷玉月丁香五月在线视频| 色色永久| 亚洲激情淫网| www.99色| AV堂狠狠干| 日韩精品一品二区三区的使用体验| 99ER热精品视频| 色五月在线播放| 九九大香视频| 色碰碰| 天天干夜夜想| va婷婷| 天天色天天舔天天爱天天爽| sewuyue第四色| 五月丁香久久| 丁香五月亚洲AV| 人人插9| 操比激情五月| 六月婷婷AV| 婷婷色综合网日韩国产| 美女爆乳18禁www久久久久久| 国产小精品| 99热91| 少妇激情五月天| 91碰视频| 99爱在线免费视频| 五月激情小说| A片试看120分钟做受视频红杏 | 欧美色99| 99,色| 99综合网| 99久久国产宗和精品1上映| 99re66热这里只有精品| 99久热这里只有精品视频删减版| 99久久精彩视频。| 狠狠狠人妻| 插插五月天| 色综合五月婷婷狠狠干| 丁香五月网在线观看| 男女久久婷婷五月天| 欧洲高清免费久久| 五月草视频| 丁香六月婷婷久久综合| 91在线日| 国产乱子轮XXX农村| 性做久久久久久久免费看 | 有码一区二区三区| 五月丁香久久综合色| 小骚穴电影| 五月婷在线影院| 狼人久草| 日本在线噜噜| 123草逼网| 五月婷婷六月丁香| 热思思九九| 亚洲韩国日产综合AV| 亚洲av无码精品色午夜| 天天爱天天做天天日| 激情五月伊人婷婷| 色五月婷婷色五月| 欧美婷婷| 9999热免费视频视频| 婷婷激情四射五月天| 色色激情五月| 久久婷婷五月天激情| 五月丁香中文字幕| 这里只有精品视频| 欧美婷婷综合网| 大香蕉久| 色婷婷丁香五月综合| 亚洲av日韩无码| 九色PORNY9l原创自拍| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 岛国AV网站| 另类图片色五月| 能看的AV| 亚洲激情婷婷| 日日做夜夜爱| 26UUU欧美| av在线婷婷| 丁香五月婷婷偷拍| 久久综合天天综合| 99亚州综合精品成人网| 成人午夜在线视频| 五月亭亭六月激情| 97色色婷婷| 激情婷婷激情在线不卡| 激情五月伊人婷婷| 色婷五月天| 日产精品久久久久久久蜜臀| 狠狠色噜噜狠狠| 丁香六月天婷婷色| 综合激情五月天| 丁香啪啪中文字幕| 五月色导航| 丁香六月啪| 9久热在线视频| bbwcuckold精品熟妇| 日日夜夜天天| 婷婷五月天最新网址| 思思99热热热99| 丁香五月激情月| 婷婷六月丁香在线| 久久9视频欧美| 丁香五月婷婷老师网站| www天天干| 99亚州综合精品成人网| 婷婷激情人妻| 五月丁香综合在线| 67久久| 久久6这里只有精品| 五月天久久综合| 人人操大| 亚洲色优| 国产婷婷五月| 无码区婷婷五月花开| 91夫妻视频| 亚洲激情 久久| 99热在线精品观看| 三级三久久线久久99久目本WW| 亚洲六月婷婷| 99久久久久久www| 色婷婷五月在线| 综合久久五| 天天干天天 亚洲| 欧美日韩999| 久久香蕉影院| 五月亭亭直播| 深爱五月婷婷开心中文字幕| 久热婷婷| 五月婷婷综合色啪首页| 1024操逼| 五月婷婷开心综合| 婷婷色六月| 九九婷婷网五月天| 狠狠色丁香久久婷婷综合五月| 99re这里只有精品视频了| 影音 五月 婷婷 久久| 五月丁香欧美综合免费视频| 色呦呦在线| 婷婷色av| 26.uuu丁香五月婷婷| 五月婷婷色影院| 久久综合中文| 99re在线播放| 丁香五月激情图片| 69综合在线| 久久丁香综合| 另类激情五月天。| 五月激情综合网| 亚洲色情激情丁香五月| 久久日婷婷| 丁香五月天之婷婷影院| 欧洲不卡视频| 青青草免费公开视频| 99在线视频在线观看| WWW嗯嗯啊啊啊啊| 丁香六月激情国产| 婷婷五月天黄色| 久久婷婷亚洲| 久热这里只有精品在线| 97超级碰碰碰| 天天综合精品| 啄木鸟丝袜美女福利视频| 国产婷婷五月| 五月综合视频| 婷婷五月天欧美图片在线播放电驴| 色色网91| 91久久久久久久| 五月天婷婷青青草| 男人天堂99| 99国产精品久久久久久久久久久| 亚洲天天| 26uuu国产色| 奇米色大香蕉| 日日噜噜夜夜狠狠久久丁香六月| 色婷婷丁香五月色综合网| 色五月婷婷激情基地| 色色色综合色| 亚洲综合热| 色五月婷婷中文字幕在线观看 | 9久热在线视频精品| 婷婷五月综合激情| 激情五月婷| 六月婷婷天天操夜夜爽视频| 丁香影院五月综合| 亚洲色综合| 天天爽夜爽| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 久热只有精品| 五月天a婷婷伊人| 色九月婷婷丁香| 大伊香蕉精品视频在线| 97影院一级片| 久狠日av| 亚洲五月婷婷在线| 综激情网| 一区二区三区四区牛| 丁香婷婷啪啪| 久久婷婷五月综合色奶水99啪| 欧洲综合视频在线观看。欧洲,亚洲综合食品在线观看。 | 五月激情婷婷女| 五月丁香激情片| 97人人看一| 婷婷五月花.97| 这里只有精品视频在线| 六月婷婷八月丁香| 久久久精品人妻录| 亚洲舔观看| 五月丁香婷婷综合网| 人人97操| 99久久婷婷五月| 国产亚洲精品AAAA片APP| 成人亚洲精品| 亚洲综合五月天婷婷丁香| 天天情色五月天| 丁香五月综合激情久久潮喷| 99精品自拍视频| 丁香六月激情毛片| 精品国产a| 超碰婷婷色| 91人妻PORNY九色大屁股| 日本久久婷婷| 久草狼人| 9有码中文| 五月婷婷在线视频| 久久精品视频在这里有| 99免费视频网| 五月花综合视频| 夜夜撸天天日| 99热这里只有的精品视| 久久99成人性爱高清视频| 丁香五月日啪| 亚洲五月综合色播| 丁香婷婷五色月| 婷婷综合成人五月天| 婷婷九月激情| 婷婷深爱五月天在线| 久久综合网免费视频| 99免费综合网| 思思热99er在线视频| www.天天干.com| 亚洲激情淫网| 中文不卡一二三区| 影音先锋人妻出差| 桃色激情网| 五月欧美丁香在线观看| 激情綜合網址| 狠狠色丁香| 婷婷五月天综合网| 天天做天天爱天天高潮| 日韩啪啪网| 欧美丁香婷婷天天操| 久久草中文日韩欧美| WWW久久久| 天天爽天天| 婷婷五月天成人基地| 九九精品丁香花| 五月婷婷综合网| 97人人操人人爽| 大战熟女丰满人妻AV| 性99网站| 中文字幕综合网| 国产全是老熟女太爽了| se影音资源在线观看| 色噜噜狠狠色综合成人99| 久久五月丁香| 六月丁香五月天| 亚洲精品国产setv| 国外亚洲成AV人片在线观看| 激情五月综合婷婷| 只有精品视频在线观看| 色爱爱综合网| 天天日,天天干,天天操| 国产资源91在线| 婷婷99视频精品| 一起草AV入口| 大香蕉婷婷五月天| 天天爽天天透天天爱| 综合色影院| 色五月激情五月| 四月婷婷五月丁香| 就爱啪啪婷婷| 五月丁香婷婷色色色| 亚洲日韩乱码一区二区三区四区 | 91丨九色|PRNY熟妇| 综合婷婷| 美欧日韩国产成人在战| 精品综合五月| 九九热a| www.婷婷五月天,com| 色99网| 婷婷六月天激情| 99在线免费视| 亚洲情色一区| www超碰com| 99久久99久久综合| 久久久婷婷五月亚洲97号色| 26UUU精品一区二区Com| 午夜大香蕉| 五月婷婷黄色毛片| 专区无日本视频高清8| 国产成人av在线| 色婷婷AV久久久久久久| 婷婷免费成人视频| 九九99免费理论| 丁香五月天亚洲综合| 五月丁香综合| 99久在线精品99re8热| 五月亭亭性| 日逼免费视频| 青青操绿aaa一区日v| 桃色激情五月天| 一区=区操屄高清大全av| h在线看免费版在线看| AV在线大香蕉| 激情五月综合亚洲另类| 79精品视频| 99精品网站| 好好日激情五月天| 婷婷丁香射射| 91色久| 丁香五月成人网| 婷婷五月深爱五月| 五月色丁香国产在线视频| 久久九九99| 六月丁香色色| 人人操 色| 久久资源综合| 激情五月婷婷色综合| 大战熟女丰满人妻AV| 色色色com| 婷婷久久亚洲| 成人 在线 日韩| 色婷婷888| 欧美性丁香色色五月天干干| 天堂草在线观看| 激情综合五月色丁香婷婷| 天堂爱爱| 日本人妻丁香婷婷久久寝取熟女五月| 九九蜜臀精品| 天堂婷婷五月在线| 永久的网站AAAA| 中文字幕av久久爽一区| 婷婷五月天奸女| 伊人超碰| 五月天婷婷色在线视频免费观看| 97精品欧美91久久久久久久| 97操碰碰无码视频| 91综合在线视频| 免费97碰碰| 婷婷丁香五月天影院| 久久加勒比| 久久九⑨| 亚洲无码成人| 99热爱爱干干日| 91色色色| 色愛综合网| 色色色777| 思思99精品视频在线观看| 精品国产人人爱人人| 熟女乱论网| 五月天伊人日日噜影片AV| 五月天色在线| 丁香五月激情性色郤| 婷婷六月激情在线视频| 很很干夜夜干| 欧美Va婷色| 4399亚洲视频| 久久激情视频| 99国产精品久久久久久久久久久| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 五月天色不卡| 超碰色综合| 丁香五月天网站| 久久伊人五月天| 五月激情婷婷播播网| 五月丁香六月激情狠狠| 狠色色狠网| 五月综合激情| 色综合色色| 国产精品激情AV久久久青桔| 丁香五月婷婷香| 99人人操人人爱久久久| 色性综合| 五月开心激情网| 五月天激情婷婷| 六月丁香激情网| 中文字幕有多少字| 婷婷丁香五月天熟女丝袜| 97视频91| www 五月天 com| 五月丁香六月激情视频| 婷婷色婷婷| 亚洲网站观看视频| www.日本91| 亚洲综合视频天天精品| 夜夜爽天天日| 亚洲av综合网| 亚洲网综合在线| 久久曰曰| 国产99久| 婷婷五月天综合网| 婷婷精品在线| 96精品久久久久久久久| 99热精品在线在线| 五月天丁香啪啪啪啪| 亚洲精品亚洲人成人网| 激情 婷婷 丁香五月天| 色婷婷激情| 亚洲乱码日产精品BD| www.久久久久久久久久久| 色视频2025| 久久久精品色色色| 深爱激情综合| 操操熟女| 婷婷狠狠久久| 婷婷五月天综合在线| 久久激情五月| 中日韩狠狠色| 九九一综合精品| 色噜噜狠狠色综合成人99| 国产乱妇无乱码大黄AA片| 国产免费一区二区三州老师F1F1……| 夜夜涩涩涩| 色色五月天婷婷丁香| 久久草大香蕉| 国产44页| 六月丁香婷婷开心综合基地| 91色噜噜狠狠狠狠色综合| 荫道BBWBBB高潮潮喷| 精品久久久999| 婷婷五月天亚洲综合网| 激情啪啪五月天| 五月激情影院| 665566 无码| 深爱激情网五月| 婷婷激情五月| 婷婷成人av| 五月天综合缴情网网站0| 丁香婷婷激情五月天无毒不卡蜜桃| 777精品久无码人妻蜜桃| 丁香五月色网| 婷婷五月天成人综合网| 9999久久久久| 日本色色色| 97色女人在线| 综合久久8| 久久这里只有精品网| 九九九九综合| 玖玖爱导航| 久久这里只有精品1| 久久人人看| 人人操人人操919999| 天天做天天爱天天爽综合网| 婷婷五月丁香第四色超碰在线| 激情综合4月| www99热| 久久精品系列| 色婷婷五月天偷拍| 丁香五月天天久久综合小说| 婷婷六月丁香在线| 99ri在线观看视频| 激情五月综合第一页| 综合色激情| 日本综合九九| 中文字幕簧片| 国产特级毛片AAAAAAA高清| 婷婷五月激情热播| 九九無妻| 成人日韩欧美| 婷婷综合在线| 丁香婷婷黄网站| 婷婷丁香五月激情密臀av| 久久久久久18| 99色性爰网络| 色婷婷另类| 拳交大逼| 九九久久精品國產| 青青草五月天| av激情在线| 99狠狠色| 97人人操人人干| 丁香五月婷婷影院| 六月丁香婷婷视频综合在线观看| 91欧美| 第2色五月婷| 天天日天天操心| 五月丁香六月激情狠狠| 610018岁成人视频| 开心综合激情综合| 97偷拍对白视频| 婷婷丁香五月色| 97欧美在线| yellow视频在线观看91| 九九热欧美| 五月天成人综合| 五月色丁香成人| 激情婷婷丁香五月| 色色色色色色色色色色色色色色,网站| 日韩av高清| 九九成人| 欧美日韩91| 欧美性猛交 XXXX 乱大交| 99亚洲欧洲| 日本成人内射| 久久精品系列| 婷婷伊人綜合中文字幕小说| 99国产精品白浆在线观看免费| www激情网| av在线不卡播放| 另类A片| 亚洲人人96@| 毛片九九九九九九九九18| 九九色综合视频| 91综合在线视频| 五月丁香六月色| 狠狠操.COM| 久久狠婷婷| 青青草激情网| 色天天综合成人网| 九九精彩久久| 天天爽天天干| 日日爱激情| 大香蕉五月丁香| 第四色在线观看| 狠狠操狠狠操AV| 婷婷五月成人| 五月婷婷 激情按摩| 99啪啪网| 中文字幕丰满乱孑伦无码专区 | 综合欧美五月婷婷| 天天干,夜夜爽| 欧美丁香婷婷天天操| aaa久久久| 国产成人av在线播放| 色。 日日日| 人人操 色| 99热精品在线| 亚洲色婷婷五月天| 九九九九九无码| 色色色色区| 婷婷五月花| 99精品视频在线观看| 色欲婷婷夜夜| 久久中国毛毛片爱久久| 996热| 婷婷丁香五月色偷偷| 一起草av| 情久久综合五月天| 伍月婷丁香婷| 婷五月天丁香婷五月| 丁香五月激情综合| 播五月,色五月,开心五月播放器 | 婷婷丁香五月天亚洲| 色三级色三级| 久久五月丁香综合| 天天操夜夜操| 婷婷丁香五月激情密臀av| 色婷丨日丨天丨综合久久| 操人久久| 97色综合| 俺去也婷婷| 欧美视频五区| 天天干天天射色综合| 九九视频免费| 五月天婷婷AV| www.seqingwuyuetian| 久久久精品色| 五月丁香六月婷婷成人电影| 五月婷婷免费在线观看| 69精品人人人人| 六月丁香激情| 婷婷五月丁香综合亚洲| 五月天激情小说| 欧洲亚洲午夜| 99热亚洲精品| www,五月丁,com| 五月丁香六月综合情在线观看| 婷婷之玖玖| 九九婷| 精品一二三区久久AAA片| 久久总和99| 99久热这里只有精品| 久久在线人妻| 丁香五月婷婷色五月| 欧美精品999| 精品久久婷婷| 色婷狠狠| 欧美日韩成人综合9| 成AV人片一区二区三区久久| 久久女婷| 六月丁香综合| 丰满人妻一区二区三区| 久久人妻伊人| 五月婷婷丁香色播网| www..com色爱| 99 色色吧| 人人草成人视频| 色综合久久888| 色色五月天丁香| 182TV大香蕉| 综合色色综合| 五月天激情日色在线| 色五月丁香com| 亚洲第一成人无码A片| 极品少妇XXXX精品少妇偷拍| 亚洲精品色| 六月婷婷中文字幕| 99热九九热| 天干夜夜操| 色色色色色综合| 超碰碰碰碰| 99热婷婷| 天天干 夜夜爽| 色五月激情婷婷| 狠狠干无码| 婷婷五月天伊人| 六月婷婷综合| 丁香五月天啪啪| 婷婷97狠狠成人网站| 成人无码精品1区2区3区免费看| 成人精品在线| 欧美电影在线播放| 欧美性生交XXXXX无码小说| 久久久99精品免费观看| 亚洲国产精品二二三三区| 青草视频在线观看视频| 国产性爱在线| 182tv992tv人之初午夜免费观看| 97碰碰免费.视频| 超级碰碰99| 91久久免费| 色色狼人综合| 五月婷色色| 丁香激惜男女| 日韩成人精品一区久久久久| 情涩婷婷五月天| 九九热99热| 91婷婷丁香五月| 欧美黄色AA片哗啦啦啦| 九九在线精品| 亚洲六月综合激情久久下卡| .肏屄视频一区二区| 天天色99| 天天插天天插天天操| 婷婷五月天激情在线观看| 亚洲九九在线| 99这里只有精| 亚洲高清在线| 蜜臀AV在线观看| 国内精品免费一区二区2009| 2022人人操人人看| 日本精品99网站| 天天爽天天日人人爱 | 婷婷丁香成人五月天| 91九色欧美| 五月婷婷五月| 五月婷婷影视| 亚洲免费视频网站| 99久久九九| 玖玖精品资源| 精品久久人妻| 亚洲色热| 伊人天堂婷婷| 五月色网| 中出内射的人妻视频| 欧美狠狠色| www.久久久久| 超碰A V在线| 日本九九九九| 五月丁香婷婷啪啪综合网| 亚洲热综合| 亚洲精品婷婷| 五六月婷婷久久| 色色丁香婷婷| 综合综合网| 丁香五月婷婷亚洲综合精品| 欧美丰满熟妇BBB久久久| 月丁香久久久| 六月婷婷成人| Www.激情| 99热精品在线在线| 99热九九九九| 五月天激情综合在线| 色婷婷激情五月天在线观看| 亚洲成人AV在线观看| 日本色色色色色色色色一色二色| 黄网在线观看免费| 色亚洲婷婷| 日本色99| 久久九网| 永久的网站AAAA | 99热黄| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 97se视频在线| 99热在线中文字幕| 色五月超碰| 丁香六月婷婷操逼网| 国产亚洲在线| 五月亭亭六月天| 九九视频在线观看视频6 | 六月婷婷九月丁香| 99爱免费在线视频| 九九热99热| 丁香激情五月少妇| 26uuu亚洲色| 国产激情久久久| 欧美色色日韩| 日韩欧美四五区| 激情久久五月天| 狠狠 久久| 婷婷五月天色网久| 成人丁香五月天| 操日本三片99| 亚洲欧州色情在线观看| 99熟女| 91美女被操| 五月天天视频| 97色 五月天丁香| 五月丁香日本片| 情色五月天网站| 亚洲在线成人| 激情综合网 激情五月天| www.夜夜| 亚洲av综合网| 精品人妻伦一二三区久久| 国内自拍97在线| 婷婷亚洲激情在线观看视频| 狠狠综合久久| 在线99色| 久久这里有| 亚洲丁香五冃97色| 妻久久久久| 99爱视频免费| 噜噜干日本| 亚洲综合视频天天精品| 丁香色播五月天| 亚洲婷婷五月天| 婷婷五月情| 久久狠狠干| 五月丁香综合中文| 深爱五月网| 五月婷婷碰碰| 这里只有九九精品| 夜夜穞天天穞狠狠穞AV美女按摩| 亚洲欧洲另类| 99久久婷婷国产综合精品草原| 色婷婷超碰| 婷婷色片| 九色激情网| 色五月亚洲| 五月丁香久久色| 狠狠高潮精品亚洲1| 香蕉色色网| 久久视频这里99| 色五月婷婷丁香凹凸| 色婷婷狠狠久久综合五月| 日韩av变天就操逼不卡区| 婷婷五月丁香基| 精品无码久久久久久久久| 婷丁香五月天| 国产真实乱了老女人视频| 情五月亚洲婷婷| 嫩BBB槡BBBB搡BBBB| 99热香港| 中字幕视频在线永久在线观看免费 | 久久久久9| 99视频久久免费视频| 久久xx| 色综合五月婷婷狠狠干| 精品欧美一区二区三区久久久| 五月婷婷六月爱| 东京热五月婷婷| 六月丁香成人网| 色原狠狠综合| 亚洲色夜| 六月丁香久久| 伊人久久婷婷| 少妇婷婷五月天| 97干在线视频精品店| 九九99视频| 久久综合影院| 人妻操逼视频| 婷婷六月综合在线| 婷婷综合婷婷| 日本高清综合网五月丁香| 九九十99视频| 欧美精品99久久久| 99小精品| 五月久久丁香| 狠狠操狠狠插| 激情综合五月丁香| 国产精产国品一二三在观看| 在线观看玖玖资源免费观看| 九九在线91| 婷婷五月大香蕉| 99re思思热在线视频| AA片在线观看视频在线播放| 思思热久久爱| 色一情一乱一乱91Av| 精品久久久人妻| 人人天堂操| 伊人久热91| 亚洲超碰在线| 九九视频精品在线免费| 激情五月天情色| 97碰免费视频在线| 色播五月丁香婷婷| 五月婷婷婷色| www.婷婷亚洲基地| 欧美久久五月婷婷| 色婷大香蕉| 婷婷九月色| 天天摸天天高潮天天爽| 五月婷婷六月丁香首页| 深爱激情六月天| 亚洲99在线视频| 九月婷婷色色| 少妇被躁爽到高潮无码文| 五月丁香五月婷婷在线观看| 婷婷久热| 七月丁香婷婷 色色| 色婷久九| 国产探花AV在线| 久久婷视频| 激情又色又爽又黄的A片| 激情综合网五月天| 激情五月开心五月在线视频| 色婷婷影视99| 婷婷伊人网| 成人va在线播放|