99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查 1. 先把 On-CPU 和 Off-CPU 這兩個詞掰開揉碎性能分析這件事做得久了會發(fā)現(xiàn)一個很尷尬的現(xiàn)象很多人拿到一臺卡頓的機(jī)器第一反應(yīng)是 top、ps、然后開 perf 抓火焰圖看到 CPU 使用率不高、火焰圖也沒幾個尖峰就得出系統(tǒng)沒問題的結(jié)論。但業(yè)務(wù)方還在催接口還是慢。問題出在哪出在只看了線程跑在 CPU 上的那段時間忽略了線程不在 CPU 上的那段更漫長的時間。Linux 性能分析里的 On-CPU 和 Off-CPU說的就是把一個線程的完整生命周期切成兩半來看On-CPU 是線程真正占用處理器執(zhí)行指令的時間Off-CPU 是線程雖然活著、但沒有被處理器執(zhí)行的時間。這兩塊時間加起來才是一個請求從進(jìn)來到返回的真實(shí)墻鐘耗時。我做過的排查里至少有六成的性能問題根子在 Off-CPU 上等鎖、等磁盤 IO、等網(wǎng)絡(luò)回包、等定時器、等被喚醒調(diào)度。而大家習(xí)慣用的工具幾乎全是為 On-CPU 設(shè)計的。這就導(dǎo)致一個結(jié)構(gòu)性盲區(qū)——你越用 On-CPU 的工具越會把注意力放在計算熱點(diǎn)上越容易漏掉阻塞點(diǎn)。所以這篇內(nèi)容想聊的就是怎么把這兩半時間都量出來、怎么看、怎么改。適合已經(jīng)會用 top、perf 這類基礎(chǔ)工具但遇到CPU 不高卻很慢的場景會卡住的運(yùn)維、后端開發(fā)和 SRE也適合剛接觸 Linux 性能調(diào)優(yōu)、想建立一套完整分析框架的朋友。1.1 一個類比餐廳后廚和等位區(qū)把服務(wù)器想象成一家餐廳CPU 核心就是廚師線程就是一道道待做的菜。On-CPU 時間相當(dāng)于廚師正在灶臺前顛勺的時間Off-CPU 時間是這道菜從點(diǎn)單到出餐之間廚師沒碰它的所有時間——可能是在等配菜送過來等 IO可能是灶臺被別的菜占著等鎖也可能是廚師被叫去處理別的單子、這道菜就擱在一邊調(diào)度延遲。只統(tǒng)計廚師顛勺的時長你會覺得后廚效率挺高但顧客感受到的是從點(diǎn)單到上菜的完整等待。這兩者之間的差距就是 Off-CPU 分析要填的坑。理解了這層類比后面所有的工具和指標(biāo)其實(shí)都是在回答兩個問題廚師到底在哪個灶臺上花了多少時間On-CPU 熱點(diǎn)以及這道菜在沒被烹飪的時候究竟卡在哪一步Off-CPU 阻塞點(diǎn)。1.2 為什么只盯 On-CPU 會系統(tǒng)性誤判CPU 使用率是個比值分子是忙的時間分母是總時間。當(dāng)系統(tǒng)大量線程都在睡覺等待時這個比值天然就低看起來很閑。但這恰恰可能是最糟的狀態(tài)線程數(shù)開了一堆每個都在等同一個資源吞吐上不去延遲還高。這類問題在 On-CPU 視角里幾乎隱身因?yàn)閴焊鶝]有多少指令在跑。更麻煩的是一些常見結(jié)論會把人帶偏。比如CPU 使用率低說明負(fù)載輕可以再壓一壓實(shí)際可能是下游某個依賴把請求全堵住了再比如火焰圖沒熱點(diǎn)所以代碼沒問題實(shí)際瓶頸在 syscall 睡眠或者 futex 等待上采樣器根本沒采到什么棧。所以建立 On-CPU 和 Off-CPU 的雙視角不是為了多學(xué)幾個命令而是為了堵住這個判斷漏洞。1.3 把線程時間賬本拆開一個線程從被創(chuàng)建到退出它的時間可以粗略拆成三塊Running在 CPU 上跑、Runnable就緒但在等 CPU、Sleeping睡眠等某個事件。Running 就是 On-CPU后兩者合起來是 Off-CPU。這里有個容易被忽視的細(xì)節(jié)Runnable 狀態(tài)本身也是一種浪費(fèi)它說明 CPU 不夠分或者調(diào)度策略讓某些線程遲遲輪不上。很多偶發(fā)尖刺就是 Runnable 排隊造成的。把這三塊量化出來你就能給任何一次慢請求做一個耗時歸因表多少時間在算多少時間在等鎖多少時間在等 IO多少時間在等調(diào)度。歸因清楚了優(yōu)化方向基本就是明牌。接下來的章節(jié)我會先講 On-CPU 怎么采得準(zhǔn)再講 Off-CPU 怎么把等待棧抓出來最后給一個從現(xiàn)象到修復(fù)的完整推演。2. On-CPU 分析采樣、火焰圖與熱點(diǎn)定位On-CPU 分析的目標(biāo)很明確找出線程把時間花在了哪些代碼路徑上。主流做法是基于定時中斷的采樣sampling而不是插樁計數(shù)因?yàn)椴蓸訉π阅苡绊懶 ⒛芊从痴鎸?shí)分布也不需要改代碼。采樣器每隔一個固定周期打斷一次 CPU抓下當(dāng)前的調(diào)用棧攢夠樣本數(shù)之后按棧聚合就得到了調(diào)用分布的近似。樣本越多統(tǒng)計越穩(wěn)。2.1 perf 采樣機(jī)制和幾個必須懂的參數(shù)Linux 上最通用的采樣工具就是 perf。它依賴內(nèi)核的 perf_event 子系統(tǒng)和硬件/軟件 PMU能按時間頻率或事件計數(shù)觸發(fā)采樣。一條典型的抓取命令是這樣perf record -F 99 -g -p 12345 -- sleep 30 perf script perf.out ./stackcollapse-perf.pl perf.out perf.folded ./flamegraph.pl perf.folded oncpu.svg幾個參數(shù)值得掰扯清楚。-F 99 表示每秒采樣 99 次。為什么不是 100因?yàn)檎麛?shù) 100 容易和系統(tǒng)里其他 100Hz 的周期任務(wù)比如某些定時器產(chǎn)生鎖相采出來的樣本會偏向某個固定相位導(dǎo)致分布失真。99 是個質(zhì)數(shù)能打散這種共振。-g 是抓完整調(diào)用棧沒有它你只能看到最頂層的函數(shù)看不到是誰調(diào)用的定位就沒有上下文。-- sleep 30 是限定采集時長用 sleep 而不是直接 Ctrl-C是為了讓腳本化更穩(wěn)定、退出更干凈。還有兩個參數(shù)在排查特定問題時很關(guān)鍵-e 可以指定事件默認(rèn)是 cycles但你也可以換成 cache-misses、branch-misses 來抓特定瓶頸--call-graph dwarf 會在用戶態(tài)棧難以回溯時改用 DWARF 調(diào)試信息展開代價是開銷更大、產(chǎn)出更大。一般先默認(rèn) fpframe pointer跑一遍棧斷了再考慮 dwarf。注意perf 的內(nèi)核棧符號來自 /proc/kallsyms用戶態(tài)符號需要帶調(diào)試信息的二進(jìn)制。生產(chǎn)環(huán)境經(jīng)常遇到符號被 strip 掉的情況采出來全是十六進(jìn)制地址白忙一場。動手前先確認(rèn)目標(biāo)進(jìn)程有沒有 debuginfo 或者帶符號的構(gòu)建產(chǎn)物。2.2 火焰圖怎么讀哪些形狀代表什么問題火焰圖的橫軸是樣本占比不是時間順序縱軸是調(diào)用深度每一塊是一個棧幀塊越寬說明該函數(shù)在采樣里出現(xiàn)得越多。讀圖的核心心法就一句先找最寬的葉子再看它是被誰調(diào)用的。最寬的葉子通常是實(shí)際的 CPU 消耗大戶但它的元兇可能在它的調(diào)用者那一層——比如一個通用的序列化函數(shù)很寬但真正的問題是某個業(yè)務(wù)邏輯反復(fù)調(diào)它。幾種典型形狀對應(yīng)不同問題。平頂山形狀底部寬、頂層一排差不多的寬塊通常是循環(huán)或批處理在反復(fù)執(zhí)行同類操作優(yōu)化點(diǎn)是降復(fù)雜度或加緩存。塔尖形狀某一層特別寬下面迅速收窄說明有個單點(diǎn)函數(shù)吃滿了 CPU直接盯它。斷層形狀中間某層突然很窄說明采樣在這個函數(shù)里分布稀疏要么是它執(zhí)行快要么是棧在那斷了需要配合 dwarf 或檢查符號。2.3 符號丟失、棧截斷和 JIT 代碼這三類坑實(shí)話說On-CPU 分析最容易翻車的不是命令不會敲而是采出來的東西沒法看。第一類坑是符號丟失解決方式是裝對應(yīng)版本的 debuginfo 包或者用perf buildid-list確認(rèn) build-id 能不能對上 debug 文件。第二類坑是棧截斷frame pointer 被編譯器優(yōu)化掉了-fomit-frame-pointer 是很多發(fā)行版的默認(rèn)這時候要么重新編譯加 -fno-omit-frame-pointer要么切到 dwarf 模式。深度太深時 perf 默認(rèn)只抓一部分??梢杂?-call-graph dwarf,65528加大棧大小。第三類坑是 JIT 代碼Java、Node、部分 Go 場景都會遇到采出來是一堆[JIT]或者匿名地址。Java 的解法是掛 perf-map-agent讓 JIT 編譯時把方法地址映射寫到 /tmp/perf-PID.mapperf 就能解析更省事的做法是直接用 async-profiler 抓 CPU 火焰圖它對 JIT 代碼的映射是內(nèi)建的。Node 可以用--perf-basic-prof之類的方式輸出映射表。這類工作如果一開始沒規(guī)劃好事后補(bǔ)會很難受建議在部署階段就把符號和映射準(zhǔn)備好。3. Off-CPU 分析把等待這件事量化聊完 On-CPU重頭戲來了。Off-CPU 分析要回答的是線程沒在跑的時候到底在等什么等了多久。傳統(tǒng)思路是插樁記錄每個阻塞點(diǎn)的進(jìn)入和退出時間但這要求改代碼、而且覆蓋不到內(nèi)核路徑。更優(yōu)雅的做法同樣是跟蹤切換內(nèi)核每次發(fā)生上下文切換時都會記錄誰被換下、誰被換上如果我們在這兩個時刻打點(diǎn)就能算出每個線程兩次被調(diào)度之間隔了多久并且抓下它被換下時的調(diào)用棧——那個棧就是它睡覺的原因。3.1 線程離開 CPU 的幾種典型原因歸納一下線程從 Running 變成 Off-CPU常見就這幾類。第一類是睡眠等待主動調(diào)用會睡眠的 syscall 或同步原語比如 read/write 阻塞、futex 等待、nanosleep。第二類是等鎖包括用戶態(tài)自旋鎖的退化、互斥量、文件鎖內(nèi)核里 futex 是重災(zāi)區(qū)。第三類是等 IO包括磁盤、網(wǎng)絡(luò)、管道很多時候表現(xiàn)為 epoll_wait 或 read 阻塞。第四類是被搶占時間片用完或被高優(yōu)先級線程擠下去這時候線程還是 Runnable只是沒輪上。前幾類是 Sleeping第四類是 Runnable。區(qū)分它們很重要Sleeping 說明有外部依賴拖著優(yōu)化方向是縮短依賴或并發(fā)化Runnable 說明 CPU 資源或調(diào)度配置有問題優(yōu)化方向是加資源或調(diào)優(yōu)先級、綁核。很多分析工具會把兩者混在總 Off-CPU 時間里看的時候要留意能不能拆開。3.2 offcputime 與 wakeuptime等待棧和喚醒鏈BCC 工具集里的 offcputime 是最常用的入口。它會跟蹤上下文切換統(tǒng)計每個線程 Off-CPU 的累計時長并按被換下時的棧聚合offcputime -df -p 12345 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU Time --countnameus offcpu.folded offcpu.svg參數(shù)含義-d 打印分隔符方便后續(xù)折疊-f 輸出折疊格式直接喂給火焰圖腳本-p 限定進(jìn)程最后一個數(shù)字是采集秒數(shù)。得到的 Off-CPU 火焰圖跟 On-CPU 長得像但橫軸寬度是阻塞時長微秒讀法是哪個棧把線程卡住得最久。offcputime 解決的是線程在哪睡但它不回答誰把它叫醒的。這時候就要請出 wakeuptime。它把阻塞棧和喚醒棧拼在一起直接告訴你A 線程在某個 futex 上睡了 200ms是被 B 線程喚醒的。這個信息非常值錢因?yàn)樗岩蚬溄o串起來了——很多鎖競爭的根因不是持鎖線程慢而是持鎖線程被別的更慢的操作卡住了。wakeuptime -p 12345 30實(shí)測下來wakeuptime 在排查線程池互相等待、上游把下游拖死的場景里特別好用。缺點(diǎn)是對復(fù)雜調(diào)用棧的輸出會比較長需要配合過濾看。3.3 runqlat被忽視的調(diào)度延遲前面說過 Runnable 狀態(tài)是獨(dú)立的一類浪費(fèi)量化它主要靠 runqlat老版本叫 runqslower。它統(tǒng)計任務(wù)從進(jìn)入就緒隊列到真正被調(diào)度執(zhí)行之間的延遲分布輸出是直方圖runqlat -m -P 10-m用毫秒做單位-P按進(jìn)程聚合。看這個輸出主要看長尾如果 p99 到了幾十毫秒說明某些線程經(jīng)常在就緒隊列里等很久CPU 飽和或者有 CPU 密集任務(wù)在搶。這類延遲在應(yīng)用層往往表現(xiàn)為莫名的抖動而且因?yàn)樗幌?CPU 時間常規(guī)監(jiān)控根本看不到。線上偶發(fā)毛刺排查runqlat 是我必開的一個工具。注意offcputime 統(tǒng)計的時長里其實(shí)已經(jīng)隱含包含了 Runnable 的等待因?yàn)榫€程從被換下到再次被換上中間可能既有睡眠也有排隊。要精確拆開需要同時看 offcputime 和 runqlat用差值估算。睡了 100ms 里有 80ms 是在排隊這種結(jié)論只能靠兩個工具配合才能得出。4. 一次真實(shí)排查的完整推演講完工具來走一遍完整流程比干講參數(shù)有用得多。以下是我處理過的一個典型場景做了脫敏和簡化但思路和步驟是原樣的。4.1 現(xiàn)象描述和初步假設(shè)現(xiàn)象某服務(wù)接口在壓測時 p99 從 20ms 漲到 900ms但機(jī)器 CPU 使用率只有 25%IO 也不高監(jiān)控上看不出明顯異常。單看資源指標(biāo)這臺機(jī)器簡直空閑得可以去度假。這種資源不緊張但延遲爆炸的形態(tài)基本可以判定瓶頸在 Off-CPU而且大概率是排隊或者鎖不是計算。先立幾個假設(shè)一是線程池被某個慢調(diào)用占滿新請求只能排隊二是某個共享資源連接池、緩存、鎖成了串行點(diǎn)三是 GC 或者定時任務(wù)周期性搶占導(dǎo)致抖動。接下來逐個驗(yàn)證。4.2 用 On-CPU 排除計算密集第一步還是先排除計算問題畢竟它最好查。抓 30 秒 On-CPU 火焰圖perf record -F 99 -g -p $(pgrep -f myapp | head -1) -- sleep 30 perf script | ./stackcollapse-perf.pl | ./flamegraph.pl oncpu.svg結(jié)果很干凈最寬的葉子占不到 5%沒有任何函數(shù)吃滿。這就基本排除了 CPU 熱點(diǎn)也側(cè)面印證問題在等待。同時看了一眼 On-CPU 的采樣總數(shù)30 秒 99Hz 應(yīng)該接近 3000 個樣本實(shí)際只采到不到 800 個——這個差值本身就是信號大量時間線程根本沒在跑采樣器采不到。4.3 用 Off-CPU 定位到鎖競爭接下來抓 Off-CPUoffcputime -df -p $(pgrep -f myapp | head -1) 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU --countnameus offcpu.folded offcpu.svg火焰圖一出來最寬的一條棧非常顯眼從業(yè)務(wù)入口一路到pthread_mutex_lock再往下是futex_wait累計阻塞時間占了總 Off-CPU 時間的六成以上。也就是說大量線程都堵在同一把鎖上。順著棧找到那個 mutex 對應(yīng)的代碼位置是一個本以為讀多寫少的共享配置緩存實(shí)際每次刷新都會整表加寫鎖而刷新又調(diào)用了下游接口一旦下游慢鎖就持很久。再用 wakeuptime 確認(rèn)喚醒鏈wakeuptime -p $(pgrep -f myapp | head -1) 30輸出清楚地顯示喚醒這些等鎖線程的正是那個持鎖的刷新線程而刷新線程自己又阻塞在下游網(wǎng)絡(luò)讀上。到這里因果鏈完整了下游慢 → 刷新線程持鎖時間長 → 其他線程全堵在鎖上 → 請求排隊 → p99 爆炸。4.4 驗(yàn)證與修復(fù)驗(yàn)證方式很直接給共享緩存的刷新邏輯改成先算好再原子替換指針也就是讀路徑無鎖、寫路徑只做一次指針交換把持鎖時間從整個下游調(diào)用縮到指針賦值。改完復(fù)壓p99 回落到 30ms 以內(nèi)Off-CPU 火焰圖上那條 futex_wait 的寬度基本消失了。這次排查的價值不在于用了多高級的工具而在于先用 On-CPU 排除、再用 Off-CPU 定位、最后用 wakeuptime 串因果這個固定套路。你把這套順序記下來遇到類似問題就不用靠猜了。5. 環(huán)境準(zhǔn)備與工具選型的一些硬門檻工具再好環(huán)境不支持也白搭。Off-CPU 這類分析工具大多基于 eBPF對內(nèi)核版本和權(quán)限有實(shí)打?qū)嵉囊筇崆按_認(rèn)能省掉很多抓耳撓腮的時間。5.1 內(nèi)核版本與 eBPF 能力自檢先看內(nèi)核版本uname -roffcputime、wakeuptime 這類工具依賴掛載 kprobe 的能力實(shí)踐上建議內(nèi)核 4.15 以上5.x 更穩(wěn)。4.9 到 4.14 之間有些工具能跑但偶有兼容問題。檢查內(nèi)核配置grep -E CONFIG_BPF|CONFIG_BPF_SYSCALL|CONFIG_KPROBE /boot/config-$(uname -r)幾個關(guān)鍵項要能查到BCC 工具集才能正常工作。如果是最小化安裝的發(fā)行版可能連 bcc-tools 包都沒裝。5.2 安裝 BCC 與依賴主流發(fā)行版基本都有現(xiàn)成包# Debian/Ubuntu 系 sudo apt-get install bpfcc-tools linux-headers-$(uname -r) # RHEL/CentOS 系 sudo yum install bcc-tools kernel-devel-$(uname -r)裝完工具一般在/usr/sbin或者/usr/share/bcc/tools下可能帶-bpfcc后綴。perf 和火焰圖腳本另裝perf 跟內(nèi)核版本綁定最好用包管理器裝避免自己編譯出坑FlameGraph 是一堆 Perl 腳本clone 下來即可。5.3 容器和虛擬化環(huán)境的特殊處理容器環(huán)境里有兩個必踩的坑。第一是 PID 命名空間容器里看到的 PID 和宿主機(jī)不是一回事perf 和 bcc 工具如果跑在宿主機(jī)上得用宿主機(jī)的 PID用docker top或者ps -eLf | grep去定位。BCC 的-p參數(shù)接受的是它所在命名空間里的 PID跑在容器內(nèi)就填容器內(nèi) PID。第二是權(quán)限eBPF 傳統(tǒng)上要 root5.8 以后有了 CAP_BPF 和 CAP_PERFMON 可以降權(quán)但生產(chǎn)上多數(shù)還是用 root 或者 privileged 容器。虛擬化環(huán)境里硬件 PMU 事件可能不可用perf 的部分功能會退化但軟件事件cpu-clock和采樣依然可用Off-CPU 工具基于 kprobe 基本不受影響。這一點(diǎn)在云主機(jī)上不需要太擔(dān)心。提示如果 offcputime 報 HINT: ... failed to attach 之類的錯誤先確認(rèn)內(nèi)核開了 CONFIG_BPF 相關(guān)選項再確認(rèn)自己沒有在受限的 seccomp 環(huán)境里跑。有些安全加固過的環(huán)境會禁用 bpf() 系統(tǒng)調(diào)用。6. 常見問題與排查技巧速查把經(jīng)常遇到的坑整理成一張表排查時直接對號入座比翻文檔快?,F(xiàn)象可能原因排查手段處理方式On-CPU 火焰圖全是地址符號二進(jìn)制被 strip 或缺 debuginfoperf buildid-list對比安裝 debuginfo 包或帶符號重編采樣樣本數(shù)遠(yuǎn)低于預(yù)期線程大量 Off-CPU對比預(yù)期樣本數(shù)轉(zhuǎn) Off-CPU 分析Java 棧顯示為[JIT]JIT 代碼無符號映射檢查/tmp/perf-PID.map掛 perf-map-agent 或換 async-profileroffcputime 棧斷在中間棧展開深度不足看棧頂部是否有斷裂dwarf 模式或加大棧參數(shù)Off-CPU 圖里大量 idle/swapper采集到空閑任務(wù)觀察最寬塊的名字用-p限定進(jìn)程或加過濾p99 抖動但 CPU 不高調(diào)度延遲長尾runqlat -m -P查 CPU 飽和或綁核調(diào)優(yōu)先級等鎖時間長但持鎖者不慢持鎖者被下游卡住wakeuptime看喚醒鏈縮短持鎖范圍或改無鎖容器內(nèi)工具報 PID 找不到命名空間不一致docker top核對用對應(yīng)命名空間的 PIDeBPF 工具 attach 失敗內(nèi)核能力或 seccomp 限制查內(nèi)核 config 和安全策略換環(huán)境或提權(quán)這張表里我最想強(qiáng)調(diào)的兩行是采樣樣本數(shù)遠(yuǎn)低于預(yù)期和等鎖時間長但持鎖者不慢。前者是一個很隱蔽的信號很多人看到 CPU 不高就直接放棄 perf 了其實(shí)差值本身就在告訴你答案后者是翻身常犯的錯——盯著等鎖的人看忽略了叫醒他們的人。把這兩個視角建立起來絕大多數(shù)詭異延遲都能找到入口。再補(bǔ)幾個實(shí)操心得。第一采集時長別太短Off-CPU 事件往往稀疏10 秒可能采不到幾次建議至少 30 秒長尾問題可以拉到幾分鐘。第二采樣時盡量復(fù)現(xiàn)問題場景空跑采集沒意義要壓測就邊壓邊采。第三火焰圖看的是分布不是順序別試圖從圖里讀出時間先后要看先后得用 trace 類工具。第四perf script產(chǎn)出的中間文件可能很大幾十秒采集幾百 MB 是常事注意磁盤空間和后續(xù)處理的內(nèi)存占用。7. 一些踩坑之后才明白的經(jīng)驗(yàn)最后聊點(diǎn)工具之外的東西都是實(shí)打?qū)嵅瘸鰜淼?。剛接觸 Off-CPU 分析時我老想找一個命令搞定后來發(fā)現(xiàn)這套分析的價值恰恰在于組合On-CPU 排除計算、offcputime 找阻塞點(diǎn)、wakeuptime 串因果、runqlat 補(bǔ)調(diào)度四個環(huán)節(jié)缺一個結(jié)論就可能偏。還有一個體會是Off-CPU 時間不是越低越好而是越可解釋越好。有些等待是設(shè)計使然比如正常的網(wǎng)絡(luò) RTT、必要的批量攢批這些等待是劃算的真正要干掉的是那些沒必要的、可以并發(fā)化的、因?yàn)閷?shí)現(xiàn)缺陷被放大的等待。所以別追求把 Off-CPU 壓到零先追求能說清楚每一段等待花在哪、值不值。另一個容易忽略的點(diǎn)是采樣開銷。eBPF 工具在高頻事件上比如上下文切換特別頻繁的系統(tǒng)本身也會產(chǎn)生可觀測的額外負(fù)載采集的時候要留意對被分析進(jìn)程的影響別把觀察行為變成了干擾因素。壓測對比時最好先跑一次不采集的基線再跑采集版本把采集開銷從結(jié)果里扣掉不然容易冤枉代碼。再分享一個小技巧如果線上不方便跑 root 工具可以先從/proc/PID/status里的 voluntary_ctxt_switches 和 nonvoluntary_ctxt_switches 看趨勢兩個值漲得快說明上下文切換頻繁O(jiān)ff-CPU 問題概率大這就是個零成本的先行指標(biāo)用來決定要不要上重武器很夠用。這套東西我用了好幾年越用越覺得它不是什么高深技術(shù)就是把線程到底在干嘛這個問題拆成兩半來回答的樸素方法。工具會隨內(nèi)核版本變理解On-CPU 加 Off-CPU 等于完整墻鐘時間這個賬本關(guān)系才是長期管用的東西。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷综合在线播放| 性色五月天| 亚洲色99综合天堂| 直接看的AV| 丁香六月天婷婷色| 激情五月天久久丁香| 色色欧美色色色| 精品人妻在线| 五月天六月婷婷电影| 99网址在线看| 色婷婷AⅤ| 久久综合婷婷| 五月丁香六月色| 色A网| 超级碰人人操人人干| 99色色视频| 五月天激情婷婷久久| 婷婷综合五月| 久久电影4399| 天堂亚洲 在线| 婷婷六月丁| 五月天成人小说| 99热这里只有在线播放| 丁香五月婷婷狠狠色| 手机在线视频观看9| 日韩AAAAA| 五月婷婷丁香网| 99人人干人人| 视频久久9| 欧美叉叉叉BBB网站| 色色色.COM| 色色综合无码| ay2区| 婷婷五月天亚洲综合| 亚洲亚洲人成综合网络| 亚洲九九夜夜| 这里只有精品视频| 国产又粗又大又爽又黄| 丁香六月婷婷| 中文字幕人妻熟女在线| 国产毛多水多女人A片| 激情亚洲婷婷| 99狠狠色| 91婷婷在线| 五月丁香成人视频| 综合网激情| 久久性爱网站| 99色热视频| 色五月激情问网站| 婷婷综合五月激情| 婷婷六月天精品| 欧美色图45678| 狼人婷婷久久| 99黄色性生活| 69堂午夜视频最新地址| 伊人超碰| 狠狠色婷婷丁香六月| 色婷婷五月天亚洲| 日 日干 日日做| 亚洲激情四射| 狠狠色五月激情| 在线不卡视频| 色 免费网站视频| 久99久热| 亚洲国产色婷婷| 色情丁香五月婷婷精品| 香蕉久久国产AV一区二区| 99热热热国产超碰| 亚洲精品99| 毛片新网地| 色激情五月| 五月婷婷色啪| 国产亚洲色婷婷久久99精品91| 啪啪 综合网| 99男人天堂| 一本色道久久88加勒比—| 日本全黄一级999| 播五月开心婷婷欧美综合| 99热99这里免费的精品| 丁香五月激情五月| 99热精品在线在线| 婷婷中文字幕网站| 99久精品| 熟女激情网| 九九九九九无码| 另类五月婷婷| 99亚州综合精品成人网| 91超级碰碰| 人人干av| 操逼视频网址| 99亚洲视频| 91一起操| 欧美成人精品老美女噜噜噜| 五月色综合网| 婷婷狠狠久久| 开心激情播播五月天| 丁香婷婷色五月| 综合网啪| 免费看欧美成人A片无码| A片试看50分钟做受视频| 黄网在线免费| 色三级色三级| 国产精品色色色色| 久久人人九九| 99婷五月| 丁香五月婷婷激情小说| 桃色激情网| 91色逼| www.yw尤物| 日本一级黄色片。| 婷婷九月激情| 日韩av网址大全| 狠狠色五月天| 狠狠五月婷婷| 色婷婷成人| 精品夜夜澡人妻无码AV| 五月丁香久久久久| 五月丁香色婷婷综合| 永久精品| 亚洲V国产V欧美V久久久久久| 超碰在线网站| 久99久热只有精品国产99| 综合五月婷婷| 日本4399天堂中出| 1024日韩| 久操大| 另类五月激情| 激情婷婷五月亚洲| 超碰AV在线| 久久精品熟女亚洲AV麻豆| 99啪啪网| 99爱视频在线播放| 亚洲无AV在线中文字幕| 婷婷午夜| 久久五月激情| 丁香六月激情综合网| 密黄站| 亭亭五月天成人| 99久久久免费| 亚洲精品在线视频| 婷婷五月丁香久久| 国产韩日亚洲美州欧亚综合在线| 婷婷无码视频| 国产真人做爰视频免费| 激情色中文| 色五月天成人| 99艹精品在线观看| 色99欧洲色19| 婷婷五月激情黄色| 久久av电影| 婷婷五月中文在线| 色老久久| 97精品欧美91久久久久久久| 九九亚洲视频| 99久99热| www.五月天| 99久久99九九九99九他书对| 五月婷六月| 天天日,天天射,天天舔| 一级黄在线| 久去色色| 丁香六月婷| 丁香六月婷婷综合啪啪| 婷婷丁香18| 色色婷婷综合| 五月丁香激情综合啪| 五月亭大香蕉| 淫荡家庭AV| 99热在线免费观看精品| 色色色色色色色色综合网| www激情| 免费看欧美成人A片无码| 九色91视频| 亚洲久久激情| 高清a片基地| 超级碰碰视频无码| 婷婷激情五月天天天开心| 色欲香综合网| 啪啪99| 色狠狠色| 久久激情天堂| 久久网婷婷| 婷婷五月天色播| 激情五月丁香五月| 五月社区婷婷激情| 熟女人妻一区二区三区免费看| 开心激情站| 色九九七七| 婷婷五月色網站| 丁香深五月婷婷| 深爱网深爱综合网| 久久99久久99精品免视看婷婷| 亚洲1区| 九九热在线99| 五月丁香激情综合欧美| 色激情网| 久久狼人天堂| 六月色婷婷欧美| 性色做爰片在线观看WW| 久久99性爱视频| 日日噜噜久久婷婷五月天| 天天色,天天日,天天做| 五月婷婷人人人操| 五月天激情国产综合婷婷婷| 国产精品激情五月天色婷婷| 日本专区久久| 五月婷婷激情网| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 啪啪综合网| 99热最新地址在线| 五月天激情国产综合婷婷婷| 亚洲传媒在线观看| 99在线免费视| 人妻综合网| 色99综合色88| 六月激情婷婷色| 亚洲最大激情无码| 教师性爱毛片| 丁香婷婷天堂| 日日夜夜狠狠婷婷色| 另类小说五月天激情| 97操碰碰无码视频| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 综合久久影院| 日逼免费视频| 中文字幕按摩做爰| 九色婷婷| 国产97色在线 | 日韩| 九九热欧美| 婷婷伊人| 欧美成人性爱网| 久久婷丁香五月| 99爱精品| 色色色网站| 天天五月香欧美| 亚洲精品V天堂中文字幕| 在热视频精品| 婷婷五月天天天日日夜夜| 欧美婷婷色| z色五月播播久久| 草综合网| 婷婷九月狠狠色| 99色在线观看| 大香蕉中文| 另类图片 五月激情| 黄色五月婷| 久久久久9999| 2020日日干| 伊人五月天| 久久久97| 婷婷激情综合| 五月婷婷成人| 狠狠99| 天天色综合网1| 伊人久久婷婷五月天激情四射| 91丨九色丨白浆秘| 五月天婷婷在线播放免费| 97婷婷丁香五月天激情图片| 六月婷综合| 综合色图区| 思思久日精品视频| 伊人久久婷婷五月天激情四射| 超碰97久久| 亚洲精品白浆高清久久久久久| 激情AV在线| 久久婷五月影院| 欧美亚洲婷婷五月| 丁香五月色激情| 五月天精品综合在线| 99色| 第一区久久网站| www.99热国产| 伍月婷婷六月丁香| 日韩成人电泉AV| 深爱婷婷丁香五月激情| 99热99| 五月天成人综合| 天堂成人久久| 久99热| 九九色逼| 亚洲成人高清在线| 五月色网| 狠狠综合久久| 思思久久精品| 色大综合| 五月丁香六月婷婷手机无线| 综合久久十三| 婷婷五月天涩涩| 五月丁香激情啪啪网| 99精品在线观看| 天堂综合久久| 色婷婷六月丁香综合欲精品| 亚洲成人黄色网| 婷婷激情鹿城五月天| 天天色月| 天天爱天天日| 天天操天天操| 五月花婷婷丁香| 操嫩逼电影| 九九热只有这里是精品| 这里只有精品视频看看| 性婷婷| 亚洲久艹| 99热超碰在线| 久草视频一,二三四| 9热超碰| 日韩av变天就操逼不卡区| 99精品在线观看| 国产一级片| 伊人激情AV一区二区三区| 久热这里| 久久久久久久11111111111| 亚洲精品又粗又大又爽A片 | av免费在线观看0| 五月婷婷丁香日韩在线| 久碰久| 色色五月丁香婷婷综合| 在线观看亚洲视频影院| 五月天激情小说婷婷| 丁香五月天激情五月天激情五月天激情网 | 俺也去在线视频| 日韩美女羞羞网站在线观看| 9 1超碰九色| 九九视频这里是精品五月| 啪啪日热| 五月天啪啪啪| 婷婷基地爱| 欧美精品999| 免费看欧美成人A片无码| 狠狠色婷婷六月激情网| 热99久久这里只有精品| 碰久久精品w| 亚洲Av成人在线观看| 国产97色在线 | 日韩| 婷婷六月天| 丁香五月天资源网| 婷婷六月色丁香视频在线观看| 五月刺激丁香月综合| 91久久1118| 人妻激情久久| 久久精品日| 久久天堂女人| 99在线观看免费精品视频| 五月婷婷综合在线视频小说| 激情五月天综合网| 久久婷婷网址| 六月婷婷私欲| 五月天偷拍| 国产精品成人AV在线| 婷婷五月色網站| 大香蕉久| 丁香五月在线伊人| 五月婷婷丁香五月| 五月婷久久久| 狠狠干夜夜干| 99久久色| 丁香六月婷婷五月婷婷| 亚洲自拍天堂| 超碰猛烈的性猛交| 久草性爱| 啪啪啪综合网| 久久综合五月天| 97色婷婷五月天| 无码AV久久久久久久久| 91视屏在线观看com.wwwvv| 操91| 亚洲精品视频在线| 五月婷婷六月丁香综合在线| 天天干,天天舔| 天天搡日日搡aaaaⅩ| 超碰在线94| 久久九九免费视频| 中文字幕AV网址| 五月天色五月| 久婷婷婷| 亚洲综合五月天| 五月婷婷无码| 日日夜夜狠狠| 手机AVAV天堂看网| 丁香五月停停av| 五月丁香激情六月| 久久码久久无清| 99热亚洲精品| 丁香五月婷婷av| 婷婷综合亚洲| 色婷婷91激情小说| 五月婷婷五月天天| www.夜夜爱.com| 华人在线免费| 日韩在线视频中文字幕| 久草狼人| 天天爱天天日| 五月天丁香婷婷久久九| 五月天婷婷影院影院观看| ady狠狠入| 天天综合五月天| 97操在线视频| 香蕉人妻AV久久久久天天| 伊人午夜综合色啪| 丁香婷婷色九月| 久久精品99| 六月亚洲婷婷6月中文字幕| 思思99热| 天天天天干| 久久久久这里都是精品| 日本韩国视频在线观看社区免费的9| 天天综合天综合| 99内射视频| 精品乱码久久久久| 婷婷五月伦理网站| 欧美日本VA| 99九九精品视频推荐| 99在线精品视频| 另类图片激情五月| 影音先锋男人女人| 日本久久婷| 色婷婷在线综合色播网| 最熟少妇乱码| 日本久久99| 亚洲色色香蕉| www久久五月com| 艳妇野外情欲放荡HD| 思思热精品在线观看| 五月婷婷五月天| 五月丁香综合伦理片| 激情综合网站| 日韩一本操| AVDV久久| 天天色综合网吨吧| 成人精品一区二区三区四区五区 | 天天日天天舔天天摸| 成人.在线日韩| 丁香五月区| 久久奄也去色色网站| 伊人婷婷91| 大地9中文在线观看免费高清| 日韩爱操视频| 丁香五月六月婷婷自拍| 亚洲成人网在线观看| 91夫妻网站九色| 色色射| 色综合久久88色综合天天99| 五月婷婷色情| 嫩草综合网| 五月天婷婷免费| 婷婷狠狠综合网入口| 国产99久久久| WWW.婷婷五月天.COM| 色99综合视频| 婷婷五月天少妇| 91丨九色丨高潮丰满日本| 大香蕉视频婷婷| 亚洲精品视频在线| 五月丁香婷婷成人网| 色了色综合| WWW.激情| 熟女激情网| 97干网站| 97视频91| 婷婷六月丁综合| 五月成人丁香av91| 狠狠干.com| 国产特级毛片AAAAAAA高清| 激情五月婷婷| 婷婷五月综合网| 操碰99| 五月婷婷综合在线| 日本欧美国产| 天堂草在线观| 日韩精品色| 五月丁六月香av| 五月丁香婷婷AV天堂| 色婷婷大香蕉| 91啪啪视频| 啪啪激情综合| 丁香5月激情网| 操人91| 99操视频| 乱女乱妇熟女熟妇综合网站| 欧美综合激情五月丁香| 欧美综合在线五月天色婷婷| 中文字幕 久久9999| ...婷婷国产成人亚洲日韩| 婷婷第六色| 噜综合| 色之综合网| 五月丁香六月婷婷,婷| 色婷婷99| 丁香婷五月天| 华人在线免费| 丁香五月欧美色综合| 生活片五区| 亚洲另类在线观看| 精品一区二区三区四区五区六区| 五月Huangsewang| 国内自拍97在线| 2050人人操免费工开爱| 色婷婷色五月综合| 亚洲综合婷婷| 亚洲成人电影aaaa| 99热免费在线| 五月激情站| 蜜臀AV在线观看| 色婷婷综合网| 98热精品| 色婷婷五月天激情| 久久久久久五月天| 亚洲国产成人在线| 欧美性生交XXXXX无码小说| 六月婷婷色色网| 五月婷婷丁香网| 色综合久久久久| 5月丁香婷婷| 99.色| 岛国av网站| 夜夜 操无码| 五月色婷婷综合| 亚洲综合网在线| 丁香婷婷五月人体| 综合欧美五月婷婷| 久久久久久久人妻| 色婷婷丁香女女| 99爽视频| 野战毛片三一3| 婷婷导航| 国产成人在线精品| 婷婷五月天狠狠| 婷婷另类小说| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 五月天激情国产综合婷婷| 风流少妇A片一区二区蜜桃| 亚洲成人无码片| 丁香五月影院| 激情五月婷婷开心网| 丁香在线视频| 99在线观看| 五月丁香婷婷激情四射迷人| 色婷婷婷综合五月天| 狠狠草狠狠草| 久久人人妻| 天堂亚洲 在线| 色婷婷久久久| 丁香六月久| 丁香婷婷久久 | 激情小说之五月| 激情综合五月| 激情性爱五月| 婷婷五月综合体验看| 丁香五月婷婷激情四射深爱激情| 天天 青草 制服丝袜 在线| 人人草人人看| 操婷婷久久| 五月婷在线色视频| www.97视频| 五月天六月丁香| 男女99免费视频| 婷婷激情综合色五月久久图片| 亚洲综合色五月| 欧美激情综合色综合啪啪五月| 色婷网| 色婷婷国产精品综合在线观看| 影音先锋男士资源网一区| 激情综合色五月六月婷婷| 激情五月五月婷婷| 婷婷丁香视频在线观看免费| 性爱久久| 开心婷婷五月天电影院| 日本不卡一区二区三区| 五月四色婷婷| 久久看九九90| 五月婷综合| 日本久久9| 青青草成人网| 久久精品63| 婷婷六月激情| 精品国产va久久久久| 狠狠综合网| 色五月xxx| 97色碰| 秋霞网在线观看理论91| 天天日天天久久青青| www.五月天婷婷姐姐| 久久人人做人人妻人人玩精品va| 激情五月,深深爱五月| 色色亚洲99com| 蜜乳中文字| 丁香五月天天| 婷婷久热| 性爱电影科技贸易有限公司| 色婷青青| 天天做天天爱| 99re99在线看| 婷婷五月天淫荡| 99热这里只有精品免费观看| 亚洲成人AV在线观看| 色色色无码| 中文字幕丁香五月| 色99视| 爱射综合| 天天爽天天透天天爱| 色情网综合| 噜噜在线| 中文人妻主播久久| 婷婷桃色网| 五月丁香久| 久久久久久天天日天天爱| 无遮羞AV| www.henhenl| 亚洲激情网站无码| 亚洲爱婷婷| 五月丁香黄色视频| 天天综合网网欲色| 开心五月婷婷五月| 丁J香六月首页| 日日夜夜天天综合| www,26uuu,c0m,色情| 色婷婷97| 国产伊人大香蕉| 伊人婷婷五月天| 色婷婷丁香中文在线播放| 五月天婷综合| 操操操B| 91碰| 亚洲99热| 五月丁香久久久日婷婷久久婷婷日| 久热伊人在91| 97精品人人A片免费看| 99精品在线| 丁香婷婷人妻综合网| 九九 激情 网| 香蕉视频性爱BB做爱| 色婷婷电影网| 婷婷五月天国产| 人妻在线中文字幕久久| www.超碰在线| 成人短视频在线免费观看| 国产成人精品一区二三区熟女在线| 久草大| 五月婷人妻| 色欲九区| 色婷婷AⅤ| 成人亚洲精品久久久久 | 婷婷丁香五月天婷婷| 狠狠色综合无线观看| 激情五月天色色| 亚洲熟女色| 婷婷五月花丁香| 九月婷婷综合八月丁香在线观看| 五月丁香色情| 日本一级特黄大片AAAAA级| 色九月丁香婷婷蜜桃在线观看| 午夜天堂啪啪| 久久久久久人妻| 九九热中文| www.99热这里精品| 婷婷五月天另类网站| 四色 爱 婷婷 精品 亚洲 五月天| 激情综合网址| 五月久久婷婷丁香| 大香蕉五月天婷婷丁香91| 综合久久8| 五月激香蕉网| 99视频在线9| 性生生活大片又黄又| 91丨九色丨熟女高潮| 久热久| 亚州色婷婷| 97在线视频人妻九色| 丁婷婷五月天在线播放| 亚洲成人婷婷| 六月天婷婷| 亚洲无码色色| 九九热最新| 色色色99| 伊人色综合网| 五月丁香无码| 国产成人综合网| 玖玖综合色| 高清不卡一区| 五月丁香色| 丁香成人五月天| 五月丁香六月激情在线| 婷婷丁香六月天| 午夜色婷婷| 国产精品美女久久久久AV超清| 另类天堂| 性色九九| 日韩大片艹艹| 五月天啪啪视频| 国产亚洲99久久精品| 久久这里只有精品5| 婷婷,五月天,丁香,第一| 色八月婷婷| 爱草视频在线| 婷婷五月激情视频| 日日噜噜夜夜狠狠久久丁香五月| 亚洲成人av在线| 99在线观看| 丁香五月AV| 丁香婷婷天堂| 九九 激情 网| 婷婷久久午夜网| α久久| 99re热视频这里只精品5| 婷婷成人五月天| 国产成人+综合亚洲+天堂| 丁香五月婷婷啪啪| 五月婷婷欧洲| 91avse| 一根材五月婷成人| 婷婷五月六月| 六月天婷婷| 日本美女97在线视频| 人人妻人人澡人人爽| 久久之人妻| 丁香六月激情蜜桃| 婷婷五月天网址| 欧美人与性动交CCOO| 国产探花一片区| 五月丁香啪啪网| www.五月天。com| 丁香六月激情四射| 日本黄 色 片| 庭庭久久内射| 国产色五月| 亚洲色啪| 激情碰碰碰| 色色色色热热| 色五月丁香婷婷| 91九色精品熟女内射| 无码人妻一区二区一牛影视| 激情久久四色| 婷婷五月婷婷| 国产一二区爆乳_1国产日韩一区二区三-成人AV | 色欧美影院| 最近中文字幕2019视频1| 性色av大香综合| 天天综合图片| 日韩AAAAA| 色婷婷综合在线| 五月丁香婷婷综合在线| 少妇性按摩无码中文A片| 无码人妻少妇色欲AV一区二区| 色婷婷国产精品综合在线观看| 丁香亚洲婷婷五月| 综合激情五月丁香| 精品久热69| 操一操| 伊人无码高清| 丁香五月天在线观看视频| 狠狠干五月天| 六月婷欧美丁香综合| 久久婷婷五月国产激情综合片| 婷婷五月色天| 九九九AAA热视频| 很很干在线视频| 亚州色色色| 亚洲综合一区二区| 99爱视频在线观看| 色婷婷91激情小说| 欧美综合激情五月天| 六月婷婷五月丁香| 久久视频66| 九九免费视频| 五月丁香av中文| 综合网啪| 久xxxx| 野战毛片三一3| 综合久久婷婷99| 狠狠狠狠狠狠狠狠草| 久久婷婷六月综合| 综合亚洲色色| 99色综合| 狠狠操之狠狠操| 欧美这里只有精品| 狠狠色噜噜狠狠色噜噜噜999| 婷婷色丁香五月| 色欲天天综合| 大香蕉五月丁香| 激情综合网五月丁香| 精品人妻在线| 色婷婷五月天偷拍| 亚洲AV网址| 超碰国产av| 久久综合中文字幕| 久久久性爱网| 久99热| 九九热这里只有精品7| 九九Av| 亚洲 综合中文| 九九亚洲视频| 婷婷丁香激情五月| 婷婷丁香久久网| 色播五月婷婷五月| 五月天基地| 性热视频99精品| 激情黄色小说色五月| 色99视频| 蜜乳.comcom| 强辱丰满人妻HD中文字幕| 亚洲九九九九| 丁香六月激情国产| 日本久久性| 婷婷在线播放av| 疯狂做受XXXX高潮A片| 色五月成人在线| 色婷大香蕉| 综合另类视频| 99热精在线九九久久保| 97亚洲视频在线| 这里只有精品免费| 91久久| 欧美大片免费播放器| 婷婷五月天婷婷| 色婷婷情片| 这里只有精品1| 五月丁香婷中文字幕| 久久99日本精品视频免费观看| 激情图片婷婷| 激情五月伊人婷婷| 婷婷五月日本| 亚洲成人在线播放| 五月婷婷乱| 五月婷婷丁香大陆免费| 欧美婷婷| 99re8在这里只有精品| 婷婷四色五月| 色五月婷婷成人| 91精品国产99久久久久久天美| 丁香五月天欧美成人| 色婷婷久久9.com| 五月丁香色色| www.婷婷,com| 97碰碰视频在线观看| 国产古装妇女野外A片| 可以看的av网站| 开心婷婷五| 天天肏天天肏| 嫩草AV久久伊人妇女超级A| 国产精品久久久久久喷浆| 开心五月天激情网站| 黄网免费看| 天天cha成人综合网| 色婷婷四色| 婷婷伊人綜合中文字幕| 国产精品色色| 丁香五月AV综合激情| 久久色五月| 青青草伊人婷婷| 秋霞性爱AV| 狠狠操狠狠干综合| 5月婷婷视频网站综合| 色色五月丁香婷婷综合| 免费观看的av| 中文无码婷婷| 这里精品| 婷婷五月天激情综合深爱| 五月丁香六月香香蕉| www.久操| 中文字幕乱码亚洲精品一区| 五月天婷婷久久| 人人视频人人干人人做| 狠狠操天天日| 美女天天艹人人爽| 中美日韩成人在线| 91亚洲免费片| 操逼电影免费看| 日本欧美成人片AAAA| 91操熟女| 亚洲成人在线综合| www,婷婷| 五月天狠狠干| 2025最新亚洲激情在线| 色综合99| 丁香九月婷婷综合| 啪啪黄页网| 丁香五夜激情四射夜夜夜| www。久久久久一b。Cc| 五月丁香久久| 精品乱码久久久久| 丁香六月婷婷综合激情欧美| 五月综合在线| www夜夜操| 久久五月天激情| 亚洲色vA| 丁香五月色情| 久久深爱激情网| 少妇久久诱惑视频| 六月婷婷日| 五月天激情网图片 - 百度| 2014天天爽| 那里有AV网址| 日日日,com| 亚洲色涩视频| 思思视频这里是精品| 丁香婷婷六月激情文学| 伊人激情| 99久久66| 国产寻花在线| 人妻操操色| 亚洲色欲AAAAAA| 色婷婷丁香五月天激情综合网| 99精品在| 五月天激情网页| 六月婷婷久久大全| 五月色影院| 九九性爱网| 六月丁香综合| 色婷婷综合网| 婷婷丁香五月综合| 精品爱欲五| 狠狠狠狠草草| 99热狠狠操| 97九色| 做爱夜夜干天天操| 3p日韩网站视频| 第四色首页| 超碰高清在线| 思思热视频在线观看| 五月天久久久| 激情影院69| 伊人婷婷五月天av| 97人妻碰碰中文无码久热丝袜| 色色色777| 热99这里只有精品视频| 第五色色色婷婷| 丁香五月香蕉| 荡乳尤物3HP1V5| 日本韩国视频在线观看社区免费的9| www狠狠爱com| www.久久久久久久| 日操| 天天色宗合| 9 1超碰九色| 夜夜爽77777妓女免费下载| 久久久久9久无码视频| 超碰色女人| 丁香婷婷五月天网站| 婷婷五月天亚洲综合| 91人操| 激情五月婷婷| 人妻激情视频| 中文久久久人妻| 激情色视频| 97人人射| 国产亚洲AV人片在线| 99在线公开视频| www..com色爱| 91婷婷色| 熟女强人妻一区二区三区四区无| 99热99美国在线观看| 月婷婷亚洲| 五月天成人在线视频网站| 天天干天天爽| 激情熟女网| www婷婷亚洲| 第四色五月婷婷| 精品国产乱码久久久久久免费| 97丁香五月| 欧美婷| 狼人久草| 久久亭亭电影| 五月丁香直播| 大香蕉婷婷色| 蜜乳AV成人| 天天舔夜夜操www com| 天天艹夜夜艹| 日韩在线观看网址| 久热九九| 玖玖热视频| 伊人激情| 激情九月综合| 五月丁香六月激情欧美综合| 日本狠狠干| 成人婷婷| 久久婷婷五月天蜜桃| 青柠影视免费高清电视剧| 久综合| 天天狠狠干| 9久热精品在线视频| 狠狠爱综合| 噜一噜在线| 九九成人电影婷婷| 5月丁香婷婷| 激情五月天婷婷| 一区二区传媒视频| 色五月婷婷婷婷| 成人看片网站| 亚州精品色情无码A片| 婷婷激情六月视频| 婷婷丁香大香蕉| 激情亚洲色图片丁香综合| 天天操综合网| 91人人爽狠狠狠| 国产色网站| 一区二区三区XXXXXX| av中文网站| 激情性爱五月天网页| 激情五月综合六月丁香婷婷狠狠干| 日韩成人电影AV| 色七七九九| 丁香五月欧美色综合| www,色综合| 99热这里只有精品青草| 亚洲正能量欧美| 99爱免费视频| 好叼操在线观看| 五月色丁香激情| 91麻豆国产三级精品福利在线观看| 激情开心五月婷婷| 97精品人人A片免费看| 婷婷五月天最新综合你懂的| 久久视频这里有精品99| 久久久18| 天天日天天摸| 99re思思热在线视频| 99爱在线视频| 丁香六月色婷婷欧美| 噜噜噜久久| 同性gv国产精品一区二区| 91综合在线| 色 丁香婷婷| 老师的粉嫩小又紧水又多A片视频| 激情婷婷亚洲五月| 五月色情| 99热这里只有精品官网| 色色色色色日韩午夜激情 | 久久婷婷综合五月| 99色爱| 综合色色婷婷| 色色色com| 伊人五月成人| 人人操操| 久久98| 亚洲综合色网站| 人妻内射一区二区在线视频| 欧洲高清免费久久| 六六久久黄色| 99综合| 91人人网| www.色婷婷| 天天干夜夜欢| 五月天丁香婷婷社区| 99热精品在线播放| 五月天成人在线视频丁香| 91色综合网站在线| www.99热| 色婷婷五月天激情| 婷婷五月欧美综合| 久久婷婷五月| 久99久视频| 香蕉久久国产AV一区二区| 婷婷色情五月| 97人人搞| 白人荫道BBWBBB大荫道| 午夜做爱影院| 色色色色综合网| 四川女人毛多水多A片| 丁婷婷五月天在线播放| 日本久久婷婷| WWW.国产| 四色五月婷婷| 丁香五月婷婷久久久| 大香蕉久久伊人网| 九九99久久| 天天插天天| 午夜爱插插| 成人无码精品1区2区3区免费看| 色婷婷狠狠18| 99国产er热视频| 啪啪色激情五月天| 婷婷五月天伊人| 婷婷色丁香六月| 亚洲艹网| 久热久操久热久草国产91| 久99| 69色婷婷| 婷婷深爱五月亚洲综合| 婷婷五月天AV在线| 又大又粗九一在线| 色婷婷狠| 久久婷婷五月综合色丁香| 狠狠色色| 大香蕉伊在| 激情内射人妻1区2区3区| 亚洲天堂啪啪| 1010日日无码| 色视频2025| 色一情一乱一乱91Av| 超碰日韩成人| 俺去也五月| 婷婷五月天成人网| 丁香五月综合在线播放| www.超碰| 97碰碰在线观看视频| 欧美色一级色| 久久这里都是精品| 久久综合五月天| 婷婷五月色综合| 激情综合色五月六月婷婷| 九九99九九99九九99视频网| 99热伊人综合| 国产美女无遮挡裸体毛片A片| 97操操操| 中文字幕成人影视| 久久人妻伦理| 99re热久久| 婷婷欧美色| 99久在线精品99re8| 大天天伊人| 墨西哥毛片内射精| 激情综合网激情五月婷婷| 丁香婷婷啪啪| 亚洲热热视频| 120分钟婬片免费看| 狠狠摸狠狠摸| 欧美成人性爱网| 天堂AV在线看| 啪啪啪五月天| 日本色婷婷综合| 日韩色色网| 九九色综合| 国产在线中文字幕| 人妻视频在线| 99人人操人人操人人精| www.91AV.COM| 伊人大蕉香| 操比激情五月| 久久亭亭电影| 狠狠色狠狠色综合日日91| 在线五月婷| 99欧美热| 亚洲第一成人AV| www.ywav| 婷婷天堂综合网| 免费日本aⅴ中文字幕 | 丁香性爱在线视频| 搡BBBB搡BBB搡18 | 狠狠色丁香乆乆| 激情婷婷狠狠干综合| 97爱艹婷婷开心丁香激情综合| 六月婷婷毛片| 丁香五月天91| www网站在线观看| 无码动漫AV| 久热超碰91| 丁香色色色| 婷婷欧美色| 亚洲色欲欧美一区二区三区| 激情黄色五月天| 天天日日爽| 婷婷六月丁香欧美视频在线| 婷婷五月天网| 伊人久久五月天| 人人爱人人草| 成人做爰黄A片免费看直播室男男| 91av传媒高清在线视频网| 99色综合久久| 69人妻人人澡人人爽久久| 五月 成人 婷婷| 99久久久国产大片区| 五月丁香婷婷婷婷综合网| 丁香网五月天激情| 亚洲五月天另类小说图片| 婷婷九月激情| 噜噜在线| 色八戒操婷婷| 色五月激情| 婷婷久久久久久久| 青青草原99热| 色五月婷婷在线| 欧美激情VA永久在线播放| 欧美日韩成卜| 伊人九九综合| 人妻自慰在线| 欧美3AaAa大片| 殴美激情综合网| 国产成人综合网| 国产高清视频91九九九久久久| 日韩av在线免费观看| 五月六月丁香激情视频| 天天日天天干天天插天天射| 亚洲啪啪网| 国产精品久久久久久久久久久久 | 久久96热| 欧美色九| 免费看欧美成人A片无码| 综合久久伊人| 五月色婷婷综合色| 激情五月天小说| 天天干天天操天天拍| ztEJj| 色噜噜狠狠色综合日日| 亚洲婷婷乱乱丁香| 变态另类9| 久久婷婷超碰| 日本欧美在线| 99热这里只有精品18| 99热亚洲| 97艹| 婷婷永久在线| 99色热视频| 五月激香蕉网| 婷婷久草| 色色色色色色网站| www.色婷婷.com| 久9热视频| 久久99这里只有精品视频| 久久永久视频| 婷婷五月综合基地| 国产做爰视频免费播放| 十月丁香九月婷婷综合| 91九色精品女同系列| 97操碰98| 欧美五月丁香啪啪响视频| 五月激情六月丁香| 精品一二三区久久AAA片| 成人电影在线免费试看| 婷婷激情五月综合丁| 欧美这里只有精品| 91无码高清| 99热这里只有免费| 九九视频在线观看视频6 | 婷婷内射视频在线| 婷婷五月美女直播| 日本欧美成人片AAAA| 国产成人av在线| 色五月五月天色婷婷色五月| 丰滿爆乳一区二区三区| 丁香五月天色| 99re久久| 九九十99视频| 婷婷丁香色无五月| 色婷青青| 五月婷婷色综图片| 久久免片| 99精品在线观看视频| 99热这里精品| 五月停停99| 另类国产综合| 精品无码久久久久久久久| 婷婷色女| 在线99热| 日韩人妻在线观看| 99热精品99| 91视频人人做97| xxx.色婷婷| 狠狠狠狠草草| 天天摸天天日天天舔| 久久性爱网| 99精品在| 免看黄大片AA | 五月天婷五月天综合网在线观| 丁香五月婷婷六月| 超碰在线免费| 超碰人人艹| 婷婷99中文字幕| 色九月婷婷综合| 国产97色在线| 成人电影在线免费试看| www.射伊蕉婷婷| 久久婷丁香五月| 一起草Av| 婷婷激情图片| 九九这里只这里只有精品| 亚洲V国产V欧美V久久久久久|