99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地 文章目錄第一章:CPU使用率100%排查??核心判斷(top看%Cpu)??工具鏈??標(biāo)準(zhǔn)排查步驟??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM案例2:Java應(yīng)用CPU 100%??關(guān)鍵注意點(diǎn)第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行第一層:故障現(xiàn)象第二層:兩個(gè)根因第三層:排查步驟(面試口述版)第四層:兩個(gè)典型案例第五層:踩坑關(guān)鍵點(diǎn)第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)一、進(jìn)程狀態(tài)速覽二、故障根因D狀態(tài)(iowait高)Z僵尸進(jìn)程三、排查命令步驟1)全局觀察2)排查D狀態(tài)/iowait高3)排查Z僵尸進(jìn)程四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)五、高頻踩坑點(diǎn)第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑?Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景?Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用?Q4:怎么理解「過早優(yōu)化是萬惡之源」?結(jié)合運(yùn)維實(shí)戰(zhàn),什么情況該優(yōu)化,什么情況堅(jiān)決不要做優(yōu)化???終面綜合大題(可用于壓軸)第五章: Linux CPU性能Q1:線上CPU打滿,簡述完整故障排查閉環(huán),你會(huì)重點(diǎn)規(guī)避哪些坑?Q2:us高與sys高,分別代表什么?列舉典型場景與排查手段Q3:線上負(fù)載很高,但CPU idle還有20?30%,us/sy/wa都正常,請(qǐng)分析原因,能不能直接做CPU綁定?Q4:CPU優(yōu)化有算法優(yōu)化、緩存、CPU親和性、cgroup限制CPU;生產(chǎn)如何取舍,哪些手段慎用?Q5:perf采樣遇到哪些常見坑?(容器、Java、閾值、swapper)第六章: Linux虛擬內(nèi)存(終面)Q1:簡述Linux虛擬內(nèi)存核心原理,為什么要設(shè)計(jì)虛擬內(nèi)存?Q2:malloc底層brk、mmap分配機(jī)制,區(qū)別、優(yōu)缺點(diǎn)?Q3:free命令如何解讀?free、buff/cache、available有哪些線上坑?Q4:top VIRT / RES / SHR / %MEM含義,生產(chǎn)排查踩坑?Q5:內(nèi)存壓力下Linux三種內(nèi)存回收;OOM、oom_score、oom_adj原理?Q6:伙伴系統(tǒng)、slab分配器,slab是否用于用戶態(tài)malloc???SRE高頻拓展面試題Q7?1:缺頁異常分為哪幾類?Q7?2:HugePage大頁適合什么業(yè)務(wù)?有哪些生產(chǎn)代價(jià)?Q7?3:容器內(nèi)執(zhí)行free,顯示的是容器內(nèi)存還是宿主機(jī)整機(jī)?Q7?4:什么是內(nèi)部碎片、外部碎片???面試口述收尾(資深運(yùn)維必背)第七章: Buffer與Cache 資深運(yùn)維面試Q1:請(qǐng)講清楚Linux Buffer、Page Cache(buff/cache)區(qū)別?free命令中buff/cache是什么?Q2:`free`里`available`、`free`有什么本質(zhì)區(qū)別?很多運(yùn)維看到free很小就緊張,對(duì)不對(duì)?Q3:`echo 3 /proc/sys/vm/drop_caches`作用?線上生產(chǎn)環(huán)境能不能隨便執(zhí)行?3代表什么?Q4:slab中SReclaimable與SUnreclaim區(qū)別,會(huì)體現(xiàn)在free輸出哪里?Q5:vmstat中bi、bo是什么指標(biāo)?結(jié)合buffer/cache解釋寫文件流程。??SRE拓展深挖題Q6:怎么理解臟頁dirty page?臟頁過多會(huì)有什么線上問題?Q7:buff/cache持續(xù)占用很高,業(yè)務(wù)內(nèi)存充足,需要手動(dòng)drop_caches釋放嗎?Q8:free、vmstat數(shù)據(jù)來源于哪里???面試一句話收尾第八章: 系統(tǒng)Page Cache緩存 資深SRE面試題Q1:怎么評(píng)估系統(tǒng)頁緩存(page cache)的好壞?cachestat/cachetop/pcstat各自作用?O_DIRECT直接IO為什么cachetop看不到大量緩存未命中?Q2:線上業(yè)務(wù)IO慢,cachetop顯示進(jìn)程READ_HIT%=100%,但是業(yè)務(wù)讀延遲依舊很高,請(qǐng)分析原因與排查步驟?Q3:free看到buff/cache占用很高,free內(nèi)存很小,運(yùn)維要不要手動(dòng)執(zhí)行`echo 3 /proc/sys/vm/drop_caches`清理緩存?線上有什么風(fēng)險(xiǎn)?什么場景才適合執(zhí)行???面試一句話收尾??面試官備用深挖題第九章: 內(nèi)存泄漏 資深SRE面試題Q1:什么是內(nèi)存泄漏?堆、棧、數(shù)據(jù)段、文件映射段,哪些會(huì)發(fā)生內(nèi)存泄漏?線上內(nèi)存泄漏會(huì)帶來哪些連鎖危害?Q2:線上懷疑存在內(nèi)存泄漏,請(qǐng)描述完整排查流程,memleak工具原理,容器環(huán)境會(huì)遇到什么坑?Q3:C語言業(yè)務(wù)進(jìn)程RES持續(xù)上漲,怎么區(qū)分是真內(nèi)存泄漏還是偽泄漏?列舉常見偽泄漏場景。??面試口述收尾??面試官備用深挖題第十章: Linux內(nèi)存故障排查 資深SRE面試Q1:線上收到內(nèi)存告警,請(qǐng)描述完整排查思路,核心看哪些指標(biāo),如何區(qū)分是進(jìn)程、緩存、slab、Swap導(dǎo)致的壓力?Q2:什么是major主缺頁、minor次缺頁?線上指標(biāo)升高分別是什么現(xiàn)象,對(duì)業(yè)務(wù)有什么影響?Q3:Linux內(nèi)存調(diào)優(yōu)有哪些常用手段?哪些參數(shù)/命令生產(chǎn)環(huán)境嚴(yán)禁隨意操作,會(huì)帶來業(yè)務(wù)抖動(dòng)??面試速記小結(jié)(口述小結(jié),背完直接收尾)第十一章: 磁盤IO性能 資深SRE面試題Q1:線上業(yè)務(wù)接口響應(yīng)慢,top觀察iowait很高,請(qǐng)描述完整排查鏈路,關(guān)鍵工具與核心指標(biāo)?Q2:strace -p 綁定進(jìn)程PID,pidstat確認(rèn)該進(jìn)程大量寫IO,但是strace抓不到write調(diào)用,會(huì)是什么原因?Q3:iostat關(guān)鍵指標(biāo)%util、await、aqu?sz,解釋含義;哪些誤區(qū)容易誤導(dǎo)排障??面試速記小結(jié)第十二章: 數(shù)據(jù)庫慢查詢(系統(tǒng)層+MySQL層)資深SRE面試Q1:業(yè)務(wù)接口訪問MySQL,響應(yīng)耗時(shí)十幾秒,top看到iowait很高,請(qǐng)描述完整排查流程Q2:strace拿到mysqld的線程fd,直接把線程號(hào)傳給lsof卻查不到文件,是什么坑?Q3:除了SQL缺少索引,還有哪些外部系統(tǒng)因素,會(huì)導(dǎo)致MySQL查詢突然變慢??面試速記小結(jié)第十三章: Redis響應(yīng)延遲 資深SRE面試Q1:業(yè)務(wù)調(diào)用Redis查詢接口,查詢操作但接口響應(yīng)很慢,top看到iowait高,但iostat磁盤%util并不高,請(qǐng)描述完整排查鏈路Q2:容器內(nèi)運(yùn)行Redis,strace看到fdatasync耗時(shí)高,如何確認(rèn)這個(gè)fd對(duì)應(yīng)的socket還是磁盤文件?會(huì)遇到什么容器坑?Q3:iowait高,但iostat中磁盤%util不高,是什么原因??面試速記小結(jié)第十四章: Linux IO瓶頸快速定位 資深SRE面試Q1:線上業(yè)務(wù)變慢,收到iowait告警,請(qǐng)描述你快速定位IO瓶頸的完整套路?Q2:磁盤IO四大核心指標(biāo)是什么?考察時(shí)容易踩哪些誤區(qū)?Q3:文件系統(tǒng)層面有哪些容易忽略的IO性能指標(biāo)??面試速記結(jié)論第十五章: Linux網(wǎng)絡(luò)基礎(chǔ)與性能 資深SRE面試Q1:簡述Linux數(shù)據(jù)包收發(fā)完整流程Q2:衡量網(wǎng)絡(luò)性能核心指標(biāo)有哪些,分別含義?Q3:線上網(wǎng)絡(luò)變慢排查,你的排查步驟??面試速記小結(jié)第十六章:C10K / C1000K / C10M 速記?? 塔尖一句話一、三階段核心對(duì)比二、必背4個(gè)概念三、生產(chǎn)7大故障(按出題頻率排序)四、監(jiān)控必查命令(脫口而出)五、面試黃金收尾話術(shù)第十七章 tcpdump + Wireshark 面試一頁紙(3道面試題+總結(jié))面試題1:ping 訪問域名,單條ICMP延遲很小,但整個(gè)ping命令執(zhí)行耗時(shí)很長,可能是什么原因?如何定位解決?面試題2:線上服務(wù)器如何使用tcpdump和Wireshark做網(wǎng)絡(luò)故障排查,講完整操作流程,重點(diǎn)參數(shù)?面試題3:抓包中看到TCP斷開連接出現(xiàn)3個(gè)包,不是傳統(tǒng)的四次揮手,請(qǐng)解釋原理?一頁紙核心總結(jié)第十八章 DDoS(SYN?Flood)??核心概念??三大指標(biāo)?軟中斷 softirq??識(shí)別惡意流量(SYN洪水)??緩解手段iptablessysctl內(nèi)核調(diào)優(yōu)(寫入/etc/sysctl.conf,sysctl -p生效)分層防御??完整故障鏈路??面試必背短句第一章:CPU使用率100%排查??核心判斷(top看%Cpu)指標(biāo)高問題方向us/ni用戶業(yè)務(wù)代碼(死循環(huán)、大量計(jì)算、Java GC頻繁)sy內(nèi)核、頻繁系統(tǒng)調(diào)用、內(nèi)核線程wa磁盤IO瓶頸hi/si硬/軟中斷風(fēng)暴top按數(shù)字1,查看每個(gè)CPU核使用率??工具鏈top:定位高CPU進(jìn)程PID,默認(rèn)3s采樣pidstat 1 5:進(jìn)程細(xì)分 %usr / %system / %CPUperf(線上優(yōu)先,不中斷業(yè)務(wù))# 實(shí)時(shí)看熱點(diǎn)函數(shù)、調(diào)用棧perftop-g-pPID# 離線保存,適合轉(zhuǎn)瞬即逝問題perf record-g-pPID# Ctrl+C結(jié)束perf report??容器場景perf出現(xiàn)16進(jìn)制地址:宿主機(jī)生成perf.data,docker cp拷貝進(jìn)容器內(nèi)執(zhí)行report解析?GDB不適合線上:會(huì)暫停業(yè)務(wù)進(jìn)程Java專屬工具# 打印所有線程堆棧,定位高CPUJava線程jstackPID# 統(tǒng)計(jì)JVM各個(gè)內(nèi)存區(qū)域jstat-gcPID1000??標(biāo)準(zhǔn)排查步驟top觀察CPU分項(xiàng),確認(rèn)用戶態(tài)/內(nèi)核態(tài)/IO問題獲取高CPU進(jìn)程PID(top / pidstat)若是Java進(jìn)程:top?H -p PID找到高消耗線程tid,轉(zhuǎn)16進(jìn)制,配合jstack定位Java代碼;也可以使用perf采樣非Java進(jìn)程:perf采樣定位熱點(diǎn)函數(shù)根據(jù)函數(shù)/堆棧定位業(yè)務(wù)源碼,確認(rèn)根因(死循環(huán)、大量循環(huán)計(jì)算、頻繁FullGC等)修改代碼/配置,壓測驗(yàn)證修復(fù)效果??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM現(xiàn)象:php?fpm進(jìn)程CPU打滿,us98%ab壓測:ab -c10 -n10000 http://ip:10000top確認(rèn)php?fpm占用CPUperf top -g -p PID找到sqrt為熱點(diǎn)源碼:單次請(qǐng)求百萬次循環(huán)執(zhí)行sqrt,遺留測試代碼刪除循環(huán),QPS從11提升至2237案例2:Java應(yīng)用CPU 100%現(xiàn)象:Java進(jìn)程CPU持續(xù)100%,us占比極高排查流程:top發(fā)現(xiàn)Java進(jìn)程PID=2345,CPU占用接近100%top -H -p 2345,發(fā)現(xiàn)線程tid=2368CPU占比很高tid轉(zhuǎn)16進(jìn)制:printf "%x\n" 2368→940jstack 2345 jstack.log,在日志搜索0x940堆棧定位業(yè)務(wù)代碼:for無限死循環(huán),沒有sleep;或者集合大數(shù)據(jù)遍歷補(bǔ)充:如果jstat?gc觀察到頻繁FullGC,CPU高是內(nèi)存泄漏導(dǎo)致,優(yōu)先排查內(nèi)存問題??關(guān)鍵注意點(diǎn)CPU使用率是一段時(shí)間采樣差值計(jì)算的平均值,不同工具采樣間隔不一樣,對(duì)比要保持間隔統(tǒng)一/proc/stat原始數(shù)據(jù)是開機(jī)累計(jì)值,不能直接拿來算使用率偶發(fā)瞬時(shí)CPU沖高,登錄現(xiàn)場已消失:依靠監(jiān)控 + perf record離線采樣Java使用perf:需要安裝perf符號(hào),否則只能看到j(luò)vm內(nèi)部符號(hào);jstack更適合定位Java業(yè)務(wù)代碼問題/////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行系統(tǒng)CPU整體很高,但top/pidstat看不到高CPU進(jìn)程,90%是短時(shí)進(jìn)程,其次是進(jìn)程反復(fù)崩潰重啟。第一層:故障現(xiàn)象top全局us/sy高,id低;但所有進(jìn)程CPU占比都很低top看到大量R(Running)運(yùn)行態(tài)進(jìn)程,PID快速不停變化pidstat所有進(jìn)程CPU加起來遠(yuǎn)小于系統(tǒng)總CPU第二層:兩個(gè)根因短時(shí)進(jìn)程(最常見):業(yè)務(wù)代碼exec/system/ProcessBuilder調(diào)用外部命令,進(jìn)程生命周期極短,小于工具采樣間隔,top/pidstat抓不到,海量頻繁創(chuàng)建銷毀累積消耗CPU。進(jìn)程反復(fù)崩潰重啟:程序崩潰,被監(jiān)控/K8s反復(fù)拉起,初始化邏輯消耗CPU,進(jìn)程存活時(shí)間很短。第三層:排查步驟(面試口述版)top:看全局CPU,重點(diǎn)觀察R狀態(tài)進(jìn)程數(shù)量、PID是否漂移;有execsnoop優(yōu)先執(zhí)行,直接捕獲exec調(diào)用,拿到子進(jìn)程和父PID;沒有execsnoop,用perf全系統(tǒng)采樣,必須加-a,不能指定PIDperf record-ag-gperf reportpstree追溯父進(jìn)程,定位業(yè)務(wù)服務(wù);審查源碼外部命令調(diào)用,查看dmesg/容器日志確認(rèn)是否崩潰重啟。第四層:兩個(gè)典型案例PHP:http請(qǐng)求exec調(diào)用stress,權(quán)限報(bào)錯(cuò)快速退出,大量短時(shí)進(jìn)程吃滿CPU。Java:ProcessBuilder高頻調(diào)用shell腳本,腳本執(zhí)行完立刻退出,Java主進(jìn)程CPU占用并不高。第五層:踩坑關(guān)鍵點(diǎn)perf排查短時(shí)進(jìn)程不能帶?p指定PID,必須?a全系統(tǒng)采樣,swapper是空閑內(nèi)核進(jìn)程直接忽略;top/pidstat是采樣平均值工具,進(jìn)程壽命短于采樣間隔就捕獲不到;容器perf符號(hào)缺失:perf.data復(fù)制進(jìn)容器內(nèi)做report解析。面試一句話總結(jié):CPU高找不到進(jìn)程,優(yōu)先懷疑短時(shí)進(jìn)程,用perf -a全系統(tǒng)抓,不要指定進(jìn)程PID。///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)面試/線上速查,現(xiàn)象:iowait高、負(fù)載上漲、大量D/Z進(jìn)程一、進(jìn)程狀態(tài)速覽狀態(tài)含義關(guān)鍵影響R運(yùn)行/就緒CPU調(diào)度隊(duì)列D不可中斷睡眠,等待硬件IO拉高平均負(fù)載,kill?9無效Z僵尸,子進(jìn)程已退出,父未回收資源耗盡PID,無法新建進(jìn)程;kill僵尸本身無效S可中斷睡眠正常等待事件,可被信號(hào)喚醒I內(nèi)核線程空閑態(tài)不會(huì)拉高負(fù)載T暫停/調(diào)試跟蹤gdb、SIGSTOP觸發(fā)重點(diǎn):短時(shí)D屬于正常;大量持續(xù)D、持續(xù)增長Z屬于故障。二、故障根因D狀態(tài)(iowait高)業(yè)務(wù)O_DIRECT直接IO,繞過pagecache頁緩存,直接操作物理磁盤,磁盤慢導(dǎo)致進(jìn)程阻塞D狀態(tài);??通俗:不使用內(nèi)存緩存,每一次讀都直接訪問硬盤,硬盤速度遠(yuǎn)慢于內(nèi)存,CPU大量時(shí)間等待磁盤返回。perf看到blkdev_direct_IO內(nèi)核函數(shù)就是證據(jù)。本地磁盤故障、RAID異常;NFS存儲(chǔ)服務(wù)端卡死,客戶端進(jìn)程阻塞IO。Z僵尸進(jìn)程fork()創(chuàng)建子進(jìn)程,父進(jìn)程未調(diào)用wait/waitpid回收子進(jìn)程退出狀態(tài);未注冊(cè)SIGCHLD信號(hào)處理函數(shù);子進(jìn)程退出速度快于父進(jìn)程處理。??通俗:子進(jìn)程干完活退出,父進(jìn)程代碼沒執(zhí)行“收尸”邏輯,子進(jìn)程就變成僵尸。父進(jìn)程退出,僵尸由init(1)自動(dòng)收割。三、排查命令步驟1)全局觀察top# 看load、wa(iowait),看S列D/Z;按1看各CPUdstat1# 同時(shí)對(duì)比CPU iowait與磁盤讀寫流量2)排查D狀態(tài)/iowait高pidstat -d 1全局看進(jìn)程IO讀寫;進(jìn)程轉(zhuǎn)瞬變?yōu)榻┦瑂trace無法attach,用全系統(tǒng)perf采樣(不加?p)perf record-ag-gperf report忽略swapper內(nèi)核空閑進(jìn)程;看到blkdev_direct_IO代表開啟直接磁盤IO。D狀態(tài)進(jìn)程kill?9殺不掉,需等待IO返回,硬件故障極端情況只能重啟。3)排查Z僵尸進(jìn)程ps-e-ostat,ppid,pid,cmd|grepZ# 拿到僵尸PID、父PPIDpstree-aps僵尸PID# 向上追溯父進(jìn)程臨時(shí)緩解:重啟父進(jìn)程,init自動(dòng)回收僵尸;根治:代碼增加wait/waitpid或SIGCHLD信號(hào)處理。四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)現(xiàn)象:iowait打滿,負(fù)載高,同時(shí)僵尸進(jìn)程持續(xù)增多;dstat確認(rèn)wa升高伴隨大量磁盤讀;pidstat?d看到app大量讀盤;進(jìn)程D狀態(tài)后迅速變成Z,strace attach失??;perf全系統(tǒng)采樣發(fā)現(xiàn)blkdev_direct_IO;?問題代碼:open(disk, O_RDONLY|O_DIRECT|O_LARGEFILE, 0755);開啟O_DIRECT繞過內(nèi)存緩存,大量直接磁盤IO,iowait飆升。?修復(fù):刪除O_DIRECT參數(shù),走操作系統(tǒng)頁緩存,iowait恢復(fù)。僵尸根因:wait()寫在死循環(huán)外面,代碼永遠(yuǎn)執(zhí)行不到//錯(cuò)誤:wait放在死循環(huán)外面,永遠(yuǎn)跑不到for(;;){for(inti=0;i2;i++){fork();}sleep(5);}while(wait(status)0);//?修復(fù):wait移入循環(huán)內(nèi)部,每輪循環(huán)回收子進(jìn)程for(;;){for(inti=0;i2;i++){fork();}while(wait(status)0);sleep(5);}wait挪入循環(huán),子進(jìn)程退出后立刻被回收,不再生成僵尸。五、高頻踩坑點(diǎn)iowait高≠磁盤瓶頸:少量IO也會(huì)拉高wa,必須結(jié)合實(shí)際磁盤讀寫量判斷;kill僵尸進(jìn)程不起作用,僵尸已經(jīng)死亡,必須處理父進(jìn)程;perf報(bào)告swapper是內(nèi)核空閑進(jìn)程,直接忽略;父進(jìn)程為1號(hào)init還殘留僵尸,業(yè)務(wù)無解,大概率內(nèi)核bug,只能重啟機(jī)器。?面試一句話總結(jié):D狀態(tài)優(yōu)先排查IO:直接IO(O_DIRECT)、本地磁盤、NFS,kill?9無效;僵尸不要?dú)⒔┦旧恚ㄎ桓高M(jìn)程,代碼做好子進(jìn)程回收。////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題考察:實(shí)戰(zhàn)閉環(huán)、權(quán)衡取舍、線上踩坑,金字塔答題,包含問題+完整參考答案+深挖追問+追問完整答案Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑??完整參考答案(金字塔)結(jié)論先行:CPU優(yōu)化不是找到瓶頸就直接改,必須走「確認(rèn)瓶頸→量化基線→方案選型→對(duì)比驗(yàn)證→評(píng)估副作用」完整閉環(huán);直接改代碼上線最大風(fēng)險(xiǎn):誤判根因、優(yōu)化帶來副作用、無法證明優(yōu)化收益。確認(rèn)真瓶頸,區(qū)分根因與衍生現(xiàn)象。很多指標(biāo)高只是現(xiàn)象,不是根源。例如iowait升高只是現(xiàn)象,根源是O_DIRECT直接IO;軟中斷CPU高是現(xiàn)象,根源是大量網(wǎng)絡(luò)小包。不能針對(duì)現(xiàn)象做優(yōu)化,要解決背后的根因。建立雙維度基線。不能只看系統(tǒng)CPU使用率;同時(shí)采集**業(yè)務(wù)指標(biāo)(QPS、延遲、錯(cuò)誤率)**和系統(tǒng)指標(biāo)(CPU、上下文切換)作為優(yōu)化前基準(zhǔn)。壓測客戶端要與業(yè)務(wù)服務(wù)隔離部署,防止壓測工具本身消耗資源,污染測試數(shù)據(jù)。多方案選型,綜合權(quán)衡。不能只看性能提升幅度,綜合評(píng)估:改造成本、代碼復(fù)雜度、可維護(hù)性、優(yōu)化副作用;拒絕拿來主義,不追求一步到位解決全部問題?;叶闰?yàn)證,對(duì)比優(yōu)化前后。不僅看系統(tǒng)資源指標(biāo),重點(diǎn)校驗(yàn)業(yè)務(wù)指標(biāo),防止出現(xiàn)CPU降了,但接口延遲升高這類負(fù)優(yōu)化。風(fēng)險(xiǎn)防控,警惕過早優(yōu)化。沒有真實(shí)業(yè)務(wù)壓力,不要提前堆砌緩存、異步、CPU綁定這類復(fù)雜邏輯,徒增維護(hù)成本。實(shí)戰(zhàn)坑舉例:直接對(duì)進(jìn)程做CPU綁定,業(yè)務(wù)流量波動(dòng)大時(shí),會(huì)破壞內(nèi)核調(diào)度均衡,出現(xiàn)單核打滿其余核空閑,整體性能反而變差。??面試官深挖追問 + 參考答案追問:優(yōu)化后CPU使用率降下來,但業(yè)務(wù)接口延遲反而升高,可能有哪些原因?答:① 優(yōu)化手段帶來額外開銷:例如引入緩存,增加鎖、緩存淘汰邏輯;② CPU綁定導(dǎo)致調(diào)度失衡,任務(wù)集中在個(gè)別CPU核,隊(duì)列排隊(duì);③ 算法優(yōu)化雖然降低CPU,但增加IO/鎖等待;④ 并發(fā)線程/進(jìn)程數(shù)量被限制,請(qǐng)求排隊(duì)堆積;⑤ 內(nèi)核參數(shù)調(diào)整,犧牲延遲換取CPU利用率。追問:怎么區(qū)分觀測到的指標(biāo)是根因,還是衍生現(xiàn)象?舉一個(gè)線上實(shí)際例子。答:根因是源頭,衍生現(xiàn)象是根因引發(fā)的結(jié)果。解決根因,衍生現(xiàn)象會(huì)自動(dòng)消失。例子:大量短時(shí)fork子進(jìn)程,會(huì)導(dǎo)致sys CPU高,sys高是現(xiàn)象;真正根因是業(yè)務(wù)頻繁調(diào)用exec創(chuàng)建短時(shí)進(jìn)程。修復(fù)業(yè)務(wù)不再頻繁創(chuàng)建進(jìn)程,sys CPU自然下降,而不是去調(diào)內(nèi)核參數(shù)壓制sys指標(biāo)。追問:如果環(huán)境不允許做完整壓測,只能線上灰度,基線數(shù)據(jù)該怎么獲?。看穑孩?取優(yōu)化前一段時(shí)間監(jiān)控歷史作為基線,保證流量、時(shí)間段盡量對(duì)齊;② 采用灰度發(fā)布,一部分實(shí)例優(yōu)化,一部分實(shí)例保持原樣,做同環(huán)境對(duì)照;③ 對(duì)比兩組實(shí)例的業(yè)務(wù)、系統(tǒng)指標(biāo);④ 小流量逐步放量,一旦指標(biāo)異常立刻回滾。Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景??完整參考答案(金字塔)結(jié)論先行:us高代表業(yè)務(wù)用戶態(tài)消耗CPU;sys高代表內(nèi)核態(tài)開銷;二者排查方向完全不同,先分清指標(biāo),再選擇工具定位。us(用戶態(tài)CPU高):CPU消耗來自業(yè)務(wù)代碼邏輯典型場景:死循環(huán)、高復(fù)雜度算法、大量計(jì)算、頻繁正則表達(dá)式、Java頻繁Full GC;工具:perf top -g -p pid定位業(yè)務(wù)熱點(diǎn)函數(shù);Java配合jstack、jstat -gc。sys(系統(tǒng)CPU高):CPU消耗來自內(nèi)核,由系統(tǒng)調(diào)用、上下文切換、中斷引發(fā)典型場景:大量fork/exec短時(shí)進(jìn)程;頻繁鎖競爭;海量細(xì)小系統(tǒng)調(diào)用;軟硬中斷風(fēng)暴;進(jìn)程數(shù)量多導(dǎo)致頻繁上下文切換;工具:perf record -ag -g做全系統(tǒng)采樣看內(nèi)核調(diào)用棧;pidstat -w觀察上下文切換;execsnoop捕獲短時(shí)exec調(diào)用。??重要坑:短時(shí)進(jìn)程場景,top、pidstat抓不到高CPU進(jìn)程,必須全系統(tǒng)perf采樣,不能指定?p pid。實(shí)戰(zhàn)區(qū)分小技巧:us高優(yōu)先懷疑業(yè)務(wù)代碼;sys高優(yōu)先懷疑系統(tǒng)調(diào)用、進(jìn)程創(chuàng)建、中斷,不要上來就修改業(yè)務(wù)代碼。??面試官深挖追問 + 參考答案追問:Java服務(wù)sys系統(tǒng)CPU很高,你會(huì)一步步怎么排查?答:① 先看pidstat -w,觀察自愿/非自愿上下文切換,如果非自愿切換很高,線程過多、爭搶CPU;② 使用perf record -ag -g全系統(tǒng)采樣,看內(nèi)核調(diào)用棧,看是系統(tǒng)調(diào)用、線程創(chuàng)建、鎖、還是中斷消耗;③ execsnoop排查是否Java通過ProcessBuilder大量創(chuàng)建外部短時(shí)子進(jìn)程;④ 查看JVM配置:線程數(shù)量是否過多;⑤ 排除硬件層面中斷風(fēng)暴。追問:為什么短時(shí)進(jìn)程,指定perf -p PID抓不到問題?答:短時(shí)進(jìn)程生命周期極短,執(zhí)行完立刻退出。perf-p需要進(jìn)程存活才能附著采樣;等執(zhí)行perf命令時(shí)進(jìn)程已經(jīng)消亡。必須?a全系統(tǒng)采樣,捕獲系統(tǒng)內(nèi)全部事件,不綁定特定PID。追問:sys高,但是沒有看到大量fork,還會(huì)有什么可能性?答:① 海量細(xì)小系統(tǒng)調(diào)用,如頻繁read/write、epoll_wait;② 大量線程上下文切換,線程數(shù)量過多;③ 硬中斷、軟中斷風(fēng)暴(網(wǎng)絡(luò)包量大);④ 頻繁鎖競爭,內(nèi)核態(tài)自旋鎖消耗;⑤ 內(nèi)存缺頁異常頻繁。Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用??完整參考答案(金字塔)結(jié)論先行:優(yōu)先應(yīng)用層業(yè)務(wù)邏輯優(yōu)化,其次緩存;系統(tǒng)層面CPU綁定、
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
夜夜躁婷婷AV| 超碰在线9| AV成人在线网站| 五月丁香六月婷婷婷婷| 武则天精品久久| 五月婷婷五月天| 激情综合网五月天天| 丰满少妇猛烈A片免费看观看| 婷婷免费无视频| 4399精品一区二区| 亚洲爆乳无码精品AAA片蜜桃| 日韩十国产极品久久| 五月婷婷色啪| 亚洲成人精品三区| 成人国产欧美大片一区| 亚洲激情网| 天天日天天干天天插天天射| 99热国产国产| 99精彩视频在线观看| 九九碰九九爱97超| 五月婷视频| 五月天婷婷午夜丁香| 97久操| 丁香色五月天| 综合色久| 亚洲成人综合在线| 亚洲精品国产setv| 伊人婷婷大香蕉| 婷婷五月六月丁香综合| 五月丁香六月婷婷玖玖| 国产激情综合五月| 丁香婷婷六月激情文学 | 99精品热| 五月天另类小说| 国产色五月| 天堂A∨在线| 九九色情网站| 99燥99日| 婷婷大香焦| 五月天com| 玖玖婷婷五月天| 99激| 青青福利网| 99re思思热在线视频| 丁香久久激情俄| 国产精品久久久久9999小说| 99在线精品免费视频| www.minyis.com【JT】实力收量可预付QQ2101460746 | 激情综合婷婷| 五月婷无码| 在线婷婷| 日本九九视频| 成人电影AV在线观看| 97色碰碰公开视频| 大香蕉娱乐| 麻豆观看夏晴子| 五月天婷婷久久| 久久99精品视频| 五月丁香六月| www.99色| 国产XXXX搡XXXXX搡麻豆| 色人久久| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 婷婷五月天激情影片| WWW,激情五月天,COM| 丁香六月激情| 立川无码av| 色五月开心婷婷| 激情小说婷婷小说| 欧美狠狠地| 五月激情婷婷开心| 久久综合影院| 狠狠综合网| 玖玖热视频| 丁香五月综合婷婷| 精品一二三区久久AAA片 | 九九热a| 日本久久人人| 五月综合激情图片| 美女五月天| 丁香激情综合| 在线日韩视频| 久操乱| www.婷婷激情网.com| 日韩AV在线免费| 3DAV亚洲香蕉久久 一区二区| AV在线免费观看不卡| 丁香婷婷五月色综合| 亚洲综合色成丁香五月色| 天天干在线播放| 97碰碰人人视频| 色伊人啪| 天天操天天草天天草天天| 亚洲精品午夜国产va久久成人| 亚洲日韩欧美综合VA| 五月天丁香婷婷社区| 色欲丁香| 五月婷婷亚洲综合在线| 视频综合网| 色婷五月天网站| 99热在线中文字幕| 99九九综合久久九九| 天天干 夜夜爽| 天天摸天天日天天舔| 性小说五月天| 婷婷色综合| a网站免费观看| 这里只有精品96| 色噜久| 伊人久久99| 欧洲激情五月天婷婷| 一本综合丁香日日狠狠色| 婷婷五月视屏| 丰满少妇乱A片无码| 人人综合色| 操逼毛片国语对白| 天天操夜夜橾| 日韩成人不卡| 婷婷久久伊人| 激情VA视频| 亚洲精品午夜国产va久久成人| 七七婷婷综合| 久热这里只有精品在线观看| 91丨九色丨熟女|新版| 婷婷五月天激情网| 色九九综合| 天天爽天天做| 色播激情| 国产婷婷五月天| 婷婷成人AV| 中文字幕视频色婷婷| 九色91视频| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 五月丁六月香av| 四色五月婷婷| 天天网曰日曰夜夜综合永久免费| 丁香五月天婷婷中文| 五月天社区| 婷色五月天| 丁香五月色色婷| 五月丁香在线婷婷蜜桃| 拍真实国产伦偷精品| 久操干| 欧美人人草| 超碰九色| 一区二区三区四区五区| 九九成人视频| 久久色五月天| 色狠狠综合| 激情丁香六月| 9l视频自拍九色9l视频自拍九色9l社区 | 五月婷婷狠狠干| 亚洲日日操| 99草视频在线观看| 久综合色| 亚洲视99| 久久五月婷6 9| 婷婷欧美色| 五月丁香香蕉| 五月丁香婷婷在线综合蜜桃| 99热久久这里只有精品| 夜夜夜夜做天天天做无码视频| 99久re热视频精品98| 大香蕉久久婷婷| 天天舔天天操| 五月停停999| 五月婷婷激情中文字幕| 天堂色婷婷| 五月婷婷日| 久久久久久久久99精品| 亚洲色婷婷| 色五月丁香五月| www.五月婷婷| 丁香六月婷婷综合激情欧美| 欧美私人家庭影院| 色播激情五月天| 韩国97天堂| 六月久久狠狠| 91狠狠色| 天天射天天插天天干| 玖玖在线资源视频| 9久9久9久女女女九九九一九| 婷婷五月天亚洲精品| 深夜婷婷 丁香| 成人网站免费sxj| 国产熟妇的荡欲午夜视频| 天天插天天插天天日| 另类小说五月天| 丁香五月激情六月综合| 久99久视频精选| 天天日天天操心| 丁香五月婷婷色情综合| 成人精品视频99在线观看免费| 六月婷婷色宗合| YW无码| 五月天丁香婷婷社区| 日本九九视频| 三级av在线| 色色色色色网站| 天堂色色色| 色色com| 日本婷婷丁香五月| 色哟哟www| 五月丁香六月激情在线| 午夜丁香五月天综合| 高清成人综合| 婷婷激情久久| 激情五月天网站| 婷婷五月天激情网| 久久182| 婷婷色在线| 五月丁香六月停停| 在线观看五月婷婷网| 五月婷婷视频| 99精品综合| 婷婷五月天人妻| 色色五月婷婷久久| 天天操夜夜操| 亚洲AV网站在线观看| 十月丁香婷婷| 五月丁香六月婷综合成人综合| 成人做爰黄A片免费看直播室男男| 26uuu另类亚洲欧美日本一| 98色花堂98t.R| 被强行糟蹋的女人A片| 色情五月婷婷| 天天夜天天色天天| 亚洲五月六丁香激情| 国产黄色av| 人妻22p| 网站免费一站二站| 国产婷婷五月天| AV大香蕉| 超碰在线91| WWW.久久99| 69精品人人人人| 午夜成人天堂久久无码日韩久久| 色色色.COM| 精品人妻伦| 9久久AV| 大香蕉久久青青| 超碰人人操在线| 激情综合色播| 99视频只有这里精品| 日本狠狠爽| 婷婷午夜精品久久久| 日本在线wwww| 久人人操| 69色婷婷| 九九热re99re6在线精品| 国产欧美大香蕉一区| 国产乱妇无乱码大黄AA片| 久久五月婷婷丁香| 婷婷99中文字幕| 色婷婷五月综合| 丁香五月亚洲天堂| www.亭亭五月天| 亚洲AAA| 天天日狠狠| 丁香大香蕉| 婷婷九月亚洲| 日韩成人无码人妻| 婷婷丁香五月亚洲欧美| 亚洲99激情| 九九综合视频在线观看| 国产精品在线视频| 婷婷五月天熟妇| 色播五月婷婷综合| 五月婷婷在线网站| 大地资源色婷婷视频在线| 狠狠干天天内射| 六月丁香婷婷视频综合在线观看| oumeisesewang| 六月丁香成人| 亚洲综合色丁香婷婷六月| 337p大胆噜噜噜噜噜91Av| 久9免费视频| 91艹人| 色色色97| 婷婷五月天成人五月天| 丁香五月婷婷亚洲另类| 人人草人| 久热无码| 久久九九热38| 欧美日韩成人在线观看| 播五月婷婷开心| 激情网五夜婷婷| 九九热99热| 精品久久9| 成人精品在线| 午夜不卡久久精品无码免费| 亚洲av电影网站| 丁香六月亚洲| 色五月大香蕉| 久久99美女精彩视频| 五月丁香六月香综合激情| 五月丁香六月婷婷开心网| 五月天婷婷在线观看| 五月天婷婷成人| 伊人网碰碰| 六月婷婷五月天| 亚洲五月天激情| 1024人妻无码中文字幕| 久久色情| 五月丁香黄色视频| 免费精品99| 午夜不卡久久精品无码免费| 激情综合国产| 99r这里| 婷婷久久丁香五月| 九九色婷| 丁香五月六月久久综合| 婷婷五月激情视频在线| 欧美色五月| 丝袜大香蕉| 五月婷婷综合天天操| 97久久人人操| AV性爱在线| 99热这里只有精品免费| 玖玖爱导航| 五月丁香美女视频| 99激情| 熟妇人妻中文字幕无码老熟妇| 综合久久8| 五月天婷婷一起草| 婷婷丁香五月网| 玖玖色综合| 99热97| 开心五月天激情网| 日本WWW九九九| 亚洲成人乱码av网站| www.婷婷,com| 婷婷五月激情视频网| 婷婷五月天AV| 日韩av在线免费观看| 最近中文字幕2019视频1| 免费看成人747474九号视频在线观看| 丁香五月23111| 玖玖资源在线视频| 9l视频自拍9l九色9l成人| 欧美精品久久久久久视频观看| 综合色播| 91jiuseshunv| 亚洲久热无码| 国产SUV精品一区二区883| 26uuu丁香婷婷五月| 久久激情五月天| 日韩人妻无码专区| 五月丁香六月婷婷精品| 99色在线| 99热只有精品综合| 色色色色色色色色五月先| 伊人九九九久| 丁香婷婷成人网| 一本色道久久88加勒比| 天天综合干| 美女五月天| 一区视频网站| 99热在线精品播放| 91精品综合久久婷婷九色| 久久婷婷青青| 婷婷五月天com| www.色婷婷| 色婷婷影视| 99色热视频| 五月婷婷六月丁香玖玖玫瑰91| 色六月视频| 国产偷人爽久久久久久老妇APP| 另类视频综合| 五月天综合视频| 97碰久久| 色九月| 亚洲激情淫网| αv中文字幕在线观| 色网站99| 岛国在线观看91| 激情五月婷婷综合网| 婷婷深爱五月| renrencaoav| 99成人| 五月丁香怕怕综合| 666555。COm毛片| 免费久久这里只有精品99| 精品人妻伦一二三区久久| 婷婷和五月天| 少妇性BBB搡BBB爽爽爽电影| 久久五月婷天天干| www.99热在线| 99色| 九九无码视屏| 五月丁香久久呀| 深爱婷婷丁香五月激情| 色狠狠色综合久久久绯色AⅤ影视| 操碰99| 1024日韩| 丁香五月瑟瑟| 婷婷五月天综合久久| 九九视频在线| 激情五月婷婷综合网| 欧美五月婷婷综合| 大香蕉久| 五月精品免费XXX| 亚洲精品九九| 天天综合在线网| 婷婷久久午夜网| 玩熟女五十AV一二三区| 色色综合激情| 丁香婷婷人妻综合网| 丁香五月婷婷操逼| 日本人妻A片成人免费看片| 色播五月婷婷综合| 久久婷婷的综合色丁香五月| 色婷婷电影网| 亚洲视频色婷婷| 女婷久久| 亚洲国产黄色电影| 九九热视频在线观看| 五月天色婷婷成人| 99re熱| 丁香五月婷婷操逼| 国产激情综合五月久久| 五月丁香六月婷婷操操操| 国产精品人妻欲求不满| 免费日本aⅴ中文字幕 | 婷香五月| 青草激情综合| yazhou seshipin| 婷婷干六月综合旧址| 超碰人人操人人干| 99爱视频在线| 久香草视频在线观看| 天天干天天操天天射| 色五月婷婷网| 六月婷婷av| 亞洲自怕| 能看的av| 九九热免费| 色五月婷婷影院| 级情九色| 26uuu精品一区二区| 熟女人妻视频| 九色婷婷| 天天爽天天爽| 五月婷精品| 婷婷视频在线| 五月社区婷婷激情| 99在线观看视频免费| 六月婷婷AV| 99热个人在线| 亚洲乱码日产精品BD| 婷婷五月天在线一区| 婷婷五月开心中文字幕色| 99A级片| www.1024久久| 九一九九黄色| 内射人妻视频国内| 思思99热| 婷婷五月天色| 婷婷亚洲色| 另类视频综合| 亚洲精品国产成人AV在线| 天天舔天天操| 26uuu精品国产| 天天干天天操天天干天天操天天干天天操| 另类色视频| 色婷婷久久久| www.色综合| 婷婷九月狠狠色| 五月天激情综合网| www.99热这里精品| 欧美日韩五月婷婷| 六月激情网| 操逼五月婷婷| 奇米四色五月天| 久久婷婷原创视频| 色婷婷色综合| 9婷婷内射| 牛牛色av| 超碰无码318604| 五月激情综合性爱| 任你日视频| 久久久久8888| 婷婷色基地在线看| 97很鲁在线视频| 青草青草视频2免费观看| 夜夜爽77777妓女免费下载| 五月激情综合网| 亚洲欧美在线观看| 久9热插入| 成人网站高清无码| 色综合久久99色| 色综合久久44| 天天做天天双| 久久一热| 99久.| 色综合色色| 天天爽天天日| 97五月婷| 97碰 在线视频观看| 亚洲啪啪自拍| 日本精品99网站| 播播网色播播| 色五月亚洲| 另类国产欧美视频| 嫩草视频在线观看| 无码中文一区二区三区| 激情内射p| 色呦呦美女| 九九热免费| 久久综合99综合| 日本在线wwww| 婷婷国产综合| 日本久久爱| 久久免费操| 99久视频| 成人VAV视频在线观看| www999日韩精品| 丁香六月av| 开心激情五月天网| 成功精品影院| 成人永久免费视频在线观看| 亚洲性图一区二区三区| 色婷婷五月天久久| 狠狠干综合| 中文字幕91,综合| 激情五月黄色小说| 欧美黄色韩日网| 六月婷婷综合| 亚洲色图81p| 天天噜天天爱| 综合激情在线| 精品综合网在线| 国产亚洲色婷婷久久99精品9j| 亚洲av综合网| 亚州色色色| 大香蕉九九| 任你干嘛免费视频播放| 五月丁香综合精品| 婷婷五月电影院| 九色视频九色九色91jiuseshipin| 98永久精品| 九九精品免费视频99| 五月天婷婷綜合院| 99精品免费欧美小视频 | 亚洲视频99| 婷婷五月欧美AA片免费| 婷婷综合网在线| 婷婷日欧美在线观看| 亚洲国产精品VA在线看黑人| 婷婷久久性爱| 青青草五月天| 色播激情婷婷| 6080av| 五月丁香香蕉| 伊人超碰在线| 久久久五月婷婷| 97综合在线| 欧美日本国产欧美日本韩国99| 思思久久青草热| www.狠狠操| 色欲九区| 2017人人操| 超碰免费电影| 婷婷综合五月天亚洲综合| 1024人妻| 天天成人综合| 亚洲乱码日产精品BD在线观看| 97操在线视频| 亚洲人妻AV| 久久婷婷久久| 26uuu丁香婷婷五月| 成人无码髙潮喷水A片| 亚洲激情在线| 丁香五月婷婷色| 久青操| 国产激情在线| 99九无网码| 91日视频| 国产精品社区| 99久视频| 99精品视频免费在线播放| 丁香九月久久| 色综合色| 久久久久人妻| 久久这里只有精品视频26| 成人午夜视频精品一区| ss99热| 久久丁香综合香蕉| 婷婷爱五月天人人爱| 99热有精品在线观看| 5月丁香六月婷婷| 操97在线观看| 婷婷五月婷婷| 色爱综合网| 五月色网| 五月丁香婷婷综合网色欲| 七月丁香五月婷婷在线| 色婷婷婷婷五月天| 婷婷五月丁香啪啪| 天天干一干| 五月丁香 久久久| 激情五月黄色| 中文av网| 五月丁香A片| 成人午夜天| 天天爽天天摸| 欧美精产国品一二三区| 99熟女| 色五月婷婷天天操夜夜操| 天天综合网色欲香| 狠狠色综合网| 白天AV月月| 996热re视频在线观看视频| 国产精品国产| 久久久久久草黄色片AV在线观看| 丁香婷婷欧美综合| 久久精品五月天| 婷婷六月丁香开心深深爱| 精品一区二区三区四区五区六区| 色噜噜婷婷| 色婷婷A| 三男玩一女三A片| 这里只有精品免费观看网占| 综合久久综合久久| 3p九色在线| 久久玖玖综合| 6月丁香婷婷激情| 噢美99| 久久婷婷五月丁香网| 密臀久久| 色欧美日| 丁香六月婷婷综合| 夜丁香综合| 99热只有精品综合| 丁香97综合| 九九综合| 狠狠99| 天天操天天谢| 五月丁香网视频| 久久综合最新网址| 丁香五月激情啪啪| 99免费热视频在线| 色五月丁香五月婷婷五月成人网| 精品乱码视频| 激情四射婷婷色色色| 无码免费人妻A片AAA毛片西瓜| 五月婷婷六月色| 色五月 激情婷婷 综合五月天| 五月天激情啪啪| 婷婷五月激情黄色| 欧洲色| www.91在线观看| 婷婷五月天激情影片| 婷婷在线视频| 激情四射网| 亲子乱av一区二区三区的| 丁香五月成人| 久久免片| 91操人视频| 欧美性爱五月天| 色日本网| 五月综合激情综合久| 99操| 超碰亚洲天堂| 好看的国产精品| 亚洲综合色成丁香五月色| www色色色com| 精品色色| A久久| 99热婷婷| 中文字幕在线观看视频www| 开心五月深爱五月| 狠狠摸狠狠摸| 色综合久久88色综合天天99| 99在线精品免费视频| 大香蕉人妻| 九九99九九99九九99视频网| 精品人妻在线| 99热99极品观看| 婷婷酒色网| 五月婷婷很很色| 国产乱子轮XXX农村| 五月丁香啪啪啪| 日韩成人综合网| 婷婷五月色| 五月天狠狠| 激情久久久| 99热这| 亚洲操操操| 九九黄色网| 激情婷婷五月天| 婷婷久久五月| 丁香五月天啪啪| 色播五月丁香| 久久综合99| 色色色综合网| co超碰在线观看| 4399无码视频二区| WWW.久久久久久久久久久久久| 97性高潮久久久| 狠狠久久婷| 综合久久高清| 另类激情五月天。| 激情丁香五月激情婷婷| www.成人婷婷综合| 玖玖午夜视频| 五月丁香网站| 丁香五月婷中字在线| 五月天婷婷色综合| Www99热| 97色色色色| 五月色导航| 99热99热99热99热| 日本99色| www.色婷婷.com| 丰滿爆乳一区二区三区| 无码yw| 亚洲精品网站色视频| 欧美婷| 99视频在线观看网址| 国产在线中文字幕| 精品欧美一区二区三区久久久 | 丁香熟女乱| 色五月婷婷av| 丁香五月在线视频黑人| 99.N在线视频| 欧美精品XXXXBBBB| 色婷婷综合丁香五月天| 熟女色专区| 五月天婷婷自拍图片在线观看| 天天檫天天爽| 91婷婷搞| 婷婷大香焦| 99玖玖视频| 九九综合视频在线观看| 97色色在线视频| 色五月六月| 色九月综合| 九九Av| 国产色色色色| 婷婷色网| 五月丁香A片| 婷婷开心深爱五月天| 五月色色激情网| 丁香五月电影| 久久精品日| 五月深爱婷婷| 亚洲国产成人在线| 97成人视频| 这里只有视频精品| 色婷婷免费观看| 色吧网综合| 99色啊| 超碰色综合| 九九色video| 激情欧美婷五月| 综合色五月天| 婷婷五月综合色中文字幕| 丁香五月色情| 五月天婷婷基地综合网| 色五月色开心开心五月| 亚洲综合干| 亚洲五月婷婷| 91久久九九| 五月噜噜| 亚洲免费看片| 99久久久99久久91熟女| 99久久99久久| 久久影视婷婷五月| 国产精品热搜丁香五月婷婷| 搡BBBB搡BBB搡五十| 久久99精品久久久久久噜噜| 丁香五月六月婷婷殴美综合| 色色欧美色色色| 99爱这里只有精品| 五月天婷婷久久| 久久婷婷亚洲| 爱久综合| 亚洲操逼片| 婷婷成人五月天成人文学小说| 欧美日韩精品人妻狠狠躁免费视频| 亚洲色五月| 婷婷永久在线| 91AV婷婷| 99九九久久| 大香蕉520| 婷婷黄色| 91久久久久久久| 久久新地址| av久热| 日韩九区| 99热福利| 色丁香五月婷婷| 精品国产va久久久久| 开心五月激情网| 狠狠色婷婷7| 另类天堂| 91丨熟女丨首页| 99热精品在线| 五月天色婷婷视频| 伊人网色婷婷五月天| 天天摸日日舔狠狠添婷婷婷| 婷婷五月天天| 久久这里有精品视频在线免费观看| 狠狠干.com| 欧美啄木乌丝袜人妻系列| 91免费试看| 天天色天天日天天舔| 久99热在线观看| 91超级碰碰碰| 五月婷伊人| 91呦呦呦| 97操碰在线视频| 亚洲AV成人片无码网站| 色99在线| 日日夜夜小色哥| 五月婷婷六月丁香首页| 99激情在线| 有码人妻久久| 婷婷五月天最新网址| 停婷丁五月在线| 色播综合| 亚州在线中文字幕| 亚洲人妻一区二区| 中文字幕第四色.999| 九九久久网| 五月天激情影院| 色五月在线观看| 天天舔天天| 一区二区三区XXXXXX| 九九香蕉网| 五月综亚洲| 91av视频在线观看最新网址| 丁香九月婷婷| 超碰狠狠色| 五月婷婷色播| 中文字幕无码人妻少妇免费视频 | 97久久久久| 国产偷人爽久久久久久老妇APP| 五月激情五月婷婷五月天在线| 亚洲婷婷久久综合| 欧美性做爰大片免费看办公室| 五月天另类小说久久小说网| 99热在线中文字幕| 日韩综合成人| 婷婷五月丁香六月| 久久婷婷亚洲五月天| 99热天堂| 久99婷婷色综合| 97婷婷狠狠| 六月丁香五月激情婷婷| 伊人超碰| 五月丁香六月婷婷亚洲| 激情av在线| 琪琪色综合网站| 91午夜激情| 亚洲综合网激情小说| 2020日日干| 激情五月婷婷综合网| 9久热| 婷婷五月噜噜| 天天综合亚洲综合网天天αⅴ| 三年高清大片免费观看国语| 五月婷婷色影院| 五月天,激情四射,婷婷频道| 久久久久婷婷五月热综合| 激情综合网站| 亚洲12p| 久久久性爱视频| 日本狠狠色| 五月丁香六月婷婷玖玖| 丁香无五月网| 91九色国产| 久久久久久久久久久月丁| 青草视频在线播放| 欧美成人日韩| 五月婷婷六月开心| 久久成人天| 伊人国产婷婷五月天| 国产色丁香| 婷婷成人网五月天| 日韩ac不卡无码| 婷婷五月大香蕉| 97超碰在线免费观看| 美女伊人久久| 亚洲AV无码成人精品电影| 91免费试看| 九热av| 国产黄色大片| 国产乱轮一区二区三区| 国产古装妇女野外A片| 思思热这里只有精品| 色综合大香蕉| 亚州操操| 激情六月天| 亚洲性色XXXXX| 色色丁香五月婷婷| 丁香五月综合福利视频导航| 国产伊人五月天| 婷婷五月天成人五月天| 欧美日韩国产一区二区| 欧美日韩五月婷婷| 五月天丁香综合在线| 激情婷婷综合网| 青青草网武则天| 精品一区二区三区三区| 色婷大香蕉| 91久久九九| 亚洲视频1区| 婷婷久久影院| 五月天丁香成人| 色婷婷中文| 噢美99| 91VIP在线观看| 99久久婷婷五月| av操一操| 色射影院| 五月丁香综合激情在线观看| 人妻乱码久久久| 好好日激情五月天| 五月丁香久久激情网| 欧美英丁香开心快乐六月天网| 操丝袜视频影院导航| 成人九九视频| 99精品在线观看视频| 99热天堂| 可以直接看的av| 99热思思| 天堂成人A片永久免费网站| 99精品成人无码A片观看金桔| 国产黄大片在线观看画质优化| 狠狠婷婷色综合| 天天日天天久久青青| 亚洲AV无码电影| 婷婷五月天亚洲综合| 成人视频一区| 丁香五月婷婷激情网| 日熟女| 九九视频免费| 婷婷综合六| 天天日天天舔| 丁香五月性爱| 五月婷婷婷色| 人人97碰| 深爱激情中文五月天av| 综合色五月天| 亚洲色婷婷| 色爱综合网| 国内熟女黄色系列| 久99精品视频| 国产精品电影| 91人妻视频| 五月 成人 婷婷| 婷婷五月天激情网| 日韩AV无码影片| 日韩欧美老妇性视频91久久久| 婷色五月| 久播影院免费观看电视剧大全最新网| 综合99综合久久久久久久| 综合色播| 五月天天综合| 久久婷婷丁香六月天| 91狠狠色丁香婷婷综合久久精品| 激情综合五月丁香六月婷婷| 开心婷婷中文字慕| 开心五月深爱五月| 中文字幕丰满孑伦无码专区| 色99视频| 五月激情在线| 丁香婷婷久久五月天| 婷婷五月天视| 色情五月天丁香社区| 婷婷婷婷婷婷婷婷婷婷丁香| 一起草无码视频| 亚洲婷婷基地| 免费看片在线观看| 九九草热在线观看| 99人人干| 91丨九色丨43老版熟女| 婷婷久久色| 亚洲AV无码电影| 六月婷婷色五月| 狠狠干,狠狠操| 婷婷五月综合色拍| 丁香五月Av| 蜜臀av 粉嫩av 懂色av | 婷婷五月激情视频| 四川BBB搡BBB爽爽视频| 第四色色六月色综合| 婷婷五月色情天| 大香蕉人在线65| 这里只有精品1| 色插人人| www.夜夜騎夜夜狠| 91无码色色| 狠狠色综合777| 色色五月丁香| 五月婷婷干干干| 91丨九色丨国产打屁股| 色综合久久99色| 操操自拍| 国产精品操| 久久伦乱| 激情五月综合| Caop在线| 天天干天天操天天射| 伊人九九综合| 五月婷婷|欧美| 丁香五月激情网| 色婷婷五月天| 五月婷啪啪| 亚洲综合成人网| 99re热视频这里只有综合亚洲| 九九热中文| 久久99婷婷| 国产成人网址| 26uuu四色| 久久小说| 天天操天天日天天操| 国产原创视频91九色| 99爱视频在线播放| 97日本在线| 成人电影在线免费试看| 五月丁香精品| 99热这里只有精品8| 91丨熟女丨首页| 免费无码毛片一区二区A片| 2w在线视频| 丁香五月天婷婷大香蕉| 五月婷婷日| 成人片在线播放| 99这里只有精品| 日韩人妻操逼视频| 丁香香蕉婷婷| 婷婷五月天av| 欧美色六月婷婷| 色情激情五月婷婷| 亚州操操| Xx色综合| 久久久久9久无码视频| 丁香六月色婷婷| 九九十99视频| 婷婷六月色| 三级成人网站| 99热日本精品| 久久久香| 久草五月天电影网| 国产黄色av| 五月天色婷婷图片| 婷婷狠狠狠爱| 日本色五月| 五月花综合网| 97久久综合网| 色呦呦美女| 欧美色骚婷婷五月天| 色色五月婷婷网| 丰满人妻一区二区三区| 久婷婷五月丁香在线观看| 1024操逼| 综合久久高清| 色视五月天婷婷| 91怕怕网| 丁香五月婷婷基地| 激情小说视频图片| 久久在这里99| 婷婷.com| 久久综合中文| 天天色天天色天天色天天色天天色| 久久亭亭电影| 九九热最新| 亚洲成人五月| 99热大全在线观看| 丁香五月www| 97色碰| 丁香六月激情国产| 伊人丁香六月婷婷| 免费人人操| 色色色综合| 亚洲碰碰碰| 热的无码综合视频| 精品视频网| 熟妇无码乱子成人精品| 99色在线观看视频| 99热这里只有精品50| 中文字幕,综合,91| 超碰日韩成人| 婷婷天天日婷婷| 丁香五月激情啪啪| 激情久久四色| 182TV亚洲| 亚洲视频在线网站| 另类激情中文| 五月天社区婷婷丁香社区| 丁香六月婷婷综情欧美| 欧美日韩国产成人在线| 被强行糟蹋的女人A片| 久久综合五月天| 这里只有精品69| 99久久a线观| 91丨九色丨高潮丰满日本| 婷婷综合国产| 午夜性做爰电影| 综合大香蕉| 99爱在线精品视频免费观看| 九九视频这里是精品五月| 久久玖玖综合| 丁香婷婷五月天校园春色| 色五月婷婷1| 99热最新国内| 亚洲视频一区| 丁香婷婷六月| 9999久久久久| 激情五月色婷婷| 亚洲综合激情五月| 五月丁香色婷婷综合| 成人婷婷深爱综合网| 久久婷婷亚洲| 亚洲色碰| 91九色视频| WWW,五月| 九月婷婷激情| 偷拍91九色| 久久jiuwww| 丁香五月天亚洲综合| 亚州男人天堂婷婷五月| 思思w99| 97干在线免费| 亚州激情网| 国产亚洲色婷婷久久99精品91| 久久人妻高清中文| 欧美激情xxxXX| 婷婷天天舔| 天天做天天爱天天爽在| 五月六月婷婷激情网| 91五月天| 天天弄天天爽| 五月色情婷婷开心五月色情| AV免费在线网站| 综合色天天| 国产精品久久..4399| 无码激情AAAAA片-区区| 伊人综合色干| 久久99成人性爱高清视频| 夜夜爱网站| 九九精品系列| 天色综合网站| 色五月婷婷丁香五月| 激情久久月| 婷婷色天香| 久久久婷婷| 久re热视频| 五月天婷婷基地| 开心激情婷婷| 99热每日| 97婷婷丁香五月天激情图片| 九九re精品视频在线观看| 婷婷桃色网| 色青青视频| 九九热精品| 久久色五月天| 婷婷丁香成人五月天| 日逼AV影音先锋男人资源站| 激情五月丁香婷婷夜夜操| 日婷婷| 婷婷综合玖玖五月| 激情的五月| 依人大香蕉| 婷婷五月激情欧美| 成人丁香| 丁香五月综合激情久久潮喷| 丁香桃色综合网| 免费AV播放| 丁香色婷婷| 亚洲啪啪视频| 小泽玛利亚视频一区二区| 婷婷五月天欧美图片在线播放电驴| 青青草国产亚洲精品久久| 男人的天堂999| 色婷久| 亚洲第一av| 色婷婷五月天视频网站| 香蕉曰比| 青青草婷婷综合五月| 成人片黄网站色大片免费毛片| 成人va在线观看视频| 婷婷日欧美在线观看| 久久久亚洲成人无码A片| 色久五月| 婷婷不干网| 1024操逼视频| 久99久热| 色婷婷综合久久久久| 五月色丁香| 色色色色色五月| 人人摸人人| 在线99色| 激情久久久久久久久久久| 五月激情丁香久久综合网| 九九九九精品精| tingting五月天亚洲| 99色在线视频| 欧美精品999| 91九色精品女同系列| 亚洲熟女色| 91精品国产99久久久久久天美| 狠狠爱婷婷丁香| 99福利导航| 欧美日韩999| 激情五月天小说网| 熟女91九色| 色狠狠色| 久久婷婷成人视频| 成人做爰A片免费看视频| 久热这里这里有精品| 免费观看18视频网站| 91dy.av| 五月天大香蕉av| 五月丁香久久丝袜啪啪| 五月丁香亚州综合网| 亚洲va在线∨a天堂va欧美va| 丁香五月婷婷激情完整版| 99免费| 色丁香五月天| 人妻人人操| 久色网五月| 1024AV视频| 婷婷六月天| 婷婷天堂站| 五月天激情网站| 五月婷婷久久爱| 亚洲成人综合网在线免费观看| 五月婷婷丁香五月| 91性高潮久久久久久久久| 天天爽夜爽| 99色热综合| 欧美网站视频4399| 亚洲日日操| 噜噜噜色噜噜| 影院久久久| 日韩黄黄| 操逼在线视频| 9伊人网| 五月天伊人| 成人五月天在线观看| 丁香五月天AV在线| 123草逼网| 五月天激情小说电影| 91聚色综合网| 91人人网| 夜夜操少妇| 丁香五月婷婷欧美激情-中文天堂最新版在线观看 | 色噜噜伊人| 色吧网综合| 99免费热视频| 激情综合色网| 91无码色色| 激情床戏| 亚洲激情色色| 色综合狠狠色| 中文字幕按摩做爰| 婷婷操婷婷干婷婷射| 天天日日夜夜爽| 日本9区视频| 99色网站| 六月合五月婷| 国产99精品免费视频|