99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

RouteScope:網(wǎng)絡(luò)路徑探測(cè)與可視化實(shí)戰(zhàn)

RouteScope:網(wǎng)絡(luò)路徑探測(cè)與可視化實(shí)戰(zhàn) RouteScope 這個(gè)名字最初只是我電腦里一個(gè)不起眼的工具腳本名意思是“把路由路徑放進(jìn)觀測(cè)視野里”。后來它慢慢變成了我處理網(wǎng)絡(luò)故障時(shí)最先打開的東西一條命令把從本機(jī)到目標(biāo) IP 之間每一跳的設(shè)備、延遲、丟包和 AS 歸屬全部拉出來再按時(shí)間軸回放對(duì)比。這篇文章就圍繞 RouteScope 這個(gè)項(xiàng)目聊聊我為什么做它、路徑探測(cè)的原理是什么、怎么用 Python 搭一個(gè)能用的原型以及落地過程中踩過的那些坑。如果你想排查“ping 通但業(yè)務(wù)卡”“延遲忽高忽低”“路徑莫名繞路”這類問題或者想給自己的監(jiān)控體系補(bǔ)上“路徑可視化”這塊拼圖這篇內(nèi)容應(yīng)該能幫你省不少時(shí)間。1. 做 RouteScope 之前先想清楚它要解決什么問題1.1 ping 通不等于鏈路健康很多朋友排查網(wǎng)絡(luò)問題有個(gè)習(xí)慣先 ping。ping 通就覺得鏈路沒問題然后開始查服務(wù)器負(fù)載、查數(shù)據(jù)庫(kù)慢查詢、查應(yīng)用日志折騰半天沒結(jié)論最后才發(fā)現(xiàn)問題出在中間鏈路上。我遇到過最典型的一個(gè)案例某地到云上業(yè)務(wù)的 TCP 連接頻繁超時(shí)業(yè)務(wù)方堅(jiān)持說網(wǎng)絡(luò)沒問題因?yàn)樗麄冊(cè)搭^ ping 目標(biāo)機(jī)房的 IP 一直是通的延遲在 10ms 以內(nèi)。但實(shí)際抓包發(fā)現(xiàn) TCP 握手的 SYN 包發(fā)出去之后ACK 回得非常慢而且丟包集中在特定時(shí)段。這種情況 ping 根本看不出來因?yàn)?ping 用的是 ICMP走的轉(zhuǎn)發(fā)優(yōu)先級(jí)和實(shí)際業(yè)務(wù)流量不一定一樣而且 ping 只告訴你“目標(biāo)通不通”根本不告訴你“路徑上到底哪一段出了問題”。1.2 RouteScope 的核心定位把 trace 從“命令”變成“視圖”傳統(tǒng)的 traceroute 能列出每一跳 IP但輸出是純文本信息太碎。你要自己盯著一堆 IP 判斷哪一跳異常還要手動(dòng)跑好幾次才能確認(rèn)路徑是否漂移。如果目標(biāo)路徑跨多個(gè)運(yùn)營(yíng)商、多個(gè)地域一次 trace 的輸出根本不足以支撐判斷。RouteScope 的定位就是把這些原始輸出變成結(jié)構(gòu)化的、可對(duì)比的、可告警的視圖。它做三件事把每一跳的 IP、RTT、丟包率、AS 歸屬整理成統(tǒng)一的結(jié)構(gòu)化數(shù)據(jù)多次探測(cè)結(jié)果按時(shí)間存儲(chǔ)能回放“路徑是否變了”“延遲是否在惡化”當(dāng)路徑變化、丟包率超過閾值時(shí)產(chǎn)生告警而不是等你肉眼去發(fā)現(xiàn)。簡(jiǎn)單說它解決的是“從 A 到 B 的網(wǎng)絡(luò)路徑到底走得好不好”這個(gè)問題的可觀測(cè)性。1.3 現(xiàn)有工具和我想要的差異市面上不是沒有類似能力比如 mtr、Grafana 的 Blackbox Exporter、各種商業(yè)網(wǎng)絡(luò)監(jiān)控產(chǎn)品。但我實(shí)際用下來都差點(diǎn)意思列個(gè)對(duì)比表更直觀工具/方案能看路徑能歷史回放能路徑變化告警部署成本我的痛點(diǎn)traceroute是否否極低純文本難對(duì)比mtr是否實(shí)時(shí)持續(xù)否極低數(shù)據(jù)沒落地?zé)o法回看Blackbox Exporter部分是配合 Prometheus是中默認(rèn)按探針拿 RTT路徑細(xì)節(jié)不足商業(yè)監(jiān)控產(chǎn)品是是是高貴且閉環(huán)難定制RouteScope 走的是“輕量、自助、能落庫(kù)”的路線核心探測(cè)邏輯很簡(jiǎn)單存儲(chǔ)用 SQLite 或 InfluxDB 都行告警直接對(duì)接現(xiàn)有的 Alertmanager 或者釘釘/郵件。它不追求替代商業(yè)產(chǎn)品而是補(bǔ)上“我自己可掌控的路徑觀測(cè)能力”這塊短板。1.4 為什么這個(gè)名字要帶 Scope名字里帶 Scope 有兩個(gè)原因。一是本意我要把路徑的“范圍”看清楚二是在 IPv6 的世界里 scope 本身就是一個(gè)技術(shù)術(shù)語鏈路本地地址fe80::/10是有 scope 的處理多網(wǎng)卡主機(jī)時(shí)要區(qū)分報(bào)文從哪個(gè)接口進(jìn)來。這個(gè)細(xì)節(jié)后文會(huì)專門講算是一個(gè)隱藏雙關(guān)。2. 路徑探測(cè)的原理讀懂每一跳的應(yīng)答2.1 TTL 耗盡機(jī)制路徑探測(cè)最底層的原理還是 TTLTime To Live。IP 報(bào)文每經(jīng)過一個(gè)路由器TTL 減 1減到 0 時(shí)路由器丟棄報(bào)文同時(shí)給源地址回一個(gè) ICMP Time Exceeded 報(bào)文。我們只要從 TTL1 開始逐跳發(fā)包就能讓路徑上每一臺(tái)路由器都“被迫”向我們報(bào)一次到。這里有個(gè)生活化的類比TTL 就像游戲里的體力值每過一個(gè)關(guān)卡扣一格血血扣完了關(guān)卡守衛(wèi)會(huì)喊一句“你出局了”并且告訴你“我是誰”。我們從第一關(guān)開始每一關(guān)都派人去送死就能把整條路線上的守衛(wèi)全部問出來。要注意這個(gè)機(jī)制依賴中間設(shè)備“配合”回 ICMP。如果設(shè)備禁用了 ICMP Time Exceeded 的發(fā)送那這一跳就會(huì)顯示為*但不代表設(shè)備不存在。后面我會(huì)講怎么區(qū)分“設(shè)備不回”和“設(shè)備真的掛了”。2.2 ICMP、UDP、TCP 三種探測(cè)方式實(shí)際寫探測(cè)邏輯時(shí)不可能只發(fā) ICMP Echo Request那樣目標(biāo)往往直接回 Echo Reply中間跳的 TTL 超時(shí)信息也能拿到但很多網(wǎng)絡(luò)設(shè)備對(duì) ICMP 的限速最狠丟包率看起來很高容易誤判。所以一般有三種探測(cè)方式方式發(fā)送的包期待的回包優(yōu)點(diǎn)缺點(diǎn)ICMP EchoICMP Echo RequestTime Exceeded / Echo Reply目標(biāo)容易識(shí)別中間設(shè)備限速嚴(yán)重容易誤報(bào)丟包UDPUDP 到高位端口Time Exceeded / Port Unreachable傳統(tǒng) traceroute 方式較“友好”某些防火墻直接靜默丟棄 UDPTCP SYNTCP SYN 到指定端口Time Exceeded / SYN-ACK能探測(cè)特定服務(wù)的可達(dá)性需要 root 權(quán)限構(gòu)造 TCP 包我實(shí)際用得最多的是 UDP因?yàn)樗罱咏鼈鹘y(tǒng) traceroute 的行為而且不容易被中間設(shè)備針對(duì)。但如果目標(biāo)主機(jī)的防火墻把高位 UDP 端口全封了最后一跳會(huì)一直顯示*這時(shí)就得切到 TCP SYN 去確認(rèn)目標(biāo)本身是否可達(dá)。2.3 路徑漂移與多路徑還有一個(gè)容易忽略的問題同一時(shí)刻、同一對(duì)源和目標(biāo)路徑不一定是唯一的。很多骨干網(wǎng)會(huì)用 ECMP等價(jià)多路徑做負(fù)載均衡同一個(gè) TTL 的多個(gè)探測(cè)包可能走到不同的下一跳。如果只發(fā)一個(gè)包你看到的只是“某一條路徑”下次再發(fā)可能就是另一條。這會(huì)導(dǎo)致一個(gè)非常誤導(dǎo)人的現(xiàn)象兩次 trace 的結(jié)果不一樣中間多了或少了一跳看起來像“路由繞路了”其實(shí)只是負(fù)載均衡把流量分?jǐn)偟搅瞬煌溌飞?。RouteScope 的應(yīng)對(duì)策略是同一個(gè) TTL 連續(xù)發(fā)多個(gè)探測(cè)包統(tǒng)計(jì)這一跳返回的所有不同源 IP。如果多個(gè)結(jié)果不一致就把這個(gè) TTL 標(biāo)記為“多路徑節(jié)點(diǎn)”而不是簡(jiǎn)單地覆蓋上一次的結(jié)果。這個(gè)設(shè)計(jì)非常重要也是我早期踩坑踩得最狠的地方。2.4 AS 歸屬與地理位置把每一跳的 IP 打上 AS 編號(hào)是 RouteScope 比普通 traceroute 好用很多的地方。AS 全稱 Autonomous System自治系統(tǒng)你可以把它理解成一個(gè)“網(wǎng)絡(luò)機(jī)構(gòu)的世界語編號(hào)”??吹铰窂綇腁S13335跳到AS4134你能立刻知道流量從一個(gè)運(yùn)營(yíng)商網(wǎng)絡(luò)切到了另一個(gè)或另一個(gè)機(jī)構(gòu)網(wǎng)絡(luò)路徑是否在跨網(wǎng)繞路一目了然。地理位置信息反而要看場(chǎng)景。IP 地理定位庫(kù)的準(zhǔn)確度參差不齊我一般只把 AS 和幾個(gè)粗粒度標(biāo)簽比如“骨干網(wǎng)內(nèi)”“國(guó)際出口”“云廠商接入點(diǎn)”作為參考不拿它當(dāng)精確判斷依據(jù)。3. 用 Python Scapy 寫一個(gè)最小可用的 RouteScope 原型3.1 為什么先選 Python 和 Scapy做原型階段我選了 Python Scapy原因很實(shí)際Scapy 構(gòu)造和解析網(wǎng)絡(luò)包非常方便不用手動(dòng)拼 IP 頭和 ICMP 頭十幾行代碼就能實(shí)現(xiàn)一次探測(cè)適合快速驗(yàn)證思路。等邏輯穩(wěn)定了我再考慮用 Go 重寫一遍核心探測(cè)器因?yàn)?Scapy 在并發(fā)大流量下的解析性能和 GIL 限制確實(shí)是瓶頸但那是后話。先安裝依賴pip install scapy然后在 Linux 機(jī)器上跑因?yàn)槲倚枰?root 權(quán)限來構(gòu)造原始套接字。Windows 上也能跑但需要裝 Npcap而且某些防火墻行為會(huì)導(dǎo)致結(jié)果不如 Linux 直觀。macOS 需要給 Python 進(jìn)程額外授權(quán)稍微麻煩一點(diǎn)。3.2 單條路徑探測(cè)代碼實(shí)現(xiàn)我直接貼一個(gè)最簡(jiǎn)版只做一件事從 TTL1 到 TTL30每個(gè) TTL 發(fā) 3 個(gè) UDP 探測(cè)包把每一跳的 IP 和 RTT 收集起來。#!/usr/bin/env python3 import time from scapy.all import IP, ICMP, UDP, sr1 TARGET 1.1.1.1 MAX_TTL 30 PROBES 3 TIMEOUT 2.0 def single_probe(target, ttl, probe_id): # 傳統(tǒng) traceroute 會(huì)從 33434 開始遞增目標(biāo)端口避免探測(cè)包之間相互復(fù)用 dport 33434 probe_id pkt IP(dsttarget, ttlttl) / UDP(dportdport) start time.time() reply sr1(pkt, timeoutTIMEOUT, verboseFalse) rtt (time.time() - start) * 1000 if reply is None: return {ip: None, rtt: None, type: timeout} if reply.haslayer(ICMP): # ICMP type 11 是 Time Exceededtype 3 是 Port Unreachable return {ip: reply.src, rtt: rtt, type: reply[ICMP].type} return {ip: reply.src, rtt: rtt, type: reply} def trace(target): for ttl in range(1, MAX_TTL 1): hops [] for probe_id in range(PROBES): result single_probe(target, ttl, probe_id) hops.append(result) ips list({h[ip] for h in hops if h[ip] is not None}) status multi if len(ips) 1 else single print(fTTL {ttl:2d} | {status:6s} | {[h[ip] for h in hops]} | RTT {[round(h[rtt], 1) if h[rtt] else None for h in hops]}) if reply in [h[type] for h in hops]: print(Reached target, stopping.) break if __name__ __main__: trace(TARGET)這段代碼有幾個(gè)關(guān)鍵點(diǎn)值得展開目標(biāo)端口為什么要遞增如果每次都發(fā)同一個(gè) UDP 端口某些目標(biāo)主機(jī)會(huì)對(duì)同一個(gè)目的端口的行為進(jìn)行緩存后續(xù)包可能被直接丟棄或做特殊處理按 probe_id 遞增可以在一定程度上規(guī)避。sr1的 timeout 設(shè) 2 秒合理嗎對(duì)國(guó)內(nèi)跨網(wǎng)路徑2 秒基本夠用如果路徑非常擁堵或目標(biāo)很遠(yuǎn)可以提高到 3 秒。但 timeout 越久整個(gè) trace 時(shí)間越長(zhǎng)30 跳 × 3 次 × 2 秒最壞情況要 3 分鐘。實(shí)際工程里我會(huì)用并發(fā)發(fā)送的方式壓縮時(shí)間。判斷“到達(dá)目標(biāo)”不能只看 ICMP Port Unreachable因?yàn)榭赡苣繕?biāo)根本不開對(duì)應(yīng) UDP 端口要結(jié)合 type 3 和 type 11 一起看必要時(shí)用 TCP SYN 確認(rèn)。3.3 多路徑發(fā)現(xiàn)與數(shù)據(jù)聚合單跳探測(cè)只是基礎(chǔ)真正有價(jià)值的是把多次探測(cè)結(jié)果匯總。我在原型里加了一個(gè)聚合層對(duì)同一個(gè) TTL把多包返回的 IP 集合、RTT 最小值/平均值/最大值、丟包數(shù)都記錄下來。def aggregate_hops(results): aggregate [] for ttl_block in results: rtts [h[rtt] for h in ttl_block if h[rtt] is not None] ips list({h[ip] for h in ttl_block if h[ip] is not None}) loss sum(1 for h in ttl_block if h[ip] is None) aggregate.append({ ttl: ttl_block[0][ttl], ips: ips, rtt_min: min(rtts) if rtts else None, rtt_avg: sum(rtts) / len(rtts) if rtts else None, rtt_max: max(rtts) if rtts else None, loss: loss, multi: len(ips) 1 }) return aggregate這里要注意loss 不能簡(jiǎn)單等于“丟包數(shù)除以發(fā)包數(shù)”因?yàn)橹虚g設(shè)備可能只是限速 ICMP而不是真的丟業(yè)務(wù)包。所以我在界面上會(huì)把“探測(cè)包丟包率”和“業(yè)務(wù)實(shí)際丟包”分開展示避免誤導(dǎo)。3.4 結(jié)果輸出與簡(jiǎn)單可視化聚合后的數(shù)據(jù)我習(xí)慣轉(zhuǎn)成 JSON 落盤這樣后面不管接 Grafana 還是自己畫頁面都方便。{ target: 1.1.1.1, time: 2025-01-15T10:30:00Z, path: [ {ttl: 1, ips: [192.168.1.1], rtt_avg: 1.2, loss: 0}, {ttl: 2, ips: [203.0.113.1], rtt_avg: 8.9, loss: 0} ] }可視化我用的是 ECharts 的關(guān)系圖把每一跳當(dāng)成一個(gè)節(jié)點(diǎn)相鄰 TTL 的節(jié)點(diǎn)之間連一條線。如果某個(gè) TTL 存在多個(gè) IP就畫出多分支一眼就能看出路徑是否在負(fù)載均衡。節(jié)點(diǎn)大小按平均 RTT 映射顏色按丟包率漸變這樣“哪一跳在抖”非常直觀。4. 從原型到可落地工具的四個(gè)細(xì)節(jié)4.1 探測(cè)頻率與并發(fā)控制原型跑起來之后不能直接每秒鐘跑一次。對(duì)公網(wǎng)目標(biāo)高頻發(fā)包輕則被目標(biāo)安全策略封禁重則影響正常業(yè)務(wù)這一點(diǎn)必須克制。我的建議是默認(rèn)每 60 秒一輪完整路徑探測(cè)一條路徑一輪最多 30 跳 × 5 個(gè)探測(cè)包每包間隔 200ms 以上如果要縮短一輪時(shí)間用并發(fā)發(fā)送而非縮短間隔。并發(fā)發(fā)送可以用 Scapy 的sr()一次發(fā)多個(gè)包但要注意回調(diào)解析。實(shí)際跑下來30 跳并發(fā)一輪大約 5 到 8 秒能完成相比串行的 2 到 3 分鐘快太多了。不過并發(fā)時(shí)系統(tǒng)會(huì)瞬時(shí)產(chǎn)生一批原始套接字報(bào)文對(duì)本地網(wǎng)卡和 CPU 有一點(diǎn)壓力單機(jī)同時(shí)跑幾十個(gè)路徑?jīng)]問題不要貪多。4.2 IPv6、鏈路本地地址和 Scope 處理做 IPv6 探測(cè)時(shí)最容易被忽略的就是鏈路本地地址。如果用fe80::開頭的地址作為探測(cè)源或目標(biāo)Linux 內(nèi)核要求你同時(shí)指定scope也就是出接口比如fe80::1%eth0。Scapy 里構(gòu)造 IPv6 包時(shí)如果目標(biāo)字段帶%后綴需要先把接口名解析出來。from scapy.all import IPv6, UDP, sr1 import socket def build_ipv6_target(addr_with_scope): if % in addr_with_scope: addr, iface addr_with_scope.split(%) # 構(gòu)造報(bào)文時(shí)通過 iface 參數(shù)指定出接口 return addr, iface return addr_with_scope, None這個(gè)細(xì)節(jié)和 RouteScope 的名字意外契合scope 在 IPv6 世界里就是一個(gè)真實(shí)存在的概念。如果處理多網(wǎng)卡主機(jī)不處理 scope探測(cè)包可能從錯(cuò)誤的接口發(fā)出去導(dǎo)致路徑完全不對(duì)。我在一臺(tái)雙網(wǎng)卡服務(wù)器上踩過這個(gè)坑排查了半天才發(fā)現(xiàn)是源地址選擇問題。4.3 數(shù)據(jù)存儲(chǔ)與趨勢(shì)告警原型階段數(shù)據(jù)存在 SQLite 就夠表結(jié)構(gòu)很簡(jiǎn)單核心字段就是target、timestamp、ttl、ips、rtt_min、rtt_avg、rtt_max、loss。如果要長(zhǎng)期存儲(chǔ)多個(gè)監(jiān)測(cè)點(diǎn)再遷移到 InfluxDB我自己的經(jīng)驗(yàn)是按target timestamp ttl作為 tag 和 field 的組合查詢性能最好。告警邏輯我拆成兩個(gè)規(guī)則路徑變化告警當(dāng)任意一跳的 IP 集合與上一個(gè)時(shí)間窗口完全不同且不是由于多路徑正常輪換時(shí)說明路徑發(fā)生了切換質(zhì)量劣化告警連續(xù) 3 輪探測(cè)中同一跳丟包率超過 10% 或平均 RTT 超過歷史基線的 1.5 倍。第一個(gè)規(guī)則特別有用。很多時(shí)候業(yè)務(wù)卡頓不是因?yàn)閹挷粔蚨锹窂奖磺械搅艘粭l繞遠(yuǎn)的鏈路上RTT 從 20ms 變成 80ms。路徑變化告警能第一時(shí)間告訴你“網(wǎng)絡(luò)路由可能變了”這時(shí)候再去看 BGP 或運(yùn)營(yíng)商側(cè)的信息方向就對(duì)了。4.4 安全邊界只讀探測(cè)也有合規(guī)紅線這點(diǎn)必須單獨(dú)說。路徑探測(cè)是只讀操作但它不是無副作用的過多的探測(cè)流量會(huì)對(duì)中間設(shè)備和目標(biāo)產(chǎn)生負(fù)載。我不建議對(duì)非授權(quán)目標(biāo)做高頻長(zhǎng)時(shí)間探測(cè)尤其不要用 RouteScope 去“巡檢”別人的公網(wǎng)服務(wù)器。如果要在公司內(nèi)部部署先確認(rèn)探測(cè)目標(biāo)屬于自己或合作方在合理范圍內(nèi)使用。另外構(gòu)造原始 IP 包需要較高的系統(tǒng)權(quán)限這本身就是一把雙刃劍。工具本身是網(wǎng)絡(luò)診斷用途但一定要控制部署面別讓腳本落到不相關(guān)的人手里。我自己的原則是生產(chǎn)環(huán)境的探測(cè) Agent 只跑在公司監(jiān)控網(wǎng)段目標(biāo)列表白名單化不做任意 IP 探測(cè)。5. 實(shí)操過程里踩過的坑和排查速查表5.1 常見異常現(xiàn)象速查表工具做到后面真正值錢的是“遇到問題知道怎么排查”。我把踩過的坑整理成了一張表每次新環(huán)境出問題先對(duì)著它查現(xiàn)象可能原因處理辦法從某跳開始全是*中間設(shè)備限速 ICMP或不回 Time Exceeded增大 timeout換成 TCP SYN 探測(cè)對(duì)比多輪結(jié)果兩次 trace 路徑差一跳ECMP 負(fù)載均衡導(dǎo)致路徑漂移增加同 TTL 探測(cè)包數(shù)量標(biāo)記為 multi不要當(dāng)故障目標(biāo)可達(dá)但 traceroute 不完結(jié)目標(biāo)防火墻丟棄 UDP 高位端口用 TCP SYN 到 80/443 端口確認(rèn)腳本報(bào) PermissionError原始套接字需要 root 權(quán)限sudo運(yùn)行或給進(jìn)程加CAP_NET_RAW探測(cè)延遲很高但業(yè)務(wù)正常ICMP 被 QoS 降級(jí)不代表業(yè)務(wù)路徑差用業(yè)務(wù)端口做 TCP SYN 探測(cè)交叉驗(yàn)證IPv6 路徑探測(cè)不通鏈路本地地址缺 scope 或源地址選擇錯(cuò)誤顯式指定出接口檢查路由表虛擬機(jī)上探測(cè)結(jié)果異常虛擬交換機(jī)/安全組過濾 ICMP換物理機(jī)或調(diào)整安全組規(guī)則5.2 一次“第二跳丟包 80%”的排障實(shí)錄舉一個(gè)實(shí)際例子。有段時(shí)間監(jiān)測(cè)數(shù)據(jù)顯示從辦公網(wǎng)到某個(gè)云廠商接入點(diǎn)的路徑上第二跳丟包率高達(dá) 80%但是第三跳以后丟包率卻接近 0。第一反應(yīng)是第二跳設(shè)備出了嚴(yán)重問題但是結(jié)合業(yè)務(wù)實(shí)際訪問又似乎沒有明顯故障。后來我同時(shí)跑了三條探測(cè)一條 ICMP、一條 UDP、一條 TCP SYN結(jié)果 ICMP 路徑顯示第二跳丟包嚴(yán)重UDP 路徑相對(duì)正常TCP SYN 路徑幾乎不丟。這就說明第二跳設(shè)備大概率只是對(duì) ICMP 限速比較狠而不是轉(zhuǎn)發(fā)有問題。再配合設(shè)備側(cè) SNMP 接口計(jì)數(shù)確認(rèn)物理鏈路沒有 CRC 錯(cuò)誤最終判定這是“假丟包”。這個(gè)案例給我的教訓(xùn)是任何單協(xié)議的單次探測(cè)結(jié)果都不能直接當(dāng)結(jié)論。RouteScope 的聯(lián)動(dòng)多協(xié)議探測(cè)能力就是我對(duì)比之后專門加進(jìn)去的。現(xiàn)在遇到異常我會(huì)先看“是不是所有探測(cè)方式都丟包”如果只有一種協(xié)議丟基本可以判定是設(shè)備策略導(dǎo)致的探測(cè)噪音。5.3 探測(cè)時(shí)間窗和基線問題另一個(gè)容易忽略的問題是“用什么時(shí)候的數(shù)據(jù)做基線”。很多告警系統(tǒng)第一次接入時(shí)會(huì)立刻建立基線但如果路徑一開始就是劣化的基線本身就不健康后續(xù)永遠(yuǎn)不告警。我在初始化 RouteScope 時(shí)會(huì)先跑 24 小時(shí)“觀察期”把這段時(shí)間的數(shù)據(jù)作為基線之后如果某跳 RTT 超過觀察期的 P95 一定比例才觸發(fā)告警。還有時(shí)間窗口粒度的問題。按 60 秒一輪的頻率單輪數(shù)據(jù)本身噪聲不小我計(jì)算告警用的是 5 分鐘滑動(dòng)窗口窗口內(nèi)有 5 輪數(shù)據(jù)去除最大值和最小值后再取平均這樣能過濾掉瞬時(shí)抖動(dòng)帶來的誤報(bào)。5.4 存儲(chǔ)膨脹控制路徑探測(cè)數(shù)據(jù)增長(zhǎng)很快如果一分鐘一輪、一輪 30 跳一臺(tái)機(jī)器監(jiān)測(cè) 20 條路徑一天就是 86 萬條記錄。雖然 SQLite 也能扛但查詢速度會(huì)變慢。我在實(shí)際使用中做兩級(jí)壓縮原始逐輪數(shù)據(jù)只保留 24 小時(shí)超過 24 小時(shí)后聚合為 5 分鐘一條的摘要超過 30 天后只保留每日的極值、均值路徑指紋。路徑指紋是我自己定義的一個(gè)字符串比如192.168.1.1|203.0.113.1|...|1.1.1.1專門用來快速判斷路徑是否發(fā)生變化。這樣歷史回放時(shí)不用查每一跳明細(xì)直接對(duì)比指紋就能知道哪天路徑改變了。6. 一點(diǎn)后續(xù)可以繼續(xù)擴(kuò)展的空間工具做到現(xiàn)在這個(gè)程度對(duì)我日常工作已經(jīng)夠用了但還有幾個(gè)方向可以繼續(xù)做深。一個(gè)是把多個(gè)監(jiān)測(cè)點(diǎn)數(shù)據(jù)放一起做橫向?qū)Ρ缺热鐝牟煌鞘蟹謩e探測(cè)同一個(gè)目標(biāo)能更準(zhǔn)確定位“問題出在哪個(gè)區(qū)域、哪段鏈路上”。另一個(gè)是接入 BGP 數(shù)據(jù)當(dāng)路徑變化告警觸發(fā)時(shí)自動(dòng)拉取路由表看看有沒有異常的前綴通告把“網(wǎng)絡(luò)路徑變化”和“路由源頭變化”關(guān)聯(lián)起來。這些進(jìn)階內(nèi)容我還在逐步完善等跑一段時(shí)間再整理出來分享。在你自己實(shí)際用的時(shí)候建議先小范圍跑一條核心業(yè)務(wù)路徑跑通再擴(kuò)不要一上來就全公司鋪開。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月婷婷欧美激情| 九九色影院| 新男人天堂人妻| 丁香五月六月婷婷怡红院| www久久艹| 久久人人妻| 五月丁香青草综合啪啪| 综合婷婷六月| 欧美影院婷婷| 99热99思午夜精品| 久草丁香婷婷1024| 99色婷婷| 月婷婷婷婷五月| 午夜性做爰电影| 天天狠天天叉| 天天艹天天综合网| 精品人妻一区二区三区四区不卡在| 丁香六月成人网| www.婷婷六月天| 丁香综合| 全部老头和老太XXXXX| 九热免费视频| 裸体美女丁香五月天。| 欧美成人精品一区二区| 激情五月婷婷综合视频| 天天爽天天爽天天爽天天爽天天爽| 国产女生爱爱AA| 婷婷久草| 色情婷婷| 色色色欧美| 婷婷在线视频| 激情亭亭五月| 91色涩| 偷拍视频五月天| 婷婷五月天AV网| 4399在线观看免费毛片| 九九大香蕉黄色影院| 婷婷五月丁香亚洲| 97五月婷| 79精品视频在线观看,| 色婷婷内射| 亚洲视频在线网| 嫩草AV久久伊人妇女超级A| 综合色色网| 色综合网综合| 天天干肏夜夜| 婷婷五月天亚洲丁香| 婷婷五月综合色中文字幕| 91九色小视频| 97色婷婷成人综合在线观看| 熟女91九色| 丁香九色不卡aaa| 精品人妻在线免费观看| 欧美三级视频| 成人免费视频一区| 日亚二欧美| 大香蕉在线观看9| 丁香五月激情图片婷婷| 色色色五月| 日本三级日本黄色| 99日本视频| 日笨久久网| 67194线路二在线观看| 一本色道久久88加勒比| 五月婷婷婷色| 亚洲一区二区无遮挡A片| 丁香伊人五月色婷婷五十路| 91九色 婷婷| 狠狠操天天操综合| 婷婷五月天美女视频| 99九九精品| 狠狠色婷婷777| 婷婷色五月激情强奸四射| 伊人九九综合| 天天爽爽日日做做| 亚洲麻豆乱码国产2028| 人妻内射视频| 久热99| 玖玖资源在线视频| 97在线观视频免费观看| 天天射色五月天| 影音先锋天天日| 久久九九婷婷| 青草网在线观看| 永久的网站AAAA | 久久99婷婷| 伊人网大香| 综合久久综合| 情涩婷婷五月天| 人草人人| 中文av网| 丁香五月色激情| 99在线爽| 丁香婷婷五月综合色情| 天天夜天天色天天| 婷婷五月激情丁香| 深爱激情五月网| 五月丁香婷婷综合| 91美女啪啪| 五月丁香网站| 丁香六月毛片| 超碰人人艹| 久久久中文| 九九色婷| 色情五月丁香| www一区二区三区| 欧美五月婷婷| 亚洲中文字幕av| 五月天久久色| 超碰在线91| 天天爱天天做综合| 激情综合婷婷| 99超级超级超级碰| 日日色五月天| 婷婷伊人综合中文字幕| 丁香五月综合狠狠| 丁香五月六月久久综合| 五月综合色| 国外亚洲成AV人片在线观看| 亚洲精品网址| 天天日,夜夜爽| www,五月天激情| 色五月天堂| www.色五月| 偷偷操99| 香蕉AV777XXX色综合一区| 91精品婷婷国产综合久久| 99久久九九视频| 99re热在线观看| 开心五月婷婷激情| 91日日日| 黄色AAAAAAA| 色婷婷小说| 伊人9999| 国产欧美日韩综合精品一区二区| 99人人干人人| 色亚洲激情| 九九综合精品| 婷婷午夜综合| 99热这里只有精品8| 91九色在线| 天天插天天射天天干| 色人久久| 欧美丁香婷婷五月天| 亚洲激情四射| 亚洲AV中文在线| 99国产这里只有精品| 99无码精品| 五月天久草| 婷婷色五月综合丁香| 久婷五月| 殴美日韩成人| 婷婷五月在线播放| 91人人人人人人人| 丁香婷婷在线| 丰满人妻一区二区三区| 婷五月丁香俺| www.五月丁香| 思思99热热热99| 991精品在线视频| 亚洲天堂制| 精品99爱免费视频在线观看| 久久XX| 伊人大香蕉在线视频| 久色国产| 色黄啪啪| 丁香五月第四色88| 五月久久丁香| 五月丁香在线综合| 欧美啪啪五月天| 欧美综合五月丁香六月婷| 婷婷在线播放| 欧美狠狠草| 一区二区成人电影| 成人在线不卡| 日本三级日本三级99| 九九伊人网| 丁香六月久| 欧美搡BBBBB摔BBBBB| 大香蕉网站,大香蕉综合| 色色色色网站| 久久99激情| 婷婷色综合av| 久热伊人| 色播五月天天| 91精品国产综合久久密臀| 五月丁香无码| 五月丁香六月婷婷啪啪| 思思热视频在线| 久久久久网站| 成人AV综合在线| 99re最新地址视频| 99爱在线免费视频| 成功精品影院| 九九热视频在线观看| 婷婷五月丁香香蕉| 国产乱妇无乱码大黄AA片| 亚洲亚洲人成综合网络| 蜜桃婷婷五月| a网站免费观看| 婷婷五月丁香影院| 天天狠狠色综合| 婷婷中文字幕版| 99亚洲视频| 丁香六月婷婷综合激情欧美| 伊人久久艹| 九色91国产| 免费看片在线观看| 操日本人妻视频| 丁香婷婷影院| 午夜丁香 婷婷| 天天网站天天爽| 99er免费在线观看| 日婷婷| 狠狠操狠狠色| 婷婷六月丁香五月| 婷婷亚洲五| 91妻人人爽人人看片| 岛国av电影网站| 去色色五月天| 色五月激情五月| 中国AV性爱观看| 丁香五月激情五月| 久热只有精品| 99色性爰网络| aaaaaa片| 一起操 91N.com| 天天射综合网站| 97色色色色色色色| 91精品视频男人的天堂| 伊人婷婷五月天| 五月婷婷久草在线视频综合| 啪啪一区| 久久蜜臀婷婷| 99自拍视频在线观看| 色综合性视频| 51XX午夜影福利| 久久99热网| 久久网思思| 超碰操日| 丁香激情网| 婷婷六月丁香欧美视频在线| 五月视频日本免费观看| 99热新网址| 亚洲国产精品VA在线看黑人| 99日本黄站| 色五月开心开心五月激情五月| 啪啪东京热| 婷婷丁香成人| 丁香五月天在线观看| 玖玖在线视频福利| 91久久九色| 五月激情在线| 欧洲亚洲免费视频9| 五月婷视频在线观看| 五月天综合在线观看| 天天爽人人综合免费7799| 亚洲婷婷性爱| 99爱视频| 1024国产| 久久久久人妻中文| 伊人日日干| 大香蕉婷婷五月天| 久久人人九| 欧美色图片88| 欧美槡BBBB槡BBB少妇| 丁香五月亚洲天堂| 婷婷色播六月无码| 伊人久久艹| 久久日曰| 99精彩视频在线观看| 99热66| 久久伊人9| 色五月婷色彩免播放器| 91精品91久久久中77777久久玖玖九九| 99久久99综合| 婷婷六月色| 色婷婷电影网| 丁香激情久久| 日韩999| 99热只有这里才是精品| 亚洲激情区| 婷婷色五月激情| 91成人电影| 月丁香久久久| 九九综合九色欧美狠狠| 在线观看日韩12345区| 色婷婷影院| 在线综合网| 色色激情网| 五月丁香激情综合啪啪| 噜噜狠狠色| 骚。com| 丁香五月综合亚洲| 五月婷婷丁香在线视频| 性天天中文网| 五月天激情小说欧美激情| 日日射天天射| 日韩精品无码99| 操逼福利视频| 丁香六月视频免费观看| 欧美激情综合色丁香婷婷五月天| 色五月aV| 97色婷婷五月天| 99色1| 激情亚洲五月| 久草xx性爱视频| 色婷五月| 狠狠做深爱婷婷久久综合一区| 婷婷综合网站| 天天狠狠夜夜狠狠2023| 五月天天爽| 色综合射婷婷| 婷婷97碰碰| 狠狠色狠狠| 无码激情| 亚洲V国产V欧美V久久久久久| 成人国产欧美大片一区| 大香久久综合网| 97热超碰| 色婷婷狠狠18禁| 九九精品网站| 五月婷婷精品视频| 久久婷婷综合五月天| 亚洲日日操| 五月天 无码| 色婷五月天| 色狠狠综合| 五月丁香激情综合| 一点色成人网| 99情色五月天| 色婷视频| www.婷婷网| 伊人日日干| 婷婷激情五月天在线| 久久狠狠干| 色综合婷婷| 五月丁香综合啪啪| 草草女人亚洲| www.99精品在线| 一级黄色影片| 六月色丁香中文字幕| 婷婷五月草| 夜夜 操无码| 色婷婷五月天| 色婷婷丁香社综合| 美臀自射自家人妻| 久久丁香综合| 99噜噜噜在线播放| 色热久| 色婷婷丁香五月丁香| 久久人妻久久| 色色国产| 激情五月,激情综合网| 久久视频66| 久久色五月天综合网| 婷婷99狠狠躁天天躁中| 婷婷在线网| 婷婷涩涩五月天| 密臀久久| 99天堂网| 欧美色色日韩| 婷婷色日本| 色99热| 天天揷综合网| 久久草大香蕉| 色婷婷精品视频| 搡BBBB搡BBB搡18| 激情AV中文| 丁香五月婷婷动漫| 97久久超碰| 国产av天天插天天操天天爽| 久久久com| 激情五月,激情综合网| 激情综合色| 97婷婷五月丁香| 高清无码.com| 久99久精品视频| 两性婷婷丁香五月| 另类图片激情五月天| 久re热视频| 97夫妻超碰| 激情综合在线观看| 婷婷视频在线| 色情综合网| 色情激情五月婷婷| 天堂婷婷丁香六月网| 久久色区| 色婷婷五月天成人网| 国产精品久久久久久五月天加勒比| 9九色首页| 五月婷婷啪啪啪啪| 久久五月天激情视频| 五月天激情图片| 久久女人九九| 99热无码| 中文字幕欧美日韩VA免费视频| 国产在线网址1| 欧美在线骚货| 色婷婷电影网| 亚洲网站999| 婷婷六月情| 男妓跪趴把舌头伸进我的嘴巴| 久久久www| 婷婷五月激情中文字幕| 日本乱论99| 六月丁AV| 久久久无码精品成人A片小说| 91操人人操| 丁香婷婷精品视频| 激情婷婷五月天| 91操片| 五月综合色| 综合久久五| 狠狠狠狠狠狠草| 激情婷婷五月天| 大香网伊人久久综合| PORNY九色9l自拍视频成人| 婷婷综合日本| 六月久久婷婷| 999热在线视频| 久草狼人| 黄色成人网站在线播放| 色色操| 超碰chaompinm| 亚洲六月婷婷| 激情综合色| 丁香婷婷网| 成人在线视频男人的天堂4399| 丁香六月婷婷激情| 婷婷伊人视婷婷婷| 激情五月天综合网| 97天堂| 99热在线观看免费| 九九综合五月欧美| 色婷婷www| 777米奇影视第四色| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 色婷婷免费观看| 影音先锋一区二区三区| 狠狠操天天干| 久久伊人日日夜夜| 激情五月天色色色| 久色大| 日本激情91| 伊人激情影院| 丁香五月影院| 日本一級黃色一級片| 五月丁香婷婷激激激综合网色播| 国产亚洲成人综合| 色婷婷丁香五月| 亚洲综合婷婷五月| 亚洲熟妇AV乱码在线观看| 婷婷五六日| 99riAV成人在线视频| 99乱视频| 激情四射五月天| 五月丁香久久| 淫荡综合网| 人人干人人操外国| 美女五月天| ji'qing'luan'ren'lun| 区啪精品| 婷婷五月丁香六月| 99自拍视频| 狠狠干综合| 岛国av电影网站| 人人插9| 婷婷午夜综合| 激情五月天无码| 人操91在线| 五月天婷婷激情在线色图| 91网站黄| 丁香五月婷婷欧美性爱| 久热黄色| 欧美亚洲婷婷五月| 77777亚洲午夜久久| 伊人99热| 亚洲激情高潮| 丁香花五月天社区| 伊人91| 五月天婷久精视频| 少妇激情五月婷婷| 激情久久肏屄视频| 婷久久久| 97在线精品| 婷婷五月草| 丁香五月婷婷性爱| 91精产一区三区免费观看| 婷婷色网| 激情综合99| 狠狠色婷婷7777久| 五月婷婷色啪| 五月丁香婷婷钟和色图| 激情五月天视频| 亚洲热热视频| 婷婷五月激情热播| 色综合偷拍| 国产古装妇女野外A片 | 美女婷婷六月色| 夜夜操加勒比| 五月丁香六月激情在线| 天天天天操| www.狠狠色.com| 高清不卡一区| 亚洲熟妇AV乱码在线观看| 91九色|疯狂|高潮|对白|| 婷婷综合网站| 丁香六月色情| 国产色丁香| 91pornav在线| 精品国产a| 免费无码毛片一区二区A片| 久久这里只有精品热在99| 婷婷五月天色色| 六月激情网| 熟女色色一区二区| 国产肥白大熟妇BBBB视频| 99久久激情视频| 色色99| 婷婷五月欧美综合| 亚洲色色在线| 亚洲精品色色| 91久久久久久久久| 91爱操| 丁香六月婷| 亚洲AV成人在线| 五月婷婷激情久久| 五月婷婷六月天| 婷婷激情社区| 五月丁香在线看| 色狠狠色噜噜噜a天堂一区| 狠狠 婷婷| 操操操操操操婷婷五月天| 变天就操逼婷婷五月| 婷婷五月色播天| 人妻丰满精品一区二区A片| 九九热最新| 色婷婷先锋| nvrentiantang av| 国产精品色色| 五月婷婷天堂| 九九99九九99偷拍视频免费看| 97欧美在线| 婷婷色av| 99免费视频在线观看爱| 五月天精品综合| 区区欧美你爱| 九九视频这里只有精品| 婷婷久久丁香| 五月丁香自拍| 亚洲综合在线视频| 丁香五月性爱| 性生生活大片又黄又| 亚洲精品字幕| 丁香婷婷六月| 久久99激情五月天| 9热在线视频精品| 天堂综合久久| 99综合在线| 国产成人综合网| 激情四射五月天偷偷看婷婷| 天天天天天色| 久久性爱视频久久性爱视频| 天天色天天日天天舔| 九九热精品99| 久久这里有精品| 亚洲成人一区| 色噜噜狠狠色综无码久久合欧美| 久久精品国产精品| 狠狠干狠狠操狠狠爱| 激情综合在线播放| 熟女激情网| 亚色网站小视频| 热久久国产视频| 欧美一级操逼视频| 99色婷婷| 免费观看全黄做爰的视频| 丁香操逼| www.婷婷六月天| 婷婷久久婷婷色五月| 色狠狠色狠狠| www,色婷婷| 91久久久久久| 久久天堂婷婷五月| 另类激情五月天。| 人妻精品久久久久久久| 日韩99视频| 大香蕉啪啪啪| cao久久| 99九九精品| 九九视频精品视频精品| 偷偷操99| 99在线精品免费视频| 第1影院之五月婷婷| WWW,色五月| 亚洲国产精品综合色区| 色综合色五月| 大香蕉AV电影在线| 玖玖色综合网| 天天天天色天天天天天干| 黄网在线播放| 日噜噜色| 青青草搞屄视频网站| 综合久久五月天| 97碰在线| av电影在线播放| 九九热这里只有精品5| 亚洲丁香五月在线观看| 久久五月天综合| 东北熟女视频99| 亚洲夜五月| 婷婷五月丁香六月综合网| 五月婷婷色| 色月丁| 五月社区丁香| 五月天婷婷在线观看| 六月丁香AV| 思思99热热热99| 亚洲热久久| A片试看120分钟做受视频红杏 | 久久亚洲激情五码| 熟女人妻一区二区三区免费看| 視频福利乱色| 五月丁香无码视频| 99网| 色五月婷婷五月丁香五月激情五月视频| 26uuu欧美日本| 另类小说五月天| 五月婷婷久久大香蕉| 99热99re6国产在线播放| 91丨九色丨东北熟女| 九九九九中文字幕| 涩涩网五月天| 五月天婷婷小说| 久久婷婷色色| 五月丁香网站| 啪啪操网| 色五月第四色| 五月婷婷很很色| 天天射夜夜爽| AA丁香综合激情| 4399在线观看免费高清黄色视频| 丁香五月天啪啪a日本| 江苏少妇性BBB搡BBB爽爽爽| 婷婷五月天天天日日夜夜| 另类精品视频在线观看| 六月婷婷七月丁香| 六月丁香激情网| www.夜夜爱.com| 国产99视频永久免费| 色色婷婷五月| 一区二区中文字幕| 狠狠操狠狠插| 26uuu淫色| 另类小说色婷婷| 色婷婷狠狠18禁| 日本三级中文字幕| 婷婷97碰碰| 99操久久| 996热| 色婷婷久久| 亚洲啪啪啪啪| 超碰人人操| 国内外色色色色色成人视频| 先锋影音av色五月天资源站| 丁香亚洲婷婷五月| 色六月 婷婷| 99热成人在线观看| 日韩AV免费| 99久热这里只有精品| 人妻六月天| 婷婷五月天视频亚洲| 五月天停婷基地| 婷婷五月天成人| 婷婷成人AV| 日日夜夜干| 中文字幕综合| 六月激情综合| 色。 日日日| 丁香五月婷婷免费视频| 婷婷色五月综合| 色天堂操| 欧美在线干| 色欲人妻综合aaaaaaaa网| 色综合天天综合成人网| www.狠狠狠.com| 欧美婷婷丁香社区在线播放| 五月婷婷中文字幕AV| 激情伊人网| 久久99久久99精品免观看粉嫩| 成人亚洲精品| www.zbzhongsen.com| 99精品这里只有免费视频 | 色色色综合网| 互月天综合| 91疯狂操操操操| 日韩亚洲视频| 人妻videos人妻高清| 美女久久天堂| 中文字幕丰满人妻无码专区| 五月天色婷婷激情综合| 婷婷丁香成人色综合| 五月婷婷激情五月| 激情网站五月| 天天干天天操天天爽| 丁香五月丁香伊人| 日韩在线成人电影| 五月天偷拍| 久久九九蜜| 丁香婷婷五月激情| 亚洲亚洲人成综合网络| 天天色噜| 亚洲色情免费网| 日韩黄色中文字幕| 偷拍91九色| 天堂爱爱| 五月婷婷九九久久| 婷婷午夜| 精品久久9| 我要色综合五月婷婷| 色五月,婷婷大香蕉| 色色色综合色| 亚洲综合激情五月久久| 乱女乱妇熟女熟妇综合网站| 激情骚五月| 久久99网站| 99视频在线| 色五月婷婷五月久久| 久久加勒比| 欧美大片| 六月丁香av| 日韩欧美一级大黄网站| 亚洲热手机在线观看| 日韩成人电泉AV| 国产成人综合网| av五月天婷婷丁香| 色色色综合视频| 激情熟女网| 亚洲亚洲人成综合网络| 婷婷色网站| 五月丁香色六月激情干大屄| 色综合色欲综合天天免费| 日本九九视频| 依人大香蕉在钱1| 综合久久婷婷| 久操福利| 婷婷天天日婷婷| 欧美综合丁香网| 丁香五月在线伊人| 91狠狠综合网| 五月天伊人久久| 91人在线观看| 五月婷婷综合激情网| 亚洲va欧洲va国产va不卡| 亚洲性爱99| www婷婷| A1片久久| 五月天激情图片网| 丁香五月瑟瑟| 日韩av一区二区在线/日产精品久久久 | 婷婷五月天影院| 久热这里只有精品在线| 激情五月天综合图片小说网站| 人人操99| 九九色热| 99日本精品视频热| 久久超级碰碰| 伊人九九综合| 色色综合激情| 九九精品少妇| 婷婷综合天堂| 人妻视频一区而且二区| 婷婷丁香久久网| 成人 在线观看国产| 操碰91| 99热国产这里只有精品| 久9热在线视频| 色欲午夜无码久久久久久张津瑜| 婷婷亚洲综合| 色爱亚洲| 亚洲成人五月天| 色五月第四色| 99久久五月婷婷| 五月天狠狠网| 久久人妻人人| 久久538| 91九色欧美| www.色五月| 亚洲五月天激情| 婷婷五月激情图片| 久久3p| 99色热视频| 色婷| 玖玖热视频| 婷婷成人五月天| 五月丁香网站| 丁香色婷婷五月天| 天天天摸夜夜夜玩| 播五月丁香六月| 五月天婷婷无码| 五月天激情网图片| 97操碰视频| 久碰视频| 欧美性猛交99久久久久99按摩| 欧美69久成人做爰视频| 青青草原亚洲久| 91在线观看九区| Av在线不卡一区| 综合久久综合综合| 96精品久久久久久久久| 五月婷婷色播视频| 欧美综合丁香网| 五月婷婷欧美激情| 日日噜噜夜夜狠狠久久丁香六月| 日本啪啪天堂| 日日夜夜干| 嫩草极品| 男人天堂AV在线一区二区| 久久WW| 开心五月六月婷婷| 亚洲狠狠狠色婷婷综合激情久久久| 激情综合网,五月| 色婷婷先锋| 色色射| 色综合九九| 四川BBB搡BBB搡多人乱亂| 中文字幕不卡网站| 99九九在线精品热动漫| 狠狠艹狠狠艹| 天天爽天天爽视频| 亚洲激情网| 亚洲妇女熟BBW| 亚洲无码黄色| 婷婷的激情五月| 国产日批视频| 欧美成人网99网| 精品人妻一区二区三区四区不卡在| 亚洲亚洲人成综合网络| 青青色com久久| caop在线视频| 丁香五月,激情五月,深爱五月| 日韩aaaaa| 高清无码网址| 久久精品噜噜噜成人A∨色欲| 九九aV| 久久婷婷五月综合色播| 婷婷娌伦网| 黄色三级毛片中字| 欧美三级黄色片久久| 噜噜噜噜噜日本视频| 深爱激情五月天色婷婷| 在线观看免费狠狠色丁香香综合| AV中文在线| 无码一级片| 丁香五月天激情网址| 亭亭五月天成人| 婷婷色在线| 欧美性生交A片免费看| 久久9精品视频| 久久性爱网站| 五月丁香激情综合| 97午夜一区二区| 九九久久精品| 玖玖热视频| 天天爽天天爽| 五月丁香婷婷色色色| 五月天久久www| 五月婷网| 4438成人电影| 99热在线这里只有精品| 丁香五月天啪啪| 丁香五月天社区婷婷| 狠狠干在线视频| 99热国产精品| 亚洲av无码影院| 日逼免费视频 | 久久婷婷五月综合| 9999三级片| 婷婷色情五月| 久草热久草在线视频| 1024人妻| 五月精品| 99热伊人综合| 午夜爱爱爱成人| 亚洲黄色影视| 久久9视频| 色情成人五月天| 超碰2021| 五月天五月色| 五月婷婷激情综合| 免费AV在线网址| 天天舔天天插天天干| 婷色五月天| 天天操B| 五月丁香自拍| 大香蕉伊在| 这里只有精品在线免费视频| 国产黄大片在线观看画质优化| www.色综合| 超碰在线观看9| 97碰碰人人视频| 五月激情久久综合网| 亚洲视频在线观看| 五月婷婷久久综合| 亚洲视频操| 天天综合 99久久婷婷| 久久久精品色色色| 90色免费视频| 五月婷婷激情综合视频| 狠狠操狠狠色| 精品皮股午夜AV| 成人五月丁香花| 久久人妻情侣| 免看黄大片AA | 婷婷综合五月激情| 丁香五月激情综合| 婷婷九月激情| 粉嫩AV久久一区二区三区| 欧洲激情五月天婷婷| 99久久9| 五月婷婷激情综合在线| 操碰91| 精品九九在线观看| 激情五月六月婷婷| aaa久久| 日本久久婷| 婷婷五月天激情网| 日韩黄色电影| 亚洲AV网址| www色色com| 日韩精品999| 天天操综合网| 五月丁香拍拍激情综合| 夜夜爽77777妓女免费下载 | 激情五月少妇| 婷婷六月天| 九色七七| 六月丁香花婷婷| 99操逼| 国产亚洲精品人人| 日韩精品AV一区二区三区| 99色丁香婷婷综合网| 91丨九色丨东北熟女| 激情五月综亚网| 热99玖玖99玖玖99九九| 日日夜夜狠狠操| www.99热视频| 996热re视频精品视频| 久99热| 男男野外做爰全过程69| 久9热插入| 日熟女| 五月开心婷婷网| 久久视频在线视频| 色五婷婷| 伊人久久大香网| 婷婷色影院| 26UUU精品一区二区c〇m| 久久久五月天网站| 国产精品电影| www.五月婷婷久久.com| 99免费超碰在线| 丁香五月天AV| 99热人人| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 伊人婷婷青青cao| 欧美色综合天天久久综合精品| 久久偷拍综合五月天| 婷婷色在线视频| 欧美激情五月天| 亚洲婷婷丁香五月在线| 五月丁香婷婷钟和色图| 日韩一级网站| 思思热在线视频观看精品| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 国产热精品| 伊人玖玖网| 欧美日韩成人| 亚洲丁香五月在线观看| 综合视频久久| 97日本在线播放| 亚洲在线综合| 婷婷夜夜夜夜| 99热老网站| www.wuyuetian啪啪| 97在线刺激| 激情美女五月天激情在线| 久久婷婷色综合| EEUSS鲁片一区二区三区| 一级二级色大片| 五月婷婷co.m| 日本成人综合| 刘玥精品一区| 26uuu精品一区二区| 久久A区B区| 五月丁香色婷婷伊人| 97精品综合久久内射| 囯产精品久久欠久久久久久九大| 亚洲中文乱字字幕在线永久| 天天日夜夜高潮| 五月激情婷婷偷拍| 免费视频无码| 色99在线观看| 日本ww亚洲| www.久久爱| 久草婷婷视频| 欧美色综合天天久久综合精品| 情色五月天网站| 婷婷色5月激情网| 久久色五月| 五月天停停日日| 久婷狼色诱惑在线| 激情丁香五月| 丁香花色色网| 激情婷婷六月天| 激情综合婷婷| 精品久热69| 日本三级第一页| 婷五月天天| 91碰| 思思久久精品| 婷婷激情五月综合在线视频| 婷婷丁香69精华| 怡春院久操| 九九久99免费视频| 爱久久小说下载网| 五月丁香六月天| 99在线69| 五月丁香啪啪婷婷| 天天操天天操天天操天天操天天操| 91碰碰视频| 婷婷久久天堂网| 综合aV在线| 无码少妇高潮喷水A片免费| 99精品在线| 久久色五月| 97热在线精品| 日日操日日撸| 丁香五月五月婷婷五月天激情四射| 五月婷婷这里都是精品| 国产老熟妇亲子乱对白| 免费操超碰| 久久女人九九| 超级碰碰99| 91日在线视频| 五月丁香婷婷色| 五月天综合网| 狠狠狠狠狠狠狠狠| 五月丁香淫淫婷婷婷| 去干网最新版本亚洲版| 97碰在线| 色婷婷综合久久久久| 色婷婷先锋| 婷婷五月综合色拍| 97干在线观看| 超碰操日| 99精品综合在线| 丁香五月亚洲综合丝袜| 久久婷婷老| 色都都狠狠色都都色综合色| 五月激情影院| 色播综合| 丁香色色网| 色婷婷丁香五月| 免费观看18视频网站| 99这里只有精品| 欧美成人AAA片一区国产精品 | 婷婷在线播放| 久草a片| 五夜丁香| 日韩九九| 久久伊人大香蕉| 最新高清无码专区| 2018夜夜草| 九九色video| 九九精品热播| 五月婷婷六月丁香综合| 欧美久热| 男人天堂亚洲综合| 婷婷综合五月天激情| 久久五月天黄色五月天色网址| 色吧五月婷婷六月丁香| 久久这里只有国产视频| 曰日爽日日操| 久久久精品人妻| 丁香狠狠色婷婷| 天天人人综合| 综合色五月天| 色婷婷激情五月天在线观看| 岛国av网站| 色婷婷97| 大香蕉久久| 超碰无码老师| 伊人玖玖精品| 那里有AV网址| 69激情小说| 天天操婷婷| 青青草成人网| 中文字幕一色哟哟哟哟| 日韩性爱无码| 黄网免费看| 色爱99| 日本人人xxx| 色狠狠色| 亚洲狠狠丁香婷婷香蕉| 777久久久| 人妻激情视频| 六月婷婷五月丁香首页| 丁香婷婷五月综合影院| www.97碰碰com| 丁香五月性爱| 亚洲免费综合一区| 1区2区视频| 五月婷婷偷| 人人视频人人干人人做| 六月婷婷五月天| 成人综合网站| 久久免费试看120秒| 欧美色婷婷| 思思国产99| 另类在线| 97人人干。| 天天日天天做天天舔 | 日韩国产在线精品| 91精产一区三区免费观看| 99色色网站| 婷婷久久色| 激情五月天婷婷| 九九99九九精品视频| 丁香六月婷婷久久高清| 国产淫熟妇| 久久99激情| 天天综合天综合久久网| 色五月天丁香| 五月情婷婷| 六月激情综合| 色月丁| 97色伦另类图片小说视频 | 1024婷婷综合久久五月天| 五月婷在线色视频| 99资源在线视频| www九九免费视频| 91美女被操| 天天日天天舔天天摸| 天天做天天爱天天综合| 免费精品99| 丁香五月综合久久综合| 五月丁香久久综合精品| AV大香蕉| 春色激情| 六月丁香综合| 精a品a| 国产XXXX搡XXXXX搡麻豆| caop在线| 性色五月天| 超碰操日| 日韩无码一区二区三区四区| 欧美日韩成人一区二区| 激情综合五月丁香六月婷婷| 婷婷国产综合| 超碰人人干| 狠狠九九婷婷韩| 激情激情激情网| 天天插天天爽| 黄网网站在线播放| 色色色色网站| 丁香社92视频| 久久这里99| 五月天婷婷视频| 超碰操日| 六月色狠狠色| 超碰在线91| 在线婷婷| 日韩在线视频中文字幕| 激情综合网站| 色综合综合网| 免费视频无码| 91Chinese在线| 亚洲久热无码| 四季8848精品成人免费网站| 99热综合在线| 1024国产| 丁香婷婷五月色成人网站| 99这里| 9色免费网| 五月网在线| 精品自拍97| 丁香5月婷婷| 九九99精品免费播放| 97干婷婷五月天| 国产精品日本一区二区在线播放| 久鲁鲁色网| 伊人色综合网| wWw色五月| 久久婷五月综合| 男人的天堂97| 丁香色情五月综合网站| 91呦呦呦| 99爱精品视频| 久久99久久99www| 99av视频| 五月天久久激情| 久久精品视频在这里有| 婷婷中文网站| 99热这里只有精品5| 9热在线观看| 色婷婷a| 人妻操日日| 五月婷婷婷丁香播| 99在线公开视频| 久99视频在线观看| av九九| www.五月丁香| 婷婷伊人激情婷婷| 人妻内射视频| 人人爽人人射-美女久久久久久久久久-成人AV| 日韩中文欧美| 大波美女VA网站| 六月成人网| 国产玖玖资源| 亚洲爱婷婷| 亚洲av网站| 久久香蕉网| 日本熟妇乱妇熟色A片蜜桃| 襙逼网| 超碰在线资源| 亚洲精品永久久久久久| 丁香婷婷五月六月久久| 成片免费观看视频大全| 婷婷激情五月天小说| 久久机热这里只有| 色综合播放| 开心婷婷中文字幕| 97碰在线视频| 色综合久久88色综合天天99| 色综合色色| 欧美S码亚洲码精品M码| 99九九精品视频| 久色88| 中文av网| 婷婷五月天99| 91 九色 入口| 日韩欧美颜射| 亚洲综合视频一下| 婷五月天| 久久香蕉网| 色五月开心开心五月激情五月| 激情婷| 91热在线| WWW激情五月天| 色婷婷色综合久久精品V| 色婷婷日本| 色色色777| 久久资源综合| 91超碰九色| 伊人丁香花综合影院| 情一色一乱一伦一91A| 深爱激情综合| 五月天婷婷五月| 色婷婷免费观看| 五月婷婷影院| 色五月丁香五月| 九九这里只有精品在线视频| 天堂网操| 欧美啪啪9|