99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐 很多朋友看到rea這個標(biāo)題時大概率會以為打錯了字或者覺得這是某個庫的縮寫。我要先坦白一件事——它最初真沒有什么標(biāo)準(zhǔn)全稱只是某天我在終端里隨手敲的三個字母用來命名一個空目錄。后來這個目錄慢慢長成了一個完整的資源效率分析工具Resource Efficiency Analyzer內(nèi)部代號縮寫就是rea專門負(fù)責(zé)采集服務(wù)器的CPU、內(nèi)存、磁盤與網(wǎng)絡(luò)指標(biāo)再把這些數(shù)據(jù)整理成實時看板幫我從被動救火式運維變成主動觀察式管理。這篇文章就把一個模糊標(biāo)題如何變成一個可運行系統(tǒng)的完整過程寫出來適合手里有個想法、但還沒想清楚架構(gòu)的開發(fā)者參考也適合那些想自建一套輕量監(jiān)控體系、又不想直接套用重型全家桶的朋友。1. 先給 rea 一個定義從模糊代號到明確需求1.1 代號背后的真實需求別再讓服務(wù)器走在下線邊緣見過凌晨兩點的告警郵件嗎說的不是那種CPU 忽高忽低再觀察一下的假警報而是磁盤使用率沖到 98%數(shù)據(jù)庫進(jìn)程直接崩掉然后你在睡夢中被電話叫起來瞇著眼睛查哪張表把空間吃光了。我經(jīng)歷過幾次這種場景之后決定不能再靠感覺運維了。我需要一個工具能持續(xù)地告訴我每一臺機器的資源消耗長什么樣不是事后翻日志而是事前能看到趨勢。rea 的第一個需求就這么定下來了采集多臺服務(wù)器的系統(tǒng)資源指標(biāo)存入數(shù)據(jù)庫用圖表展示歷史趨勢。聽起來很簡單但里面藏了幾個硬約束。一是采集不能太影響業(yè)務(wù)agent 本身要輕二是數(shù)據(jù)量會持續(xù)增長存儲和查詢得接得住三是展示要讓人能快速定位問題不能打開看板還要等十幾秒。給項目起代號的時候我壓根沒花心思。rea 就是 resource efficiency analyzer 的縮寫順手打的也沒打算對外發(fā)布。但正式動手前我給自己寫了一段項目說明用最低的運維成本記錄基礎(chǔ)設(shè)施的資源水位讓趨勢可見、異??刹椤_@段話后來幫我擋掉了不少需求膨脹的沖動誰再說順便加個 XX 功能我就把這段話翻出來給他看。1.2 誰是它的目標(biāo)用戶我為什么不做成通用監(jiān)控平臺市面上的監(jiān)控平臺很多從老牌開源方案到商業(yè)全家桶隨便挑一個都能用。但我做 rea目標(biāo)用戶從一開始就只有兩類一個是我自己另一個是和我類似的小團(tuán)隊——機器數(shù)量在 5 到 30 臺之間沒有專職運維預(yù)算有限又不想為了看幾個指標(biāo)把整套重型框架搬回家。自研的邊界一定要劃清楚。我不追求覆蓋所有監(jiān)控場景也不打算做高可用集群。rea 要解決的是 80% 的常見問題機器負(fù)載有沒有異常、內(nèi)存是不是長期吃緊、磁盤大概還有多少天會被寫滿、網(wǎng)絡(luò)流量是不是有突發(fā)。至于分布式鏈路追蹤、日志檢索、APM 這類能力那是另外的戰(zhàn)場硬塞進(jìn)來只會讓項目失焦。而且自建這條路有個隱形好處整個系統(tǒng)從采集到展示都是自己寫的每個環(huán)節(jié)都清楚出了問題不會像黑盒一樣無從下手。公司里如果買了商業(yè)產(chǎn)品排障時只能提工單用開源方案遇到不滿足的場景得讀源碼改插件。而 rea 是我自己的我想讓它支持什么業(yè)務(wù)指標(biāo)直接加一個字段就行這種掌控感用錢買不到。2. 技術(shù)方案怎么定三層結(jié)構(gòu)是小項目的保命符2.1 為什么第一反應(yīng)不是全家桶監(jiān)控系統(tǒng)有現(xiàn)成的開源監(jiān)控組合可用為什么要自己寫這個問題我在動手前認(rèn)真回答過自己。最直接的原因是學(xué)習(xí)成本。全家桶方案確實強大但它的學(xué)習(xí)曲線很陡配置項非常多默認(rèn)參數(shù)不一定適合你的場景踩坑時要在告警規(guī)則、服務(wù)發(fā)現(xiàn)、模板變量之間來回排查。我見過不少團(tuán)隊把監(jiān)控系統(tǒng)裝起來了結(jié)果沒人會配告警閾值最后變成一個昂貴的圖表庫。另一個原因是業(yè)務(wù)指標(biāo)接入的靈活性。系統(tǒng)監(jiān)控指標(biāo)可以用現(xiàn)成方案采集但業(yè)務(wù)指標(biāo)比如某個核心接口的響應(yīng)時間、某條消息隊列的積壓數(shù)量、今天新增的訂單量這些需要業(yè)務(wù)代碼主動上報。與其在自研系統(tǒng)之外再接一套上報通道不如把 rea 做成一個通用的指標(biāo)接收器無論是系統(tǒng)數(shù)據(jù)還是業(yè)務(wù)數(shù)據(jù)只要按約定格式推過來就能落庫、查詢、展示。當(dāng)然現(xiàn)成方案也有它的價值。我并沒有完全否定它只是在 rea 這個特定項目里我希望它足夠輕、足夠可控。如果哪天機器規(guī)模漲到上百臺需要服務(wù)發(fā)現(xiàn)、自動告警、多租戶隔離這些能力到時候再評估遷移也不遲。先解決眼前的問題不為了未來可能的規(guī)模提前背上復(fù)雜度的包袱。2.2 前后端與存儲選型的一個參考組合rea 的技術(shù)棧沒有用花哨的新框架全是經(jīng)得起時間考驗的組合。前端選了 Vue3 加 TypeScript用 Vite 做構(gòu)建工具圖表庫用 ECharts。后端用 Python 的 FastAPI接口寫起來快性能也夠用。存儲這塊是重頭戲選的是 TimescaleDB跑在 PostgreSQL 之上既保留關(guān)系數(shù)據(jù)庫的熟悉感又針對時序數(shù)據(jù)做了專門優(yōu)化。選擇依據(jù)其實很務(wù)實環(huán)節(jié)選型核心理由前端框架Vue3 TypeScript Vite組件化清晰類型安全開發(fā)效率高圖表庫ECharts折線圖、面積圖開箱即用大數(shù)據(jù)量渲染有內(nèi)置優(yōu)化后端框架Python FastAPI異步支持好自動生成接口文檔開發(fā)速度快數(shù)據(jù)存儲TimescaleDB原生支持時序表分區(qū)壓縮率高SQL 查詢降低成本部署方式Docker Compose Nginx一套命令拉起全部依賴適合小規(guī)模場景為什么不用 MySQL 或者 MongoDBMySQL 存時序數(shù)據(jù)不是不行但數(shù)據(jù)量上來后按時間范圍刪除舊數(shù)據(jù)、按時間窗口聚合這些操作都會變得別扭。MongoDB 文檔模型靈活但聚合查詢寫起來不如 SQL 直觀而且對時間序列的壓縮能力幾乎沒有。TimescaleDB 本質(zhì)上還是 SQL我可以用熟悉的 JOIN 和 GROUP BY同時獲得自動分區(qū)和壓縮帶來的性能紅利這是它最打動我的地方。2.3 一次架構(gòu)的簡化-膨脹-再簡化很多個人項目死在想得太多上rea 也不例外。最初畫架構(gòu)圖的時候我列了一堆組件消息隊列緩沖采集流量流處理引擎做實時聚合NoSQL 存原始數(shù)據(jù)寬表存聚合數(shù)據(jù)再配一套 Redis 做緩存前端還要考慮 WebSocket 推送。畫完之后自己看著都害怕這哪是個人工具這是照著大型互聯(lián)網(wǎng)公司的基礎(chǔ)設(shè)施在搭。后來我做了個減法把架構(gòu)壓縮成三條鏈路采集器定時把指標(biāo) POST 到后端接口后端寫入數(shù)據(jù)庫前端通過查詢接口取數(shù)繪圖。中間的消息隊列和流處理全部去掉理由是數(shù)據(jù)量沒有大到需要異步削峰的程度一臺采集器 10 秒上報一次20 臺機器也就每秒兩條請求FastAPI 處理這點請求綽綽有余。這個砍需求的過程讓我學(xué)到一點小項目最值錢的優(yōu)勢就是簡單任何你覺得以后可能用得上的組件都先記在文檔里而不是裝進(jìn)代碼里。真到了需要消息隊列的那天再把它加進(jìn)來而不是一開始就為想象中的人流量修一條十車道的高速公路。3. 核心鏈路落地采集、寫入、查詢、展示一個都不能少3.1 數(shù)據(jù)表設(shè)計時序數(shù)據(jù)的第一課rea 落地的第一個關(guān)鍵環(huán)節(jié)是數(shù)據(jù)庫表結(jié)構(gòu)。時序數(shù)據(jù)的特點是寫多讀少、數(shù)據(jù)只追加、舊數(shù)據(jù)需要定期清理所以表結(jié)構(gòu)不能照搬普通業(yè)務(wù)表。我建的第一張表是主機資源指標(biāo)表核心字段包括采集時間、主機名、CPU 使用率、內(nèi)存使用率、磁盤使用率、網(wǎng)絡(luò)流入量、網(wǎng)絡(luò)流出量以及一個 JSONB 類型的擴展字段。建表語句如下CREATE TABLE host_metrics ( time TIMESTAMPTZ NOT NULL, host TEXT NOT NULL, cpu_usage DOUBLE PRECISION, mem_usage DOUBLE PRECISION, disk_usage DOUBLE PRECISION, net_in BIGINT, net_out BIGINT, tags JSONB DEFAULT {} ); SELECT create_hypertable(host_metrics, by_range, time);這里有幾個設(shè)計細(xì)節(jié)值得展開說一下。第一個是為什么用TIMESTAMPTZ而不是TIMESTAMP。時序數(shù)據(jù)最怕時區(qū)混亂如果用不帶時區(qū)的TIMESTAMP采集器從不同時區(qū)的機器上報數(shù)據(jù)時時間軸會錯位。統(tǒng)一用帶時區(qū)的類型所有時間都按 UTC 存儲展示層再按用戶時區(qū)轉(zhuǎn)換這是最不容易出錯的方案。第二個是為什么保留一個tags字段。單臺機器的指標(biāo)字段是固定的但業(yè)務(wù)上可能想給不同機器打標(biāo)簽比如區(qū)分線上環(huán)境、測試環(huán)境或者標(biāo)注機器所屬的可用區(qū)。把這些維度塞進(jìn)單獨的列會很死板放在 JSONB 里就靈活多了查詢時用tags-env就能做過濾。第三個是為什么time和host不加聯(lián)合主鍵。剛開始我也習(xí)慣性地想加后來實測發(fā)現(xiàn)唯一約束會嚴(yán)重拖慢寫入速度時序數(shù)據(jù)本身就帶有時間戳這個天然標(biāo)識重復(fù)數(shù)據(jù)靠應(yīng)用層去重就夠了數(shù)據(jù)庫層的唯一性約束在這里性價比很低。3.2 寫一個不添亂的采集器采集器是 rea 的神經(jīng)末梢它要足夠輕不能給被監(jiān)控的機器添亂。我用 Python 的 psutil 庫實現(xiàn)資源采集這個庫的優(yōu)勢是跨平臺、接口穩(wěn)定、文檔全Linux 和 Windows 都能跑對個人項目來說覆蓋面足夠了。核心采集邏輯比較直接import socket import time import requests import psutil INTERVAL 10 ENDPOINT http://rea-server:8080/api/metrics def collect_once(): return { host: socket.gethostname(), cpu_usage: psutil.cpu_percent(interval1), mem_usage: psutil.virtual_memory().percent, disk_usage: psutil.disk_usage(/).percent, net_in: psutil.net_io_counters().bytes_recv, net_out: psutil.net_io_counters().bytes_sent, ts: int(time.time()) } while True: try: data collect_once() requests.post(ENDPOINT, jsondata, timeout3) except Exception as exc: log_to_file(freport failed: {exc}) time.sleep(INTERVAL)代碼看著簡單但有幾個細(xì)節(jié)如果處理不好后續(xù)會相當(dāng)難受。第一個是cpu_percent的interval參數(shù)。psutil.cpu_percent(interval0)是絕大多數(shù)初學(xué)者的寫法結(jié)果往往返回 0因為第一次調(diào)用沒有歷史采樣數(shù)據(jù)。代碼里傳interval1含義是阻塞 1 秒、計算這 1 秒內(nèi)的平均使用率這樣第一次拿到的值就是可信的。當(dāng)然這 1 秒阻塞是可以接受的畢竟采集頻率本來就不高。第二個是網(wǎng)絡(luò)流量讀的是累積值而不是速率。bytes_recv和bytes_sent是從開機以來的累計字節(jié)數(shù)存到數(shù)據(jù)庫里之后繪圖時要用當(dāng)前值減去上一時刻值再除以時間間隔才能得到平均速率。我可以選擇在采集器里先把速率算好也可以把累積值存下來交給查詢端計算。我選了后者理由是想保留最原始的計數(shù)這樣即使后來想調(diào)整時間窗口也能靈活重算。第三個是采集器不需要花哨的并發(fā)能力單線程循環(huán)加異常隔離就足夠了。上傳失敗不能影響采集日志要寫到文件而不是控制臺不然服務(wù)跑起來之后根本看不到報錯。啟動之后先用一次cpu_percent(None)做預(yù)熱避免第一次上報的數(shù)據(jù)點失真這也是容易忽略的小坑。3.3 服務(wù)端接口別讓單條寫入拖垮寫入性能后端接口是整個鏈路的中轉(zhuǎn)站它要同時面對兩個問題來自多臺采集器的持續(xù)寫入請求以及來自前端的時間范圍查詢請求。寫入接口的寫法一定要考慮批量處理。最直觀的做法是每收到一條數(shù)據(jù)就 INSERT 一條但這樣做數(shù)據(jù)庫壓力會大連接頻繁開關(guān)TPS 一口就被壓死了。我采用的方案是內(nèi)存隊列加定時 flush。接口收到指標(biāo)后先把數(shù)據(jù)放進(jìn)一個線程安全的隊列后臺任務(wù)每隔 5 秒或者隊列累積到 500 條時統(tǒng)一執(zhí)行批量插入。這樣數(shù)據(jù)庫每次操作面對的是一批數(shù)據(jù)寫入吞吐量能差出一個數(shù)量級。下面是簡化后的核心結(jié)構(gòu)import asyncio import asyncpg from fastapi import FastAPI app FastAPI() _batch [] async def flush_batch(): if not _batch: return records _batch[:] _batch.clear() async with pool.acquire() as conn: await conn.executemany( INSERT INTO host_metrics (time, host, cpu_usage, mem_usage, disk_usage, net_in, net_out, tags) VALUES ($1, $2, $3, $4, $5, $6, $7, $8) , records ) app.post(/api/metrics) async def receive_metrics(item: MetricItem): _batch.append(( datetime.fromtimestamp(item.ts, tztimezone.utc), item.host, item.cpu_usage, item.mem_usage, item.disk_usage, item.net_in, item.net_out, json.dumps(item.tags) )) if len(_batch) 500: await flush_batch() return {status: ok}這個設(shè)計的關(guān)鍵不只是批量還包括失敗重試和容量控制。如果后臺 flush 任務(wù)拋異常不能把隊列里已有的數(shù)據(jù)丟掉要記錄日志并保留備份否則會出現(xiàn)看板缺數(shù)據(jù)的詭異現(xiàn)象。隊列本身也需要一個上限比如最大 5000 條超過上限的請求先返回錯誤而不是無限堆積內(nèi)存否則采集器一旦異常大量上報后端的進(jìn)程內(nèi)存會被撐爆這時候反而需要采集端主動降頻。3.4 查詢與前端看板如何讓頁面不卡數(shù)據(jù)寫進(jìn)去之后查詢接口要能支持時間范圍、主機過濾、指標(biāo)選擇這些常見條件。最關(guān)鍵的一個優(yōu)化是降采樣。一張時序表里如果存了數(shù)十萬條數(shù)據(jù)前端小屏幕根本畫不下強行渲染只會讓頁面卡死。SQL 層用time_bucket函數(shù)把秒級數(shù)據(jù)聚合成分鐘級或小時級數(shù)據(jù)曲線既平滑又輕量這才是正確姿勢。一個典型的趨勢查詢是這樣的SELECT time_bucket(1 minute, time) AS bucket, host, avg(cpu_usage) AS cpu_avg, max(cpu_usage) AS cpu_max FROM host_metrics WHERE host $1 AND time $2 AND time $3 GROUP BY bucket, host ORDER BY bucket;前端看圖只關(guān)心大體趨勢分鐘級均值足夠用了。如果用戶想看某個瞬間的精確值再加一個下鉆接口返回原始明細(xì)數(shù)據(jù)這樣的兩級策略兼顧體驗和性能。前端看板用的是 Vue3 加 ECharts。整體布局分三塊頂部是時間范圍選擇器左側(cè)是主機列表中間是多個指標(biāo)折線圖。主機列表支持多選選中的每臺機器用不同顏色區(qū)分時間范圍改變后所有圖表聯(lián)動刷新。實現(xiàn)聯(lián)動時有一個并發(fā)問題要注意多個請求同時發(fā)出返回順序可能不一致后返回的舊數(shù)據(jù)不能覆蓋新數(shù)據(jù)。我用請求序號做了一層校驗只渲染最后一次發(fā)起的請求結(jié)果這個細(xì)節(jié)花了我一晚上才定位到。4. 部署細(xì)節(jié)與踩坑實錄rea 從本機跑到服務(wù)器的過程4.1 Docker Compose 一鍵拉起整套環(huán)境rea 的部署目標(biāo)是一臺 2C4G 的云服務(wù)器所有組件用 Docker Compose 管理。這個選擇意味著環(huán)境依賴被全部封進(jìn)容器換機器、重新部署都很從容不用在一臺新服務(wù)器上手動裝 Python、Node、PostgreSQL也避免版本不一致的問題。docker-compose.yml 的骨架如下version: 3.8 services: timescaledb: image: timescale/timescaledb:latest-pg16 environment: POSTGRES_PASSWORD: rea_db_pass POSTGRES_DB: rea volumes: - rea_db_data:/var/lib/postgresql/data ports: - 5432:5432 rea-server: build: ./server environment: DATABASE_URL: postgresql://postgres:rea_db_passtimescaledb:5432/rea depends_on: - timescaledb ports: - 8080:8080 rea-web: build: ./web ports: - 80:80 depends_on: - rea-server volumes: rea_db_data:容器化部署里有幾個容易踩的點。第一個是數(shù)據(jù)庫數(shù)據(jù)卷必須單獨掛載否則容器一刪數(shù)據(jù)全沒。第二個是容器之間通信用服務(wù)名而不是 IP因為每次重建容器 IP 都可能變而timescaledb這個服務(wù)名在 Compose 網(wǎng)絡(luò)內(nèi)是穩(wěn)定的。第三個是整個鏈路的前端與后端分離部署前端服務(wù)不僅負(fù)責(zé)提供靜態(tài)頁面還要用 Nginx 反向代理后端接口這樣頁面里的請求地址可以統(tǒng)一寫相對路徑避免瀏覽器跨域問題。4.2 我踩過的四個坑每一個都是性能殺手rea 從能跑變成好跑的過程中我踩了不少坑撿四個印象最深的分享出來。第一個是唯一約束拖垮寫入性能。開始建表時我習(xí)慣性地加了PRIMARY KEY (host, time)想著防止重復(fù)數(shù)據(jù)結(jié)果寫入一壓測TPS 只有幾百完全不是 TimescaleDB 該有的水平。去掉唯一約束之后寫入吞吐直接翻了幾倍。時序場景下重復(fù)數(shù)據(jù)很少偶爾重復(fù)也可以容忍數(shù)據(jù)庫不應(yīng)為不可能發(fā)生的情況買單。第二個是時區(qū)混亂導(dǎo)致曲線偏移八小時。采集器上報的是 UTC 時間前端 ECharts 默認(rèn)按瀏覽器本地時間格式化看起來所有曲線都平移了一段。折騰了半天才發(fā)現(xiàn)是時區(qū)問題?,F(xiàn)在我的原則是通信全程用時間戳展示層轉(zhuǎn)成用戶本地時間數(shù)據(jù)庫里統(tǒng)一存 UTC三層各管一段絕不混用。第三個是cpu_percent首次調(diào)用返回 0。這個問題說起來有點可笑但新手真的會碰到。psutil 的 CPU 使用率計算依賴前后兩次調(diào)用之間的差值第一次調(diào)用沒有基準(zhǔn)直接返回 0。在采集器啟動后先做一次預(yù)熱調(diào)用問題就消失了。第四個是前端圖表一次性拉全量數(shù)據(jù)導(dǎo)致瀏覽器崩潰。最初我沒做降采樣一次查 7 天秒級數(shù)據(jù)幾萬甚至十幾萬個點ECharts 直接卡成幻燈片。后來改成time_bucket降采樣加 ECharts 自帶的sampling: lttb圖表不卡了加載速度也快了。在數(shù)據(jù)可視化里聰明地丟棄細(xì)節(jié)比死磕完整性重要得多。4.3 常見問題速查表把日常運行中出現(xiàn)過的問題整理成一張速查表方便自己排查也方便后來者現(xiàn)象可能原因處理方式看板長時間沒有新數(shù)據(jù)采集器進(jìn)程掛了或網(wǎng)絡(luò)不通檢查采集器日志telnet 測試接口連通性數(shù)據(jù)庫磁盤快速增長保留策略未配置舊數(shù)據(jù)無限堆積添加定時任務(wù)刪除超期數(shù)據(jù)圖表曲線出現(xiàn)缺口批量寫入失敗且無重試檢查后端日志確認(rèn) flush 隊列是否丟失數(shù)據(jù)跨天數(shù)據(jù)時間軸錯亂采集端時區(qū)與數(shù)據(jù)庫不一致統(tǒng)一用 UTC 時間戳展示層再做時區(qū)轉(zhuǎn)換多臺機器曲線顏色重復(fù)前端只按主機名取色主機名過短改用主機列表的索引作為顏色區(qū)分依據(jù)查詢接口響應(yīng)越來越慢沒有按時間范圍建立索引確保time列有索引查詢盡量帶時間下推條件5. 給 rea 留出的后路從監(jiān)控工具變成分析平臺5.1 告警、預(yù)測、權(quán)限優(yōu)先級怎么排rea 目前已經(jīng)能穩(wěn)定采集和展示了接下來要擴展的方向按優(yōu)先級排告警第一預(yù)測第二權(quán)限第三。告警最好做因為數(shù)據(jù)已經(jīng)有了只需要在后端加一個定時檢查任務(wù)對最近一分鐘的指標(biāo)做閾值判斷觸發(fā)條件時把消息推到通知渠道。這個功能能極大降低人肉盯看板的頻率算是對自由時間的解放。預(yù)測功能更有意思也更能體現(xiàn)數(shù)據(jù)分析的價值。比如磁盤使用率可以根據(jù)過去三十天的增長趨勢做線性擬合估算出按當(dāng)前速度還能用幾天。這種預(yù)測不需要復(fù)雜的機器學(xué)習(xí)模型最小二乘法就夠了但它的提醒效果比生硬的閾值告警好得多讓人有充分的緩沖時間去清理或擴容。權(quán)限這塊暫時不急因為目前只有我自己在看。但如果未來某個團(tuán)隊要用多用戶體系就必須考慮了。我的思路是在 API 層面加一層 Token 鑒權(quán)前端每個請求帶上身份標(biāo)識后端按用戶維度限制可見的主機范圍。暫時不需要引入完整的關(guān)系權(quán)限模型保持簡單等需求真的來了再細(xì)化。5.2 業(yè)務(wù)指標(biāo)接入后看板才真正有生命力系統(tǒng)資源指標(biāo)只能告訴你基礎(chǔ)設(shè)施健不健康但業(yè)務(wù)指標(biāo)才是決定要不要立刻起床的關(guān)鍵。rea 的上報接口是通用的這意味著業(yè)務(wù)代碼可以把關(guān)鍵指標(biāo)直接 POST 進(jìn)來和系統(tǒng)指標(biāo)存在同一張鏈路里看板就能把業(yè)務(wù)異常和資源異常對照著看。比如某個核心服務(wù)響應(yīng)時間突然上漲很可能是部署機器 CPU 被打滿導(dǎo)致的。只看業(yè)務(wù)指標(biāo)你只知道慢了只看 CPU 指標(biāo)你不知道它影響到什么。兩個維度疊加在一個時間軸上看因果關(guān)系就清晰多了。我的做法是給業(yè)務(wù)指標(biāo)加一個metric_type標(biāo)識字段系統(tǒng)指標(biāo)使用system業(yè)務(wù)指標(biāo)使用business查詢時既可以在同一張圖上疊加展示也可以按類型分開過濾。我在實際使用中還有一個體會是自研監(jiān)控最有價值的點不是省掉了采購成本而是在這個過程中建立的數(shù)據(jù)第一的觀念。當(dāng)你連續(xù)觀察了一段時間的曲線之后你會開始相信數(shù)據(jù)而不是直覺。以前我總覺得機器快不行了打開看板一看流量平穩(wěn)心里就踏實了有時候我感覺一切正常但曲線顯示內(nèi)存緩緩爬升反而能提前發(fā)現(xiàn)隱患。這種感覺用任何人都給你裝不上的監(jiān)控配方也換不來。最后再分享一個小技巧如果你也想做類似的項目名字叫什么并不重要哪怕像我一樣隨手敲三個字母也行。重要的是從第一天開始就把數(shù)據(jù)模型當(dāng)成地基來打采集頻率、存儲格式、時間精度這些基礎(chǔ)決策一旦定了后面很難改改一次就牽一發(fā)動全身。先把地基打穩(wěn)再慢慢加樓層。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
免费视频WWW在线观看网站| 日本玖玖在线| 婷婷五月丁香五月天| 久久人人妻| 97婷婷狠狠| 成人国产综合| 激情久久四色| 婷婷视频在线碰| 五月天综合区| 丁香五月婷婷高清| 五月色网| 就爱操www com| 久久精品99国产精品日本| yazhou seshipin| 免费无码毛片一区二区A片 | 狠狠va| 国产又粗又大又爽又黄| 狠狠狠夜夜夜| 激情久久久久| 人妻丰满精品一区二区A片| 五月天婷爱综合| 97午夜一区二区| 婷婷五月天无码| 一区视频网站| 九九综合九| 五月天色婷婷伊人网| 五月婷婷9| 日韩在线9| 天天日夜夜高潮| 8090在线影视少妇| 人人摸人人澡人人| 色九月激情综合网| 九九干视频| 99操视频| 色色色色色网站| 国产精品人妻在线网址| 久久99国产综合精品免费| 26UUU精品一区二区c〇m| 色五月,com| 日韩在线婷婷五月天综合| av操一操| 日日干日日| 丁香花大香蕉婷婷综合| 欧美日本黄色| AV79| 激情网第九色| 久久99免费视屏| 熟女网站久久| 丁香网五月天激情| 色播五月丁香| 狠狠色丁香婷婷五月| 天天插天天插天天插天天插| 激情www| 亭亭色色五月天| 三人荫蒂添的好舒服A片| 综合久久99| 久久99热这里只有| 99色五月| av在线免费播放观看| 色99热| 亚洲激情丁香五月天色| 久久精品婷婷五月丁香| 五月婷三级片| 一级黄色影片| 婷婷五月激情图片| 激情欧美五月丁香| 五月婷婷免费| 五月天激情小说婷婷| 六月色 亚洲| 老司机伊人| 国产婷婷五月天| 婷婷视频网| 色婷婷五月天av在线| 大香蕉伊人久久| 丁香五月天网友自拍啪啪啪视频| 亚洲色五月天在线| 热99国产精品| 五月婷婷偷拍| 久久9999| 欧美日韩国产成人在线| 五月丁久久| 操操天堂| 天天爽天天干| 激情婷婷网| 五月天国产成人| 色色九区| 九月大香蕉| 丰满少妇猛烈A片免费看观看| 天天干天天爽| 色偷偷五月天| 日日爽日日| 激情五月婷婷色综合| 92国产福利| 日韩野外 无套| 婷婷五月天基地| caop在线| www.久久久.com| 丁香激情综合| 婷婷五月天免费视频在线观看| eeuus五月婷| WWW,五月| 99亚洲视频| 久久久久九九九九视屏小说88| JAPANRCEP老熟妇乱子伦视频| 色九月婷婷综合| 99这里有精品视频视频| 婷婷色爱| 少妇达人正片在线播放_ikun_福利吧| 久久婷婷综合五月趴| 玖玖精品视频99| 色婷婷久久综| 亭亭色网| 色色爽爽天天| 亚洲一级AV在线免费播放| 久热在线中文字幕色999舞| 色狠狠色| 婷婷综合激情| 久久丁香五月天| 日本色99| 久久综合丁香激情五月| 99玖玖在线视频| 婷婷五月丁香五月综合网| 开心激情站婷婷五月天| 久久九精品| 春色激情第四色| 99精品热视频只有精品10| 日韩成人电影AV| 9久热免费视频99| 97操碰在线视频| 久热在线观看视频9| 综合久久狠狠| 丁香五月婷婷激情中文| 色色五月天婷婷丁香| 99久久高清视频| 中文字幕成人日韩| 黄色一级影片| 色噜噜狠狠色综合无码久久欧美| 夜夜人妻五月天| 欧美激情 日韩无码 婷婷 五月天 久久婷婷丁香五月一二三 | 99热这里只有精品268| 激情综合婷婷| anquye伊人| 五月丁香激情五月天| 丁香五月天欧美成人| 免费AAAAA网| 色综合婷婷| 色玖玖导航| 婷婷五月天激情电影| 欧美天堂久久| 开心深爱五月天| 成人欧美一区二区三区在线观看| 99日这里只有精品| 色99在线| 操人无码| 天啪天啪天啪天啪| 激情六月婷婷| 亚洲熟妇AV综合网五月丁香伊人 | 爆乳熟妇一区二区三区爆乳照片| 丁香五月综合色婷婷| 久久综合激情五月天| 久草五月天电影网| 五月婷激情| 俺去也五月| 九九99香蕉在线视频播放| 激情九九综合网| 日韩成人影片网站 | 我爱婷婷五月天综合88| 亚洲av电影网站| 欧美婷婷五月| 久久草中文日韩欧美| 99爱精品| 丁香色六月| 99久久久99久久91熟女| 十月丁香婷婷| 超碰无码老师| 五月天堂婷婷| 99久久99热| 内射爽无广熟女亚洲| 秋霞三级影视资源| 九月色婷婷婷| 97色婷婷成人综合在线观看| 婷久看人爽| 性色做爰片在线观看WW| 色狠狠色噜噜AV天堂五区消防| 色婷小说| 婷婷色中文字幕| 成人电影一区| av网站免费在线| 丁香五月综合网亚洲综合欧美狠狠| 亚洲电影中文字幕| 激情五月天丁香| 丁香六月色香蕉视频| 99国产精品白浆在线观看免费 | 亚洲激情综合免费| 九热视频| 26uuu色五月| 看久久性爱99视频| 欧美丁香婷婷天天操| 国外亚洲成AV人片在线观看| 五月天com| 精品在线网站| 91丁香色五月| 九九热精品| 色婷婷五月天综合网| 亚洲视频码| 夜夜操夜夜操| 丁香五月婷婷动漫| 色五月婷婷在线| 天天天天干| 久久 这里只有精品1| 精品二区| 99久久综合| 五月丁香婷婷婷婷综合网| 婷婷色色宗合网| 色综合激情| 狠狠色丁香99| 99久久9| 91操黄| 亚洲免费av在线| 台湾综合丁香五月蜜桃| 日本五月天网站| 丁香五月天啪啪| 丁香五月av| 99热这里只有精品一区| 亚洲视频99| 91超级碰在线| 性日本激情| 图片区 小说区 区 亚洲五月| 欧美韩日AAA网站| 我想看国产大学生口爆吞精的视频| 丁香五月天婷婷中文字幕| AV在线大香蕉| 婷婷色导航| 五月婷综合| 91久久九色| 欧美超级视频97| 天天肏视频| 丁香五月在线视频| 9999热在线免费观看| 超碰国产在线观看| 999影院成人在线影院| 爱射综合| 婷婷综合欧美| 欧洲亚洲精品| 91蜜桃婷婷狠狠久久综合9色| 中文av网| 99啪在线| 精品久久这里热66| 亚洲爱婷婷| 日本熟女内射| 婷婷情色五月| 五月婷婷播| 亚洲综合色婷| 亚洲激情综合| 欧美在线干| 91色在线/日韩| 天天操天天操天天操天天操天天操| 欧美大片免费播放器| 国产乱码久久| 人人操AV| 五月婷婷六月丁香综合视频在线| 99热只有| 99热日本| 欧美黄色一级| 色色日本| 98永久精品| 26uuu在线观看| 六月婷婷日| 色婷婷社区| 久综合九综合99| 天天天日天天天干| 2021日韩无码| 丁香无五月网| 狼人婷婷综合| 碰97久久| 日韩在线视频中文字幕| 激情婷婷丁香色五月| 桃色五月天| 久热2025无码| 日本美女97在线视频| 日韩欧美骚货| 色婷九九九| 丁香六月久久| 4399在线日本A片| 婷婷激情五月综合| 99热亚洲| 怡红院院久久| 日韩AV中文字幕在线| 久久人人妻| 色婷久九| 五月天婷婷影院| 久久6这里只有精品| 美女五月天婷婷| 视频在线免费观看欧洲乱码| 五月天婷婷7米| 色99在线视频| 五月婷婷性| 超碰2021| 激情AV在线| 99热综合| 99热爆在线| 久机视频这只有精品| 日本人人干| 九九热免费| 久久五月婷综合网| 亚洲热久| 亚洲免费看片| 激情五月天激情小说| 色五月婷婷大香蕉| a久久| 亚洲另类久久| 激情综合网站| www.天天日| 超碰在线观看三级片| 99在线精品视频| 人人操av| 黄色激情网站在线观看| 9精品一区| 夜夜爽天天爽| 色婷婷视频| 最近免费中文字幕大全高清大全1| 俺去也在线官网| 丁香花狠狠婷婷亚洲中文字幕| 五月丁香欧美在线| 情色婷婷五月天| 亚洲免费看片| 婷婷内射视频在线| 综合色五月天| 91色逼| 国产精产国品一二三在观看| 五月欧美丁香在线观看| 五月久久噜噜| 狠狠爱婷婷丁香| 色五月综合网| 婷婷的色色五月天| 九热视频在线精品15| 色噜噜97视频在线观看| 天天爱天天操| 欧美超碰亚洲| 五月婷婷在线观看黄| 久久最新色色色| 色综久久久| 97久久视频| 五月丁香婷庭在线| 五月天婷综合网站| 亚洲婷婷婷| 一区二区成人电影免费播放| 国产欧洲欧洲精品久久| 色婷婷激情| 五月天开心色情网| 精品久久99| 9|在线观看视频| 欧美这里只有精品| 国产精品视频| 天天干天天干天天干天天干天| 丁香婷婷人妻| 激情五月,激情综合网| 操逼国产91| 丁香五月婷婷狠狠色| 丁香六月天婷婷开心综合| 极品人妻VideOssS人妻| 九色激情网| 色婷婷成人做爰A片免费看网站 | 亚洲九九在线| 五月天婷婷久久日| 狠狠综合网| www.久久爱.com| 5月婷婷激情6月| 久久婷婷色| 婷婷之玖玖| 婷婷色情 | 综合色99| AV在线免费播放| 久久99免费视频| caobi四区| 99黄色性生活| 亚洲在线综合| 日本一毛片| 拳交大逼| 久久九九网| 久艹伊| 六月亚洲| av在线资源| 狠狠色丁香99| 五月丁香美女视频| 色啪网| 丁香五月天.com| 国产乱子轮XXX农村| 九九热在线99| 大香蕉久久| 91一起艹| 五月丁香婷婷色色| 久色网址| 老司机伊人| 久久久999精品| 激情性爱五月| 久大香蕉| 99久久综合网| 五月丁香婷婷色| 婷婷激情综合| 婷婷丁香五月天激情| 日本色婷婷| 久久多色| 久久婷色| 五月天婷婷综合| 激情久久久| 激情综合久久| 精品人妻伦一二三区久久| 五月丁香人妻| 狠狠爱综合网| 婷婷情色开心五月天99| 91在线观看九区| 人妻第九页| 综合六月久久| 9精品一区| 色色影院黄大片| 人人综合五月人人婷婷| 99久视频| 五月丁香拍拍激情综合| 中文字幕日产A片在线看| 丁香婷停五月激情综合深爱| 婷婷色五月亚洲| 日韩激情婷婷五月天| www.夜夜夜| 欧美性丁香色色五月天| 99操逼| 色五月播五月| 变态另类9| 俺去也综合| 久热这里| 无码人妻一区二区一牛影视| 久久9热| 九色91国产| 久久久人妻久久久| 2w在线视频| 丁香五月电影| 性爱综合网| 99综合| 色婷婷在线电影| 久热久re| 97福利视频| 天天日,天天射,天天插| 婷婷五月情天| 六月婷婷综合| 亚洲天堂婷婷丁香| 丁香五月婷婷综合精品素人| 婷五月丁香俺| 开心五月婷婷| 琪琪色五月天| 中文在线成人| 狠狠五月天| 涩涩涩婷婷| 五月丁香手机在线| 色婷婷电影网| 色婷婷在线播放| 国产毛片操B| 婷婷伊人綜合中文字幕| 色五月五月婷婷| 色婷久九| 99ri精品在线| 五月丁香六月婷婷成人电影| 综合激情视频| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | jiqingtaose五月天| 丁香婷婷五月人体| 欧美在线| 无码 av电影| 欧美日韩欧美| 无码人妻AV久久久一区二区三区 | 狠狠精品干练久久久无码中文字幕| 色9999日韩国产| 五月婷婷天堂| 婷香五月| 91色久| 97五月天| 成人无码髙潮喷水A片| 久久婷婷色| 五月综合无码| 九月婷婷| 国产毛片操B| 五月丁香久久综合91| 色色婷婷综合| 五月丁香视频色色| 日韩人妻在线观看| 婷五月天天| 玖月婷婷爱丁香| 99热国内| 26uuu另类亚洲欧美日本一| 久久机热思思热| 噜噜噜噜噜色| 成人在线日韩欧美| 色婷婷小说网| 婷婷丁香18| 天天日P天天射P| 97干干干丁香| 激情九月丁香婷婷| 中文字幕在线人妻| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 亚洲AV网站| 丁香五月天激情综合| 日韩婷婷| 97成人在线视频| 伊人热婷婷| 99爽视频| 天天干天天干天天干天天干天天干天天| 综合色综合| 丁香五月婷中字幕| 色色色色色综合| 伊人在线视频| 日本97人人| 九九热青青草| 偷拍91九色| 久久久久网站| 九九草热在线观看| 婷婷综合亚洲| 97五月婷| 婷婷色影院| 婷婷 亚洲图片 丁香| 欧美va在线| 五月花激情| 97五月婷| 欧美日韩一a.无| 思思久久青草热| 99热这里只有精品1025| 操逼五月婷婷| 色爱综合网| 婷婷五月天免费| 精品99在线| 人妻丰满精品一区二区A片| 亚洲国产网站| 婷婷五月丁香成人| 九九色热| 九月丁香欧美综合| 亚洲人妻一区二区| 五月激情在线| 色婷婷a| 五月天激情小说婷婷基地| 91操在线视频| 在线成人av播放| 99热91| 色五月婷婷激情五月| www.五月丁香| 色婷婷色丁香色欲av| 亚洲精品色色| 九九综合色综合| 狠狠婷婷色综合| 婷婷和五月天| 操操国产| 百度4399有码精品V在线观看| 婷婷在线五月天观看| www久久久久久久97| 久99久视频精品| 欧美丁香婷婷天天操| 色色a| WWW色五月| 91操色| 天天干天天干天天干天天干天| 天堂在线婷婷| 亚洲色模骚货| 久久婷鲁| 色婷视频| Www.se.久久| 五月天色综合服务平台| 亚洲五月天激情| 久久婷综合| 国产精品电影网| 另类图片五月天婷婷| 99热777| 少妇伦子伦精品无吗| 婷婷五月天伊人在线| a网站免费观看| 久草性爱| 日韩99视频| www.91AV.com| 色色色9| 国产国产乱老熟女视频网站97| AV中文在线| 久久机热/这里只有精品 | a色婷婷| 九九热视| 婷婷五月丁香色综合| 丁香五月婷婷在线观看| 色婷婷成人久久| 婷婷色五月丁香六月欧美啪| 一区二区aV电影免费看| av在线免费网站| 亚洲超级碰| 五月婷婷丁香六月| 国产亚洲色婷婷久久99精品91| 色综合网址| 啪啪综合| 色狠狠综合| 高清无码.com| 激情都市另类| 午夜丁香五月天综合| 激情丁香五月综合| 五月婷婷亚洲| 色五月婷婷久久爱| 伊人大综合| 婷婷亚洲五月| 99在线观看| 色色激情| 99成人小视频| 色综合久久综合中文综合网| 黑人糟蹋人妻HD中文字幕| 天天色五月| 免费日本aⅴ中文字幕 | 91五月花丁香| 日91高清无玛| 包操45分钟网站| A片试看120分钟做受图片| 婷婷五月天在婷| 色婷亚洲| 综合色99| 婷婷五月丁香基地| 五月天狠狠网站| 乱精品一区字幕二区| 欧美激情综合色综合| 婷婷七月丁香色色| 国产欧美日韩综合精品一区二区| 99re热免费观看视频精品| www.五月天婷婷| 伊人久久艹| 婷婷六月视频| 久久只有这里精品免费| 97伦色婷婷| 丁香五月激情婷婷视频| 亚洲中文字幕在线观看| 91婷婷五月天嫩女| 亚洲第一色色色| 亚洲啪啪自拍| 激情五月天小说网| 色狠狠色噜噜AV天堂五区消防| 香蕉综合在线| 国产九月婷婷| 五月天啪啪| 色色色色色色网| 婷婷丁香视频在线观看免费| 色五月人妻| 久婷婷五月丁香在线观看| 91干网| 天天爽天天操| 日韩av在线电影| 天天搞天天色综合| 亚洲色情一区二区三区四区| 亚洲综合视频八| 色五月激情| 色五月丁香五月天| 丁香六月婷婷综合麻豆| 午夜免费试看| 五月激情综合性爱| 99热在线中出| 国产成人精品亚洲线观看| 九色自拍| 日本五月天网站| 婷婷五月天com| www,五月天com| 色综合色色色色| ..真实国产乱子伦毛片| 啪啪一区| 日日撸夜夜操| 久九色| 五月婷婷综合视频| 久草五月天| 偷拍视频五月天| 99九九热在线观看| 亚洲第一成人AV| 亚洲精品又粗又大又爽A片| 日本三级大片| 久久99网站| 婷婷少妇激情| 亚洲无码11| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 亚州色色色| 97超碰人人操| 五月婷婷五月| 无码天天操| 成人做爰A片免费看网站找不到了 国产露脸150部国语对白 | 色狠狠色综合久久久绯色AⅤ影视 大香蕉五月天婷婷丁香91 | 99热这里只有精品官网| 中文字幕av在线播放| 成人网站av免费网站推荐| 综合网亚洲| av网站免费在线| WWW、日本色丁香co m| 极品人妻VIDEOSSS人妻| 五月婷婷伊人久久| 丁香花五月天社区| 超碰91人人操| 丁香六月AV| 国产偷人爽久久久久久老妇APP| 巴基斯坦粉嫰无码视频| 色五月激情综合网站| 丁香 久久| 欧美日韩国产一二区| 人人97操| 大香蕉久久久| 丁香女人五月天| 丁香五月天在线直播观看| 综合色天天| 婷婷香五月| 涩综合婷婷| wwww.9免费视频| 人与禽A片啪啪| 能直接看的AV网站| 五月婷婷综合网| 综合久久8| 涩婷婷视频快播人妻| 97碰在线免费观看| 久草五月| 久久婷婷丁香六月天| 五月婷婷爽爽爽| 久久久高清| 91精品视频男人的天堂| 99色在线| 激情网五月婷婷| 婷婷久久综合| 婷婷伊人綜合中文字幕| 久热99视频在线观看| 91岛国片| 777久久精品| 丁香五月婷婷激情蜜桃| 97人凄人人操人人爽| 97干在线| 亚洲乱码日产精品BD| 97丁香视频| AV九九| 综合视频五月| 一区二区免费看| 嫩BBB槡BBBB搡BBBB| 自拍视频99| 五月丁香婷婷啪啪| 色五月丁香六月欧美综合| 97碰在线| 肏日网在线看| 怕怕av| 国产毛片精品一区二区色欲黄A片| 天天狠狠夜夜狠狠2023| 五月丁香亭亭A片| 婷婷色五月激情| 色丁香影院| 天天舔天天爽| 五月丁香激情啪啪网| 九九热99re8热免费观看| 色婷婷婷婷成人网| 9有码中文| 无码91中文字幕| 99日本精品视频热| 99精品免费欧美小视频| 激情第四色| 色噜噜狠狠色综合网| 日韩人妻操逼视频| 五月丁香婷婷啪啪| 激情婷婷在线中文字幕| 婷婷五月天黄色小说| 大香蕉啪啪网| 婷婷五月香蕉| 日韩啊啊啊| 操操操B| 人人草公开操| 色婷婷激情| 伊人成综合五月婷婷| 色久婷婷五月| 99热这里只有精品86| 无码日本精品XXXXXXXXX| 激情99热| 婷婷色综合av| 青青色com久久| 日韩久久这里只有精品| 涩五月婷婷| 久久草大香蕉| 久久久久激情| 天天肏高清在线| 五月激情综合美女久久| www.久99| 国内精品玖玖| 激情久久伊人| 色婷婷六月开心中文字| av九九| 五月婷婷六月丁香| 99久久久久| 另类精品视频在线观看| 久久九九在线视频| 97人人超| 综合欧美五月婷婷| 深爱激情五月天| 五月丁香A片| 色99网| 久久丝丝热| 婷婷亚洲色| 五月婷色色| 色色网站免费观看| 六月五月天婷婷涩播在线| 成人做爰A片免费看网站找不到了| 日本色图综合| 五月婷婷色啪| 少妇被躁爽到高潮无码文| 婷婷五月激情网站| 婷婷五月在线观看| 二人电影免费版在线观看| 精品久热| 先锋男人99资源| 影音先锋美国A| 五月天色婷婷基地| 999九九九久久久99HD| 噜噜视频| 狠狠爱婷婷爱| 欧美这里只有精品| 色国产五月| 婷婷五月综合国产精品| 思思国产99| 天天干,天天操,天天射| 久久婷婷网| 色婷婷综合久色AV五色最新| 五月婷婷人人人操| 中文字幕AV网址| 六月婷婷激情| 婷婷99狠狠| 少妇性按摩无码中文A片| 丁香五月av在线| 91久久国产综合久久| 国产无人区大片| 91丨九色丨大屁股| 99久久九九视频| 99热免费精品| 操人无码| 狠狠插.com| 亚洲男女激情| 99噜噜噜在线播放| 中字幕视频在线永久在线观看免费 | 婷婷五月花西瓜| 91在线视频综合| 性综合网| 婷婷丁香色无五月| 午夜色婷婷| 在线视频区| 久色激情| 人人干天天操五月丁香| 玖玖综合玖玖| www超碰| 噜噜色com| 成人av免费观看| 大香蕉五月婷婷丁香| 日韩精品一区二区亚洲AV观看 | 开心五月天私房婷婷| 五月婷婷婷色| 色婷婷狠狠| 亚洲bt丁香五月天婷婷激情小说| 色色色婷婷五月| 香蕉网婷婷| 精品久久99| 99热在线中文字幕| 九九色情网五月天| 99色综合| 精品色色| 互月天综合| 婷婷色亚洲| 亚洲成人无码免费| 91中文在线| 五月丁香花视频| 天天插天天| 可以免费观看的av| 噜噜噜噜在线| 99视频这里只有免费精品| 久久全色| 91操人视频| 精品网站:999WWW| 丁香婷婷久久综合在线| 亚洲精品影视| 女人被躁到高潮嗷嗷叫小| 丁香婷婷大香蕉| 激情伊人五月天| 久久久婷丁香五月| 噜噜噜噜婷婷五月天| 中文字幕网站在线观看| 婷婷综合仓库中文| 精品一区二区三区免费毛片爱 | 日本系列_4页_777FP| 婷婷五月丁香狠狠| 97婷婷在线| 免费色婷婷| 女人被躁到高潮嗷嗷叫小| 成人丁香五月天| 91黄址| 激情五月婷婷丁香综合网| 五月天堂色| 超碰资源在线| 人妻中文字幕网| 亚洲第一成人AV| www.97视频| 一本大道嫩草AV无码专区| 这里只有精品视频免费在线观看| 99精品在线观看视频| 五月丁香六月婷婷无码| 五月情婷婷五月| 99爱欧美| 色五月久久成人婷婷| 丁香五月激情综合| 久久五月天婷婷| 精品99视频| 玖玖@三月天天丁香婷婷| www。久久久久一b。Cc| 99亚州综合精品成人网| 亚洲综合99| 91精品丝袜久久久久久| 久久五月视频| 亚洲精品婷婷| 91精品久久久久久综合五月天| 六月婷婷综合| 丁香五月天堂网| 国外亚洲成AV人片在线观看| 精品一二三区久久AAA片| 99热免费| 色五月综合激情网| 九九无毛| 久久图色4| 六月丁香六月婷婷欧美| 人妻激情综合| 五月婷婷狠狠久久| 色情婷| 久久久激情| 开心 五月 综合| 色亚洲色宗合| 婷婷久久免费看| 激情五月视频| www夜夜| 色综合激情| 天天爽夜夜爽| h在线看免费版在线看| 欧美精品99| 99热精品在线在线| 99国产精品久久久久久久久久久| 思思热这里只有精品| 欧美人与性动交CCOO| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品| 性爱网五月婷婷| 伊人久久大香天蕉亚洲特级| 色综合久久天天综合网| 久久激情综合| 婷婷性爱无码视频| 激情五月婷婷伊人| 99精吕视频在线观看了| 九九热婷婷| 丁香六月婷婷| 日本黄色三级片内射| 激情综合婷婷久久| 久操福利| 97色伦另类图片小说视频 | 无码少妇高潮喷水A片免费| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 五月婷婷色播| 欧美日韓成人亚洲精品另类| 综合久色五月| 五月婷婷婷| 人人摸人人搞| 国产九月婷婷| 丁香婷婷性久久| 婷婷免费精品视频| 内射激情在线| 亚洲不卡欧洲| 琪琪布丁香社区激情五月天| 91久久综合| 逼逼AV| 色激情五月| 婷婷色情 | 狼人狠狠操| 9久精品| 色婷婷综合中心| 色婷婷88| 影音先锋五月婷婷| 人人操人人妻| 啪啪色激情五月天| 色五月婷婷视频| 97资源碰碰| 婷婷丁香六月天激情四射网| 婷婷五月色播网| 激情五月婷婷五月| AA片在线观看视频在线播放| 亚洲综合视频网| 5月婷婷激情网| 91精品91久久久中77777| 久久婷综合网| 丁香色五月直播| 日本狠狠干| 丁香五月-激情综合| 大香蕉啪啪啪| 99热亚洲| 色五月美女| 婷婷爱综合| www狠狠| 啪精品| www.av骚货| 无码99| 91色久| 97丁香五月| 亲子乱av一区二区三区的| 久久黄色免费视频| 婷婷精品视频| 久婷久婷| 日日噜噜夜夜狠狠久久丁香六月| www婷婷色| 五月婷伊人| 五月丁香婷婷综合网| 91狠狠色| 日日夜夜狠狠操| 内射 无码 伊人| 色情丁香五月天| 色婷婷丁香五月| 狠狠爱综合| 五月婷婷天堂| 欧美日比视频| 日本天堂免费99| 超碰色人妾| 婷婷五月激情在线视频| 91人人爱| 97韩国久久电影院| 岛国在线观看91| www 五月天 com| 丁香婷婷久久 | 九九热免费视频| 大胆伊人久久| 思思热精品在线| 操婷婷久久| 久久爱婷婷| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 色色综合网。| 可以直接看的AV网站| 综合aV在线| 琪琪秋霞| 福利视频在线播放| 久久伊人日日夜夜| 婷婷色色五月天| 色五月首页| 国内外色色色色色成人视频| 快乐激情五月色婷婷| 天天日天天色| 色综合天天网| 五月婷婷久久大片| 狠狠色噜噜狠狠| 欧美婷婷综合网| 天天综合色丁香| 99久久新视频| 91色在线/日韩| 美女天天艹人人爽| 爱99干99| 曰日爽日日操| 亚洲AV第二区国产精品| 五月婷婷六月丁香综合| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 黄色片久久| 日韩1区2区| 337p大胆噜噜噜噜噜91Av| 五月丁香综合啪啪| 亚洲人人操BD| 久久综合无| site:pnnrt.com| 人人视频色| 97碰碰在线观看视频| 激情五月天丁香| 五月天播播综合| 五月丁香激情啪啪| 一区二区三区四区五区| 9精品久久999| 丁香婷婷色五月激情综合| 久久狠婷婷| 色婷婷88| 色色综合日韩| 亚洲免费电影2| 影音先锋91| 婷婷综合激情五月中文字幕| 九九色婷| 五月丁香婷婷久久| 国产精品大香蕉| 大香伊人久色| 中文字幕人妻在线| 激情五月天之五月婷婷| 丁香五月成人丝袜| 婷婷五月激情网| 婷婷日日夜夜| 99久久99视频只有精品| 另类在线免费视频| 婷婷五月激情视频| 五月婷视频久久| www网站在线观看| 激情五月婷婷丁香| 99久久激情视频| 婷婷色五月婷婷姐妹| 色婷狠狠| 天天干,夜夜爽| 四色女婷婷| 婷香五月| 丁香婷婷五月份| 五月天色色网站| 在线1青婷| 婷婷九九| 天天视频精品9| 97精品欧美91久久久久久久| 岛国av电影网站| 日本妈妈乱| 91人人操| 六月丁香婷婷爱| 亚洲黄色影视| 五月丁香成人| 丁香五月激情五月开心五月| 亚洲无码11| 婷婷综合天堂| 亚洲经典三级| 99操逼| 日日干天天| 色五月六月婷婷| 丁香五月激情综合| 色九月综合| 久久人人看| 99只有这里有精品在线视频| 婷婷丁香亚洲五月天| 色五月婷婷影院| 丁香五月婷婷五月基地| 婷婷综合久久| 激情久久丁香| 超碰1999| 天天五月情| 久久成人综合五月天| 99免费视频久久| 操逼五月天| 五月天丁香色色| 色五月激情五月| 中文av网站| 99热国产免费| 艹| 丁香色啪综合| 激情久久四色| 91一起操| 91九色|疯狂|高潮|对白|| 97婷婷狠狠久久综合9色| 91呦呦呦| 精品日本视频444| 4438亚洲欧美| 人妻熟人中文字幕一区二区| 五月丁香综合啪啪| 婷婷五月天激情小说| 五月激情小说| 涩五月色婷婷| 五月婷婷色激情| 日韩精品二三区| 四色五月婷婷在线观看| 五月天激情网开心网| 色综合天天天天做夜夜| 激情综合网,婷婷五月天| 五月在在观看| 天天 青草 丝袜制服 在线| 思99热精品久久只有精品| 婷婷丁香五月视频| 插插插色综合网| 欧洲激情网站| 久久久久久久久久久久久久人妻视频| 99开心五月五月丁香激情| 六月丁香视频网站| 天堂爱爱| 丁香六月爱综合| 亚洲熟妇AV综合网五月丁香伊人 | 久久五月婷| 九九这里是免费的视频5| www.婷婷亚洲基地| 婷婷色网| 国产精品18久久久| 日韩综合成人| 葵花AV在线| 五月花婷婷最新| 久久综合干| 中文AV网站| 婷婷射图五月天| 综合网天天| 天堂色婷婷| 99色精品| 免费黄网不卡AV| 99热99美国在线观看| 成人 在线 日韩| 色五月开心开心五月激情五月| 色五月欧美| 999热在线视频| 嫩草AV久久伊人妇女超级A| 综合一啪| 五月婷婷日| 99爱在线| 日本天天色| 色99在线| 99ri视频在线观看| 99视频精品| 思思热99在线视频| 婷婷五月成人| 91男同视频| 亚洲最大在线| 日日夜夜噜噜爽爽| 婷婷五月天天爽| 亚洲乱码日产精品BD| 久久久久久久久久久97| 先锋资源996| 丁香五月欧美午夜视频| 99精品偷自拍| 97se视频在线| 99久久99视频只有精品| 激情五月天电影| 成人精品在线观看| www.99精品视频| 国产阿姨日皮艹逼内射视频| 色婷婷五月天| AV大片在线播放| 亚洲av免费在线| 99爱免费视频在线观看| 色色射| 丁香五月激情欧美| 婷婷色日本| 国产熟女一区二区三区五月婷| 精品久9| 婷婷五月蜜桃成人桃色丁香| 五月欧美色色五月| 俺去也五月天| 亚洲AVDVD| 思思热久久久在线| 婷婷五月综合网| 青青草原伊人网| 天天摸天天高潮天天爽| 99视频在线| 9月色婷婷| 婷婷丁香人妻天天久久| 亚洲精品字幕在线观看| 五月婷色色| 五月天播播| 就爱日五月天| 亚洲射激情| 性爱综合网| 大香蕉五月丁香| 99热这里只有精品8| 爱iii做iiii日日| 丁香激情六月天婷婷| a网站免费观看| 91视频一起草| 五月丁香婷婷网在线在线| 99热色综合| 亚洲乱码成人| BBWCUCKOLD精品熟妇 | 二人电影免费版在线观看| 婷婷五月天情色| 欧美猛片| 亚洲亚洲人成综合网络| 色色色99韩| 久热91| 另类视频一区| 91美女被操| 亚洲1区| 中文字幕在线免费| www999日韩精品| 婷婷色情网| 久婷| www.精品99| 激情99热| 五月激情啪啪| 九九国产视频| 婷婷五月天久久| 高清国产一级婬片a免费| 九九这里都是精品| 婷婷丁香www视频日本韩国| 四五月婷婷| 精品一二三区久久AAA片| 婷婷激情欧美| 狠狠色婷婷综合开心影视|