99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

安全測(cè)試可視化看板落地實(shí)踐:Grafana集成漏洞管理與告警配置

安全測(cè)試可視化看板落地實(shí)踐:Grafana集成漏洞管理與告警配置 安全測(cè)試結(jié)果的可視化過去一直是被低估的環(huán)節(jié)。掃描器出了報(bào)告、滲透測(cè)試寫了文檔、修復(fù)完再登記個(gè)Excel等月底復(fù)盤時(shí)才拉出來看一眼中間出了什么風(fēng)險(xiǎn)、修復(fù)進(jìn)展怎么樣、還有多少高危漏洞在裸奔全靠人工腦補(bǔ)。我也是被這個(gè)問題折磨了大半年才下決心把Grafana接入安全測(cè)試流程把漏洞數(shù)據(jù)、資產(chǎn)信息、修復(fù)進(jìn)度全部集中到一個(gè)看板上讓團(tuán)隊(duì)成員打開瀏覽器就能看到當(dāng)前的安全態(tài)勢(shì)而不是等每周的例會(huì)材料。這篇博文就圍繞這套可視化看板的集成實(shí)踐展開從方案選型、數(shù)據(jù)源接入、看板搭建到告警配置完整記錄我落地這套系統(tǒng)時(shí)踩過的坑和沉淀下來的做法。適合安全工程師、DevOps運(yùn)維人員和測(cè)試開發(fā)同學(xué)參考尤其是正在做安全測(cè)試結(jié)果聚合但不知道從哪下手的人。1. 項(xiàng)目背景與方案選型為什么安全測(cè)試結(jié)果需要可視化看板1.1 安全測(cè)試數(shù)據(jù)的現(xiàn)狀痛點(diǎn)先說一個(gè)很現(xiàn)實(shí)的問題安全測(cè)試的結(jié)果數(shù)據(jù)天生就是多源異構(gòu)的。漏洞掃描器比如Nessus、AWVS、Xray輸出自己的報(bào)告格式SAST工具報(bào)告一堆代碼缺陷DAST工具跑出一堆URL問題滲透測(cè)試的人工發(fā)現(xiàn)還散落在Word和Excel里中間件漏洞、供應(yīng)鏈組件風(fēng)險(xiǎn)又來自另一個(gè)平臺(tái)。想把這些數(shù)據(jù)匯總起來回答幾個(gè)最基礎(chǔ)的問題——當(dāng)前有多少高危漏洞、哪些資產(chǎn)受影響、修復(fù)率是多少——都能讓人焦頭爛額。我見過不少團(tuán)隊(duì)的做法是每周讓安全工程師手動(dòng)導(dǎo)出幾份報(bào)告拼到PPT里。這種做法有兩個(gè)致命問題。一是損耗實(shí)時(shí)性漏洞從發(fā)現(xiàn)到被人看見中間隔了好幾天攻擊者比你還早知道二是損耗細(xì)節(jié)匯總報(bào)告通常只會(huì)保留高危有幾個(gè)、中危有幾個(gè)這類匯總數(shù)字真正排查需要知道的具體漏洞、受影響資產(chǎn)、時(shí)間分布這些信息全部被打平了。可視化看板要解決的就是讓這些數(shù)據(jù)從報(bào)告里的靜態(tài)文字變成屏幕上的實(shí)時(shí)態(tài)勢(shì)。不是把報(bào)告變得更漂亮而是把分散的工具結(jié)果統(tǒng)一起來基于同一個(gè)時(shí)間軸、同一套資產(chǎn)維度讓趨勢(shì)、變化、分布變得可見且可追蹤。1.2 技術(shù)方案選型的心路歷程選型的核心問題只有一個(gè)數(shù)據(jù)往哪兒放。當(dāng)時(shí)我對(duì)比了三類方案。第一類是直接購(gòu)買商業(yè)的安全運(yùn)營(yíng)平臺(tái)功能全、開箱即用但價(jià)格高而且通常要綁定自家掃描器我們已有的工具鏈不好接入數(shù)據(jù)模型也被鎖死。第二類是自研一個(gè)小型管理系統(tǒng)后端API加上前端列表頁(yè)。這個(gè)方案靈活但開發(fā)成本不低而且做好了也就是個(gè)漏洞管理列表圖表只能自己畫趨勢(shì)分析、報(bào)表導(dǎo)出這些功能全要重復(fù)造輪子迭代周期太長(zhǎng)。第三類就是Grafana加Prometheus/Loki/MySQL這條路。Grafana本身是可視化平臺(tái)不需要做報(bào)表模塊它的數(shù)據(jù)源插件體系相當(dāng)成熟Prometheus、MySQL、Elasticsearch、Loki都原生支持意味著數(shù)據(jù)只要有地方存就能快速出圖告警功能內(nèi)置配置好通知渠道就能聯(lián)動(dòng)釘釘、郵件和企業(yè)微信。而且社區(qū)插件多后續(xù)想擴(kuò)展也方便。最終我選擇Grafana作為展示層底數(shù)數(shù)據(jù)的存儲(chǔ)根據(jù)不同來源分了三條鏈路實(shí)時(shí)監(jiān)控指標(biāo)走Prometheus日志和掃描結(jié)果詳情走Loki結(jié)構(gòu)化漏洞庫(kù)走M(jìn)ySQL??窗暹B接這三個(gè)數(shù)據(jù)源各取所長(zhǎng)。1.3 Grafana在安全測(cè)試場(chǎng)景中的定位很多人一提Grafana就想到機(jī)器監(jiān)控CPU、內(nèi)存、網(wǎng)絡(luò)流量覺得這是運(yùn)維的專屬工具。實(shí)際上Grafana的處理對(duì)象是時(shí)序指標(biāo)和結(jié)構(gòu)化數(shù)據(jù)安全測(cè)試結(jié)果天然符合這個(gè)模型——漏洞發(fā)現(xiàn)時(shí)間是時(shí)間軸風(fēng)險(xiǎn)等級(jí)是維度資產(chǎn)IP、團(tuán)隊(duì)歸屬這些是標(biāo)簽。所以Grafana完全可以承載安全測(cè)試看板且不需要引入一套全新的安全產(chǎn)品。我推薦的定位方式Grafana只做呈現(xiàn)和告警不承擔(dān)數(shù)據(jù)采集和業(yè)務(wù)邏輯。安全測(cè)試的數(shù)據(jù)采集仍然由各掃描器、爬蟲和CI/CD流水線完成通過寫腳本或者接口上報(bào)到存儲(chǔ)層Grafana負(fù)責(zé)把存儲(chǔ)層的數(shù)據(jù)組織成有價(jià)值的視圖。這個(gè)分工讓系統(tǒng)邊界清晰掃描器要換、數(shù)據(jù)格式要改都動(dòng)不到看板本身。2. 數(shù)據(jù)管道與Grafana數(shù)據(jù)源對(duì)接讓安全測(cè)試數(shù)據(jù)流進(jìn)來2.1 三種數(shù)據(jù)接入路徑的取舍先明確一個(gè)概念Grafana本身不存數(shù)據(jù)它只是問數(shù)據(jù)源要數(shù)據(jù)。所以接入的第一步是想清楚安全測(cè)試結(jié)果以什么形式、存在哪里。我實(shí)際落地時(shí)用了三條路徑適配不同類型的數(shù)據(jù)。路徑A結(jié)構(gòu)化漏洞庫(kù)入MySQL。這類數(shù)據(jù)格式最規(guī)整——漏洞編號(hào)、標(biāo)題、風(fēng)險(xiǎn)等級(jí)、受影響資產(chǎn)、發(fā)現(xiàn)時(shí)間、修復(fù)狀態(tài)。適合放在關(guān)系型數(shù)據(jù)庫(kù)里Grafana通過MySQL數(shù)據(jù)源查詢做分組統(tǒng)計(jì)和多維篩選。適用于漏洞管理、修復(fù)進(jìn)度追蹤。路徑B采集器指標(biāo)入Prometheus。掃描任務(wù)的執(zhí)行狀態(tài)、掃描耗時(shí)、掃描器自身健康度這類運(yùn)行時(shí)指標(biāo)以指標(biāo)的形式暴露。Prometheus按固定間隔抓取Grafana展示成時(shí)序圖。適用于流水線監(jiān)控、掃描任務(wù)趨勢(shì)。路徑C半結(jié)構(gòu)化報(bào)告入Loki。掃描器導(dǎo)出的JSON報(bào)告、系統(tǒng)日志、CI階段輸出不適合拆成字段存數(shù)據(jù)庫(kù)直接以日志形式推給Loki。Grafana的LogQL可以解析JSON字段提取漏洞等級(jí)、掃描目標(biāo)等信息。適用于滲透測(cè)試過程日志、掃描器原始輸出檢索。這三條路徑可以并行。數(shù)據(jù)源頭不一樣進(jìn)存儲(chǔ)的通道不同但最終都匯入同一個(gè)Grafana組織可以在同一塊看板上關(guān)聯(lián)展示。2.2 結(jié)構(gòu)化數(shù)據(jù)表設(shè)計(jì)與入庫(kù)腳本我的實(shí)踐是建兩張核心表漏洞主表和資產(chǎn)表。字段設(shè)計(jì)上有幾個(gè)容易被忽視的點(diǎn)單獨(dú)說說。漏洞主表的字段字段名類型說明idbigint自增主鍵vuln_idvarchar(64)漏洞唯一編號(hào)通常是掃描器自帶IDtitlevarchar(255)漏洞標(biāo)題severityvarchar(16)嚴(yán)重級(jí)別critical/high/medium/lowasset_ipvarchar(64)受影響資產(chǎn)IPasset_namevarchar(128)資產(chǎn)名稱teamvarchar(128)負(fù)責(zé)團(tuán)隊(duì)statusvarchar(16)狀態(tài)open/fixing/fixed/ignoreddiscovered_atdatetime發(fā)現(xiàn)時(shí)間fixed_atdatetime修復(fù)時(shí)間可為空sourcevarchar(64)來源nessus/xray/sast/dast/manualraw_datajson掃描器原始字段留著備用幾個(gè)容易踩坑的設(shè)計(jì)點(diǎn)severity不要用中文用枚舉字符串。中文在分組統(tǒng)計(jì)和過濾時(shí)容易出編碼問題而且告警規(guī)則判斷時(shí)大小寫不敏感容易誤判。asset_ip和asset_name分開存別看它們經(jīng)常是一對(duì)一但資產(chǎn)改名或IP復(fù)用很常見拆開才能關(guān)聯(lián)資產(chǎn)歷史。raw_data字段很重要。掃描器報(bào)告經(jīng)常帶一些額外信息CVE編號(hào)、CVSS分值、漏洞描述當(dāng)前用不到但后續(xù)做關(guān)聯(lián)分析時(shí)就是寶不需要回頭改表結(jié)構(gòu)。入庫(kù)腳本我用Python寫了個(gè)定時(shí)任務(wù)每小時(shí)從掃描平臺(tái)拉一次新增漏洞做增量寫入。關(guān)鍵點(diǎn)是要維護(hù)一個(gè)游標(biāo)位置記錄上次拉取的偏移量避免重復(fù)入庫(kù)。首次全量導(dǎo)入沒關(guān)系但增量階段如果每輪都全量拉數(shù)據(jù)量上來后壓力會(huì)很大。import mysql.connector import requests import json def fetch_vulns(last_id): payload {since_id: last_id, limit: 100} resp requests.post(https://scanner.internal/api/v1/vulns, jsonpayload, timeout30) resp.raise_for_status() return resp.json()[data] def sync_vulns(): last_id load_cursor() cnx mysql.connector.connect(usergrafana_ro, password..., host10.0.1.10, databasesecurity_center) cursor cnx.cursor() for vuln in fetch_vulns(last_id): sql INSERT INTO vulns (vuln_id, title, severity, asset_ip, asset_name, team, status, discovered_at, source, raw_data) VALUES (%s, %s, %s, %s, %s, %s, %s, %s, %s, %s) ON DUPLICATE KEY UPDATE titleVALUES(title), severityVALUES(severity) cursor.execute(sql, (vuln[vuln_id], vuln[title], vuln[severity], vuln[asset_ip], vuln[asset_name], vuln[team], vuln[status], vuln[discovered_at], vuln[source], json.dumps(vuln, ensure_asciiFalse))) last_id max(last_id, vuln[id]) cnx.commit() cursor.close() cnx.close() save_cursor(last_id)增量同步的游標(biāo)一定要持久化。我就吃過虧腳本重啟后游標(biāo)丟失結(jié)果從0開始全量同步把數(shù)據(jù)庫(kù)連接拖崩了?,F(xiàn)在游標(biāo)存在本地文件里腳本每次啟動(dòng)先讀文件再?zèng)Q定從哪里開始拉。2.3 Loki接入掃描報(bào)告日志Loki和Prometheus是同一家公司的產(chǎn)品接入方式很像是老朋友了。在Grafana中添加Loki數(shù)據(jù)源只需要填一個(gè)URL。掃描器報(bào)告的推送我用的Promtail文件監(jiān)聽模式把掃描結(jié)果JSON文件的目錄掛給Promtail新文件出現(xiàn)時(shí)自動(dòng)推送??窗逯胁樵僉oki數(shù)據(jù)長(zhǎng)度這樣寫{appsecurity-scanner} | json | severityhigh | unwrap duration這條查詢的意思選擇app等于security-scanner的日志流解析JSON字段篩出高危漏洞然后把duration字段作為數(shù)值用于圖表繪制。需要注意LogQL的json解析要求日志內(nèi)容是標(biāo)準(zhǔn)JSON單行格式如果是pretty打印的多行JSONPromtail推過來會(huì)解析失敗。這個(gè)坑我踩了不止一次現(xiàn)在掃描器輸出日志前統(tǒng)一先做一次單行化處理。2.4 數(shù)據(jù)源配置的坑與注意事項(xiàng)Grafana數(shù)據(jù)源配置本身不難但有幾個(gè)細(xì)節(jié)值得記住。MySQL數(shù)據(jù)源建議使用只讀賬號(hào)??窗逯恍枰樵儾恍枰獙懭搿S米x寫賬號(hào)萬一某條查詢誤觸發(fā)了更新操作后果是很嚴(yán)重的。另外Grafana對(duì)MySQL查詢有個(gè)限制默認(rèn)不允許SELECT以外的語句這個(gè)可以保持開啟。連接超時(shí)參數(shù)要設(shè)置。數(shù)據(jù)量大的情況下一條慢查詢可能拖到30秒以上看板加載時(shí)會(huì)轉(zhuǎn)圈很久。我在MySQL數(shù)據(jù)源配置中將timeout設(shè)為10秒查詢超過10秒就直接失敗寧可看板局部加載失敗也不能卡死整個(gè)頁(yè)面。Loki查詢?nèi)绻婕案哳l解析建議開啟log volume的緩存。這個(gè)在Loki配置里可以調(diào)減少重復(fù)查詢的負(fù)載。3. 看板設(shè)計(jì)與可視化落地從一堆數(shù)字到一屏了然3.1 看板的分層設(shè)計(jì)思路看板不是把圖表堆在一起就完事了布局和層級(jí)直接決定了使用效率。我設(shè)計(jì)的看板分了四個(gè)區(qū)域按照總覽→趨勢(shì)→明細(xì)→追蹤的邏輯排布。第一行是核心指標(biāo)卡當(dāng)前未修復(fù)漏洞總數(shù)、高危及以上數(shù)量、本周新增漏洞數(shù)、本周修復(fù)數(shù)、平均修復(fù)時(shí)長(zhǎng)。這五個(gè)數(shù)字回答的是當(dāng)前狀態(tài)怎么樣。第二行是趨勢(shì)圖漏洞發(fā)現(xiàn)趨勢(shì)按天堆疊柱狀圖和修復(fù)趨勢(shì)按天折線圖?;卮鸬氖亲罱亲兒眠€是變壞。第三行是分布圖按資產(chǎn)維度的漏洞分布按團(tuán)隊(duì)維度的修復(fù)負(fù)載按來源工具的漏洞占比。回答的是問題集中在哪。第四行是明細(xì)列表未修復(fù)漏洞的表格支持按嚴(yán)重級(jí)別、資產(chǎn)、團(tuán)隊(duì)過濾點(diǎn)擊能跳到關(guān)聯(lián)的資產(chǎn)詳情?;卮鸬氖蔷唧w是哪些漏洞在拖后腿。這個(gè)分層邏輯不是拍腦袋定的。我見過很多看板把幾十個(gè)圖表不分主次全堆在上面結(jié)果打開后大腦一片空白根本不知道先看哪里。核心指標(biāo)卡給結(jié)論趨勢(shì)圖給方向分布圖給定位明細(xì)表給抓手一層往下鉆一層。3.2 核心指標(biāo)卡SQL與告警閾值設(shè)定指標(biāo)卡的SQL相對(duì)簡(jiǎn)單但要寫出正確結(jié)果有幾個(gè)細(xì)節(jié)。以未修復(fù)高危漏洞數(shù)為例這個(gè)查詢?cè)贛ySQL中的寫法是SELECT COUNT(*) FROM vulns WHERE status IN (open, fixing) AND severity high這里要注意status的取值。漏洞狀態(tài)流轉(zhuǎn)一般是open→fixing→fixed→ignored未修復(fù)應(yīng)該包含open和fixing兩個(gè)狀態(tài)。很多看板只統(tǒng)計(jì)statusopen會(huì)導(dǎo)致同一漏洞進(jìn)入修復(fù)流程后從看板上消失數(shù)字看起來很好看但實(shí)際風(fēng)險(xiǎn)還在那里。本周新增漏洞數(shù)的SQL要小心時(shí)間跨度的邊界SELECT COUNT(*) FROM vulns WHERE discovered_at DATE_SUB(NOW(), INTERVAL 7 DAY)這個(gè)寫法是可以的但如果你希望本周是從周一開始算而不是過去7天就要用YEARWEEK函數(shù)。我在踩了一次周一例會(huì)看板數(shù)字和上周五對(duì)不上的坑之后寫了個(gè)統(tǒng)一的時(shí)間定義在變量里加了一個(gè)date_range下拉框默認(rèn)本周可切到近7天、近30天、本季度所有圖表共用同一個(gè)變量口徑才不會(huì)亂。告警閾值方面我給高危未修復(fù)數(shù)設(shè)了三級(jí)閾值5個(gè)以下綠色5到10個(gè)黃色超過10個(gè)紅色。這個(gè)閾值不是隨便定的是通過回看歷史三個(gè)月的數(shù)據(jù)算出來的——正常情況下高危未修復(fù)數(shù)在3到8之間波動(dòng)5作為黃色預(yù)警線能捕捉到上升趨勢(shì)10作為紅色告警線則意味著某個(gè)環(huán)節(jié)大概率出故障了。3.3 趨勢(shì)圖與分布圖的構(gòu)建方法趨勢(shì)圖使用Grafana的Time series面板。MySQL數(shù)據(jù)源的表查詢要按時(shí)間維度做分組聚合SELECT DATE_FORMAT(discovered_at, %Y-%m-%d) as day, severity, COUNT(*) as cnt FROM vulns WHERE discovered_at NOW() - INTERVAL 30 DAY GROUP BY day, severity ORDER BY dayGrafana的MySQL查詢支持返回多個(gè)series這套SQL按天級(jí)別兩個(gè)維度分組后Time series會(huì)自動(dòng)把不同severity渲染成不同的柱子或線。圖表上的圖例名稱如果顯示的是highcritical之類的枚舉值最好在SQL中用CASE WHEN轉(zhuǎn)一下成中文標(biāo)簽否則領(lǐng)導(dǎo)看的時(shí)候會(huì)問critical是啥意思。SELECT DATE_FORMAT(discovered_at, %Y-%m-%d) as day, CASE severity WHEN critical THEN 嚴(yán)重 WHEN high THEN 高危 WHEN medium THEN 中危 ELSE 低危 END as severity, COUNT(*) as cnt FROM vulns WHERE discovered_at NOW() - INTERVAL 30 DAY GROUP BY day, severity ORDER BY day分布圖我推薦用Bar gauge和Pie chart兩個(gè)面板。資產(chǎn)管理分布用Bar gauge每條柱子代表一個(gè)資產(chǎn)柱子的長(zhǎng)度是從高到低的漏洞總數(shù)柱子顏色按最高危級(jí)別映射這樣一眼能看出哪個(gè)資產(chǎn)是最需要優(yōu)先處理的。團(tuán)隊(duì)負(fù)載分布用Pie chart展示每個(gè)團(tuán)隊(duì)名下未修復(fù)漏洞的占比這個(gè)圖在周會(huì)上非常有用誰的工作量最重一目了然。3.4 變量模板化的高級(jí)應(yīng)用Grafana的變量功能是看板靈活性的關(guān)鍵。我在看板里定義了三個(gè)變量資產(chǎn)分組、團(tuán)隊(duì)、來源工具都是基于MySQL數(shù)據(jù)源做Query變量SELECT DISTINCT team FROM vulns WHERE team ! ORDER BY team變量定義之后所有面板的查詢中都可以引用。以資產(chǎn)分布圖為例子查詢里加上AND team ${team}當(dāng)下拉框選擇安全組時(shí)資產(chǎn)分布圖就只會(huì)展示安全組名下的資產(chǎn)漏洞情況。這個(gè)聯(lián)動(dòng)的價(jià)值在于同一個(gè)看板既可以用作全局總覽也可以選中某個(gè)團(tuán)隊(duì)下鉆查看不需要為每個(gè)團(tuán)隊(duì)單獨(dú)建一塊看板。變量也會(huì)有個(gè)小坑如果某個(gè)下拉框選了空值查詢會(huì)變成AND team 導(dǎo)致部分?jǐn)?shù)據(jù)被過濾掉。解決辦法是在變量的Include All option中設(shè)置一個(gè)All值查詢模板寫成AND ($team all OR team $team)這樣All的時(shí)候不做過濾選中特定團(tuán)隊(duì)時(shí)才過濾。3.5 安全測(cè)試看板與監(jiān)控告警看板的區(qū)別最后說一個(gè)容易混淆的點(diǎn)。Grafana的模板庫(kù)里有大量現(xiàn)成的服務(wù)器監(jiān)控看板網(wǎng)絡(luò)流量、CPU、磁盤全都有很多新手以為安全測(cè)試看板也能直接導(dǎo)入一個(gè)現(xiàn)成模板就行。實(shí)際上這兩類看板的側(cè)重點(diǎn)差別很大監(jiān)控看板關(guān)注系統(tǒng)當(dāng)前是否健康和穩(wěn)定展示的是吞吐量、延遲、錯(cuò)誤率安全測(cè)試看板關(guān)注風(fēng)險(xiǎn)暴露面是否在可控范圍展示的是漏洞數(shù)量、修復(fù)時(shí)效、資產(chǎn)暴露情況。所以安全測(cè)試看板在導(dǎo)入模板時(shí)不能指望開箱即用數(shù)據(jù)模型就是你要自己先搭好的。我這套看板里的所有面板都是從頭配的沒有用任何現(xiàn)成模板。模板的參考價(jià)值在于學(xué)習(xí)布局和圖表類型的搭配不在于直接套用。4. 告警與通知讓安全風(fēng)險(xiǎn)主動(dòng)找到人4.1 告警規(guī)則與閾值設(shè)計(jì)可視化看板解決的是被動(dòng)查看的問題但真正讓看板產(chǎn)生價(jià)值的是告警——風(fēng)險(xiǎn)出現(xiàn)時(shí)不用等人主動(dòng)打開看板系統(tǒng)直接推消息到相關(guān)人。Grafana的告警規(guī)則支持基于面板查詢配置。我在一個(gè)關(guān)鍵指標(biāo)上配置了告警高危以上未修復(fù)漏洞數(shù)超過10條時(shí)觸發(fā)。詳細(xì)配置如下groups: - name: security_vulns rules: - alert: HighVulnCountTooHigh expr: mysql_vuln_high_count 10 for: 30m labels: severity: page team: security annotations: summary: 高危漏洞數(shù)超過10條當(dāng)前值 {{ $value }} description: 當(dāng)前未修復(fù)高危以上漏洞數(shù)量為 {{ $value }}已超過閾值10條請(qǐng)及時(shí)跟進(jìn)處理。這個(gè)配置有幾個(gè)設(shè)計(jì)考量。for: 30m表示持續(xù)30分鐘才觸發(fā)避免掃描器剛?cè)霂?kù)一批數(shù)據(jù)、團(tuán)隊(duì)還沒來得及處理時(shí)告警反復(fù)橫跳。曾經(jīng)我設(shè)置的for: 5m結(jié)果每次掃描任務(wù)跑完都會(huì)產(chǎn)生一批告警早上一來看到幾十條未讀到最后大家連看都不看了。告警疲勞比沒有告警更可怕。我這里用的是傳統(tǒng)告警引擎的配置方式。如果你使用的是Grafana 9以上的版本建議使用統(tǒng)一告警引擎Unified Alerting直接在界面里配置規(guī)則可以按查詢做區(qū)間判斷也能用表達(dá)式組合多個(gè)條件靈活度更高。4.2 通知渠道接入與分級(jí)策略告警要發(fā)到合適的人手里才有效。我配置了三個(gè)通知渠道企業(yè)微信群機(jī)器人、郵件、釘釘。分組策略按嚴(yán)重級(jí)別區(qū)分critical級(jí)告警直接推群并安全負(fù)責(zé)人high級(jí)告警推群不人medium及以下只寫進(jìn)每周匯總郵件。分級(jí)方案在告警疲勞和感知度之間取了個(gè)平衡。企業(yè)微信機(jī)器人接入方法很成熟建一個(gè)群添加自定義機(jī)器人拿到Webhook地址在Grafana的通知渠道里新建一個(gè)Webhook類型URL填機(jī)器人的地址消息模板可自定義。模板中可以用{{ commonAnnotations.summary }}和{{ commonLabels.severity }}來引用告警信息。我實(shí)際用下來的消息模板長(zhǎng)這樣{ msgtype: text, text: { content: 【安全告警】{{ .CommonAnnotations.summary }}\n詳情{{ .CommonAnnotations.description }}\n時(shí)間{{ .StartsAt }} } }有一點(diǎn)要提前注意Grafana的通知渠道和告警規(guī)則是在不同地方配置的很多新手把Webhook地址填完就以為完事了結(jié)果告警觸發(fā)半天沒人收到消息一查發(fā)現(xiàn)告警規(guī)則里沒有關(guān)聯(lián)這個(gè)通知渠道。在Grafana 9中通知策略Notification policies負(fù)責(zé)把告警路由到對(duì)應(yīng)的聯(lián)系人需要單獨(dú)在Alerting→Contact points和Notification policies里各配一遍。4.3 告警靜默與防抖實(shí)戰(zhàn)告警靜默是最容易被忽略但最實(shí)打?qū)嵔鉀Q問題的一個(gè)功能。安全測(cè)試場(chǎng)景經(jīng)常出現(xiàn)的情況夜間批量掃描任務(wù)跑完一批低危漏洞入庫(kù)觸發(fā)了一堆不痛不癢的告警某資產(chǎn)臨時(shí)下線維護(hù)掃描器連續(xù)幾次連不上導(dǎo)致檢測(cè)結(jié)果異常某團(tuán)隊(duì)正在做集中修復(fù)高危數(shù)量在下降通道但還沒降到閾值以下每天固定觸發(fā)一次告警。我在實(shí)踐中為這三種場(chǎng)景分別配置了靜默規(guī)則夜間掃描時(shí)段凌晨0點(diǎn)到6點(diǎn)自動(dòng)靜默非critical告警對(duì)特定資產(chǎn)的告警設(shè)置48小時(shí)靜默維護(hù)窗口通過匹配labels里的asset_ip對(duì)正在修復(fù)的團(tuán)隊(duì)設(shè)置了serialized告警即同一規(guī)則在6小時(shí)內(nèi)只通知一次。Grafana的靜默配置在Alerting→Silences中可以創(chuàng)建支持基于label匹配器精確匹配。創(chuàng)建時(shí)最關(guān)鍵的是設(shè)定合理的持續(xù)時(shí)間時(shí)間到了自動(dòng)過期不用手動(dòng)清理。我建議規(guī)則中務(wù)必帶上team或asset_ip標(biāo)簽否則靜默只能按整條規(guī)則全局匹配粒度太粗。5. 常見問題與排查技巧實(shí)錄踩過的坑都在這5.1 數(shù)據(jù)時(shí)間與看板趨勢(shì)對(duì)不上問題這是我最先遇到、也是咨詢最多的問題MySQL里明明有數(shù)據(jù)但看板上的趨勢(shì)圖出現(xiàn)斷層或數(shù)據(jù)點(diǎn)完全不顯示。排查思路一Grafana默認(rèn)使用瀏覽器的時(shí)區(qū)。如果瀏覽器時(shí)區(qū)是UTC而MySQL中存儲(chǔ)的是北京時(shí)間那么discovered_at字段在查詢時(shí)會(huì)被Grafana按UTC時(shí)間處理導(dǎo)致數(shù)據(jù)偏移8小時(shí)。體現(xiàn)在圖表上就是當(dāng)天數(shù)據(jù)少了幾小時(shí)。解決辦法是在Grafana的Preferences中把時(shí)區(qū)設(shè)置為Asia/Shanghai或者在數(shù)據(jù)源配置中指定time_zone參數(shù)。排查思路二時(shí)間字段格式不標(biāo)準(zhǔn)。MySQL的datetime類型沒問題但如果你把時(shí)間存成字符串Grafana的MySQL插件能識(shí)別標(biāo)準(zhǔn)的YYYY-MM-DD HH:MM:SS格式識(shí)別不了2024-01-01T00:00:00Z這種ISO帶時(shí)區(qū)的格式。我遇到過一次是因?yàn)槟炒螌?dǎo)入腳本用了Python的isoformat()導(dǎo)致了這個(gè)問題。排查思路三查詢條件中的時(shí)間范圍寫錯(cuò)。Grafana在面板中通過$__timeFrom和$__timeTo宏來限定時(shí)間范圍如果SQL中忘了寫WHERE discovered_at $__timeFrom就會(huì)出現(xiàn)在面板設(shè)定時(shí)間范圍外查全部數(shù)據(jù)的風(fēng)險(xiǎn)數(shù)據(jù)量大時(shí)查詢會(huì)很慢。-- 正確寫法使用Grafana宏限定時(shí)間范圍 SELECT DATE_FORMAT(discovered_at, %Y-%m-%d) as day, COUNT(*) as cnt FROM vulns WHERE discovered_at $__timeFrom AND discovered_at $__timeTo GROUP BY day5.2 JSON日志解析失敗問題用Loki做半結(jié)構(gòu)化數(shù)據(jù)解析時(shí)最常見的問題是日志推上去了但查不出來字段。這個(gè)情況十有八九是日志格式不是標(biāo)準(zhǔn)單行JSON。Promtail默認(rèn)按行讀取文件如果你的JSON報(bào)告是格式化過的、有換行縮進(jìn)Promtail會(huì)把整個(gè)JSON按單行推上來嗎不會(huì)它會(huì)按換行切成多行每一行都不完整LogQL的| json解析自然失敗。解決方案有幾個(gè)我最終用的是在采集端做預(yù)處理寫了個(gè)小腳本把掃描器的結(jié)果先通過json.dumps壓縮成單行再丟棄到一個(gè)output.json文件里Promtail只監(jiān)聽這個(gè)文件。這樣改動(dòng)只影響采集側(cè)不影響原始報(bào)告存檔。還有一個(gè)排查技巧Loki的Explore頁(yè)面可以直接查看原始日志流。如果你發(fā)現(xiàn)某個(gè)日志流的content字段是一大段帶縮進(jìn)的JSON基本就能判定是格式問題。用{appsecurity-scanner} | vuln這樣的查詢手動(dòng)確認(rèn)解析效果是一條快捷的排查路徑。5.3 MySQL查詢性能問題隨著漏洞數(shù)據(jù)不斷累積vulns表到了百萬行級(jí)別后看板的加載速度肉眼可見地變慢。我遇到的性能優(yōu)化有幾個(gè)關(guān)鍵動(dòng)作第一個(gè)是索引。critical查詢中經(jīng)常使用到status、severity、discovered_at這三個(gè)字段的組合。我給vulns表創(chuàng)建了復(fù)合索引ALTER TABLE vulns ADD INDEX idx_status_severity_time (status, severity, discovered_at);這個(gè)索引直接讓按狀態(tài)級(jí)別時(shí)間范圍過濾的查詢從全表掃描變成索引range scan加載速度提升了大概10倍。第二個(gè)是聚合查詢的優(yōu)化。跟監(jiān)控系統(tǒng)一樣Grafana的趨勢(shì)圖是按小時(shí)甚至按分鐘拉數(shù)據(jù)的存儲(chǔ)層做了預(yù)聚合就快很多。我在MySQL里加了一張vulns_daily_summary表每天跑一個(gè)定時(shí)任務(wù)統(tǒng)計(jì)當(dāng)天的漏洞增量、修復(fù)量、各級(jí)別數(shù)量趨勢(shì)圖直接查這張匯總表明細(xì)列表才去查大表。這樣看板響應(yīng)速度和底表數(shù)據(jù)量基本解耦了。第三個(gè)是做數(shù)據(jù)歸檔。超過一年的已修復(fù)漏洞定期移到vulns_archive表主表只保留活躍和近一年的數(shù)據(jù)查詢性能才有保障。5.4 看板顯示權(quán)限與多團(tuán)隊(duì)隔離當(dāng)看板要開放給多個(gè)團(tuán)隊(duì)查看時(shí)權(quán)限隔離就成了繞不開的問題。安全團(tuán)隊(duì)希望所有團(tuán)隊(duì)都能看到自己名下的漏洞但又不希望A團(tuán)隊(duì)看到B團(tuán)隊(duì)的數(shù)據(jù)。Grafana的實(shí)現(xiàn)方式是通過組織和文件夾來配置權(quán)限。方案是創(chuàng)建安全運(yùn)營(yíng)組織Organization統(tǒng)一管理所有看板。按團(tuán)隊(duì)創(chuàng)建文件夾每個(gè)團(tuán)隊(duì)的看板放在對(duì)應(yīng)的文件夾下。在文件夾的Permissions中添加對(duì)應(yīng)團(tuán)隊(duì)并對(duì)齊角色為Viewer。核心敏感看板如全局總覽只對(duì)管理員開放普通用戶可以訪問但看不到。如果同一塊看板想讓不同用戶只看到自己團(tuán)隊(duì)的數(shù)據(jù)則要利用變量加數(shù)據(jù)權(quán)限控制。Grafana企業(yè)版有基于標(biāo)簽的權(quán)限控制但社區(qū)版沒有。我的替代方案是按團(tuán)隊(duì)拆分變量為每個(gè)用戶配置獨(dú)立的首頁(yè)看板URLURL中帶上團(tuán)隊(duì)參數(shù)例如/d/vuln-board?var-teamsecurity。用戶打開的就是過濾后的視圖不需要進(jìn)入編輯模式就能看到對(duì)應(yīng)數(shù)據(jù)。這個(gè)方案不完美但勝在簡(jiǎn)單可落地。5.5 常見問題速查表問題現(xiàn)象可能原因解決方案趨勢(shì)圖時(shí)間偏移數(shù)小時(shí)時(shí)區(qū)不匹配Grafana Preferences設(shè)置為Asia/Shanghai趨勢(shì)圖數(shù)據(jù)斷層時(shí)間字段為字符串格式統(tǒng)一改為datetime類型日志解析后無字段JSON多行格式預(yù)處理壓縮為單行JSON看板加載很慢缺少?gòu)?fù)合索引添加(status, severity, discovered_at)索引告警反復(fù)觸發(fā)for配置過短設(shè)置for為30m或更長(zhǎng)消息沒收到通知策略未關(guān)聯(lián)在Alerting中檢查聯(lián)系點(diǎn)和路由部分圖表顯示No data變量空值過濾查詢中使用($var all OR field $var)用戶可以看到其他團(tuán)隊(duì)數(shù)據(jù)權(quán)限配置不對(duì)按文件夾設(shè)置團(tuán)隊(duì)權(quán)限最后分享一個(gè)個(gè)人體會(huì)看板的價(jià)值不取決于圖表的數(shù)量取決于團(tuán)隊(duì)是否真正依賴它做日常決策。這套系統(tǒng)上線頭一個(gè)月大家還是會(huì)習(xí)慣性地問最近漏洞情況怎么樣到第二個(gè)月、第三個(gè)月他們已經(jīng)開始主動(dòng)盯著高危數(shù)量那個(gè)指標(biāo)卡一旦變黃變紅就來找安全團(tuán)隊(duì)問情況——這時(shí)候看板才算真正長(zhǎng)在了流程里而不只是一個(gè)偶爾打開的展示屏。先從一個(gè)核心指標(biāo)卡開始跑通數(shù)據(jù)鏈路再逐步增加圖表和告警規(guī)則是這套方案落地時(shí)最穩(wěn)妥的推進(jìn)節(jié)奏。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情综合婷婷久久| 超碰二区| 婷婷导航| 国产裸舞表演WWWW| 五月网激情| 亚洲天堂婷婷丁香| 色吧五月婷婷| 99热官网精品在线| 婷婷玉月丁香五月在线视频| 丁香婷婷五月天在线视频| 97超级碰碰碰久久久| 欧美成人精品A片免费一区99| 欧美日韩99| 热久久视频99| 五月丁香亭亭成人电影| 五月色网| 亚洲色婷婷久久99精品91| 涩五月婷婷| 五月婷婷熟女| 亚洲色色在线| 色婷婷五月天中文字幕| 97色欧美| www,色综合| 夜夜久久综合网| 天天网站天天爽| 亚洲操B视频| 婷婷另类小说| 五月激情六月宗合| 91九色视频| 五月激情网综合| 激情综合网五月婷婷| 万月丁香狠狠爱| 免费啪啪亚州视频| 青草五月天| 99热6这里只有精品6| 婷婷五月丁香青青草在线| 九月丁香亭亭| WWW.99热| 开心激情综合| 狠狠插狠狠插| 久久色情| 丰满老熟妇BBBBB搡BBB| 深爱五月天| 久久色五月天| 婷婷六月色开| 99这里都是精品6| 午夜理论片最新午夜理论剧| 久久色五月| 亚洲另类婷婷综合| 丁香无月在线观看| 26uuu四色| 色狠狠999综合| 日本欧特黄色刺激一区影视久精品无码| 极品人妻VIDEOSSS人妻| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 六月婷婷综合网2| 丁香六月欧美| 国产高潮A片羞羞视频涩涩| 婷婷色婷婷| 丁香五月六月综合欧美| 站长推荐无码播放| 日日爽日日| 男女99免费视频| 国产毛片精品一区二区色欲黄A片| 色了色综合| VA国产在线综合网站| 一起草无码视频| 日本WWW九九九| 久久五月天免费网站| 中文字幕av网站| 奇米色大香蕉| 五月天激情久久| 9热网站| 日本欧美成人片AAAA| 99热这里只有精彩| 成人在线观看精品| 国产精品人妻在线网址| 色婷婷五月成人网| 激情久久久| 亚洲综合999| 超碰国产AV| www激情网站| 99热碰碰| 丁香久色| 九九在线精点品| av色色国产| 99热碰碰| 噼里啪啦完整版中文在线观看 | …亚洲黄色在线播放日韩、av中文a…| 碰久久精品w| 伊人超碰在线| 色婷丁香五月| 久草五月天| 九九热精品视频在线观看| 色爱99| 五月丁香啪啪网| 99热综合网| 少妇大叫太大太粗太爽了A片| 91 影音先锋| 久久这里只有精品视频15| 国产性爱色| 欧美精产国品一二三区| 天天操天天草天天草天天| 亚州操人在线视频| 中文字幕人成乱码在线观看| 国产精品丝| 99久热| 五月丁香六月合| 色五XX| 4399亚洲视频| 三日本无码| 久9视频免费播放| 天天日综合网射| 久久免费婷婷视频| 国产午夜精品AV一区二区麻豆| 九月丁香网婷婷| 久9久成人精品视频| 婷婷偷拍网| 亚洲另类久久| 国产69久久久欧美黑人A片 | 欧美大道不卡| 五月婷婷伊| 久久色五月| AV美美午夜| 婷婷娌伦网| 欧美激情综合| 丁香五月成人自拍| 五月丁香在线婷婷蜜桃| 婷婷综合五月天| 9热久久| 99热综合在线观看| 97色色视频| 五月婷婷色播| 丁香五月天社区| 国产AV国片偷人妻麻豆| www.激情五月天.com| 五月天色影院| 激情婷婷五月在线合集| 99久久99热这里只有精品| 丁香五月综合婷婷| 久久总和99| 六月婷婷亚洲| 深夜婷婷 丁香| 婷婷六月丁香激情| 亚洲综合五月天婷婷| 超碰在线网站| 婷婷日欧美在线观看| 亚洲V国产V欧美V久久久久久| 中文字幕av在线播放| 亚洲V国产V欧美V久久久久久| 黄久久久| 99在线播放视频| 婷婷色六月| 999热在线视频| 国产乱妇无乱码大黄AA片| 夜夜爱爱亚洲| 97干在线播放| 九九热自拍| 另类小说色婷婷| 99丝袜精品视频网站| 伊人婷婷激情| 色开心五月婷婷丁香HD| 干一干xxxx| 欧美日韩五月婷婷| 亲子乱AV一区二区三区下载| 91 九色 熟女| 无码AV免费精品一区二区三区 | 97色综合| 久久99热这里只有精品| 国产白丝在线一区| 99热在线播放| 五月丁香日本一抹本| 99久久激情视频| 91午夜婷婷狠狠久久综合9色| 婷婷开心综合人妻小说网址| 五月婷婷丁香综合,亚洲天堂| 另类综合国产| 亚洲爱婷婷| 五月婷婷五月丁香| 婷婷五月色| 一起草AV| 亚洲综合婷婷| 色婷婷五月综合激情中文字幕| 五月天激情Av| 五月天婷婷色色网| 亚洲精品视频电影| 精品婷婷| 99色丁香婷婷综合网| 久久婷婷影院| 五月天涩涩| 激情伊人网| 亚洲操精品| 69精品人人人人| 少妇被躁爽到高潮无码文 | 大香蕉久久伊人婷婷五月丁香| 色噜噜狠狠色综合日日| 大香蕉院线| 色色色色色日韩午夜激情| 婷婷社区五月天| 婷婷综合精品| 性爱网五月婷婷| 国产色色色色| 91九色精品熟女内射| 色吧五月| 精品人妻久久久久久久| 婷婷九月综合| 91精选国| 五月丁香亭亭| 久久人妻视步| 综合五月草| 九九XX视频| 播播网色播播| 婷婷五月中文字幕国产| 丁香五月婷婷啪啪| 1234操逼网| 这里只有精品在线观看视频| 色五月天成人| 丁香社区婷婷五月| 五月花婷婷在线精品视频| 热久久999| 97碰人人操| 久久久久亚洲A∨成人乱码电影| 九九九干精品| 内射爽无广熟女亚洲| 思思网站| 夜夜爱影院| 香蕉AV777XXX色综合一区 | 色偷偷色婷婷| av免费人人| 99热青青草| 五月婷婷啪啪啪啪| 欧美搡BBBBB摔BBBBB| 丁香婷婷五月天在线视频| 五月丁香综合激情在线观看| www.91久久| 国内精品免费一区二区2009| 无码人妻丰满熟妇奶水区码| 人人摸人人| 99精品视频网| 国产精品香蕉| 日本操逼九九九九58日本操逼| 超碰av在线| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 翔田千里 50岁 无码| 丁香五月成人在线| 丁香五月综合在线播放 | 色婷婷丁香| 提提热五月天婷婷| 亚洲激情五月婷婷日日| 婷婷五月天激情偷拍| 超碰在线观看99| 五月丁香婷婷啪啪网| 精品欧美性爱超级爽| www.91久久| 99热这里都是精品| 色色五月天激情| 亚洲五月天激情| 色色色网站| 超碰在线观看99| 热99免费在线| 午夜爱爱网站| 人人操91| 丁香五月色| 9+1视频网址| 九九热啪啪| 99视频这里有精品| 五月天综合激情网| 亚州色色色| 91超级碰在线视频| 99性色| 性婷婷| 欧美大奶熟女噜噜噜噜| 一本道综合网| 天天综合天综合| 五月丁香欧美| 亚洲无码yw| 久久视频婷婷| 激情综合五| 五月婷婷性爱| 国产精品VIDEOSSEX久久发布| 九九99精品视频在线观看| 欧美丁香婷婷五月天| 婷婷五月天激情网站| 激情深爱五月| 久久9视频欧美| 另类综合激情| 五月丁香激情综合| 激情五月婷色| 五月丁香| 99干99| www.99操| 任你爽在线视频| 日本乱子人伦在线视频| 欧美大片免费播放器| 天天狠狠夜夜狠狠2023| 五月天伊人网| 99啪啪| 丁香五月电影| 久久激情五月婷婷| 五月丁香成人网| 色吧五月婷婷| 欧美久热| 日韩欧美不卡| 在线中文AV| 成熟妇人A片免费看网站| wwwss在线观看| 天天插天天爽| A片试看50分钟做受视频| 日本99热| 无码字幕中文| 五月婷婷激情| 五月天激情视频网站| 久热这里| 中字幕视频在线永久在线观看免费 | 午夜爱爱爱成人| 夜夜骑福利资源| 激情色色色| 中文字幕婷婷五月天在线观看| 激情五月丁香在线观看直播| 91九色小视频| 日韩av在线电影| 国产亚洲网站在线| 99re热精品视频国| 丁香花大香蕉婷婷综合| 97色97干| 丁香五月欧美色综合| 亚洲激情免费视频| 丁香五月婷婷基地| 色一情一乱一乱一区91| 538在线精品| 99色综合| 亚洲色区17| 国产亚洲99久久精品| 久久天堂加勒比| 日日骑夜夜撸| 五月丁香五月丁香| 大香蕉五月婷婷丁香| 伊人五月天综合网| www色婷婷| 国产亚洲精品AAAAAAA片| 五月婷婷色欲| 婷婷丁香五月天影院 | 99九九精品| 五月丁香激情五月天| 五月丁香网中文字幕| 9999色色色色| 中文AV在线播放| 97色在线| 婷婷激情四射五月天| 九月激情综合| 色综合久久伊伊婷婷五月| 丁香五月六月婷婷殴美综合| 婷婷情色五月天| 一级片sese片.COM| 久久婷婷五月综合色区| 激情五月婷婷免费视频| 五月丁香六月激情综合| 99热99成人| 超碰爱爱爱| 一区中文字幕电影| 另类精品视频在线观看| 九九视频在线观看| 9|在线观看视频| 98永久精品| 五月天婷婷日日爱| 91九色精品| 免费看欧美成人A片无码| 丰满老熟妇BBBBB搡BBB| 婷婷五月天成人导航| 久久久.COM| se99热久久一本| 很很干夜夜干| 亚洲成人另类| 99A级片| 97久操视频| 九九色热| 六月激情婷婷| 99在线精品视频| 久久久久久天天日天天爱| 99热最新| 婷婷六月婷婷| 五月婷九月| 五月网网站| 婷婷九月丁香中文| 欧美日韩123| 久久综合中文字幕| 色九月婷婷| 丁香开心深爱| 黄色AAAAAAA| 五月激情婷婷丁香天堂| 91在线日| 欧美在线| 丁香婷婷五月| 五月婷在线观看| 婷婷五月天福利| 青青操绿aaa一区日v| 色播五月丁香| 天天色激情| 天天精品视频免费观看| 六月婷婷色色色| 五月丁香啪啪激情| 人人操人人添人人摸97| 五月香婷婷| 开心亚洲久久开心| AV在线收看| 热久久这里只有精品| 91综合色| 亚洲色五月| 色。 日日日| 大香蕉五月丁香| 人妻久久做| 超碰婷婷色| 伊人色综合久久久| 精品成人无码A片观看香草视频 | 少妇丁香婷婷 | 无码成人AAAAA毛片AI换脸| 五月天影院| 中文字幕av久久爽一区| 大鸡巴伊人网| 日日色综合| 人妻 性久久久久久| 激情五月综合久久| 亚洲第一成人无码A片| 思思久久精品| 激情五月天色爱| 五月天丁香综合久久国产| 激情婷婷五月天| 久久99热在线观看| 五月天激情四射| 97久久综合网| 五月激情小说| 九九色人| 五月丁香六月婷婷在线| WWW.桔色成人.COM入口| 五月婷精品| 婷婷激情五月天桃花网| 国产真人做爰视频免费| 日本综合色色| 色色无码| 色婷婷成人五月| 丁香婷婷五月天校园春色| 91怕怕网| 99re欧美精品| 久久精品一区二区三区四区| 99热网站| 武则天精品久久| 激情五月婷婷色| 国产色丁香| 久久99精品久久久久久噜噜| 丁香六月激情国产| 日噜噜色| 国外亚洲成AV人片在线观看 | 亚洲天堂色色| 97香蕉久久超级碰碰高清版| 精品人妻伦九区久久AAA片| www.五月天婷婷姐姐| 久操婷婷| 五月丁香六月婷婷免费视频| 国产精品视频网| 一本色道久久综合狠狠躁小说| 中文字幕激情综合| 亚洲激情综合| 午夜丁香婷婷| 五月丁香啪啪啪免费看| 色综合色综合色综合| 久久久99免费视频| 丁香五月婷婷呀| 国产亚洲99久久精品熟| 亚洲激情综合网| 亚洲色色在线| 五月婷婷精品| 五月天婷婷影院| 狠狠色婷婷六月激情网| 亲子乱AV一区二区三区下载| 思思re最新视频| 丁香六月综合激情| 综合网激情五月天| 色婷久九| 色婷婷狠狠18yy| 4438激情网| 9l视频自拍九色9l视频自拍九色9l社区 | www色综合亚洲92| 亚洲综合1024| 99色最新在线视频网站| 五月天激情四射| 婷婷丁香91综合| 成人av在线电影| 五六月丁香激情视频| 久久99久久久| 五月婷婷综合在线| 中文字幕综合| 丁香五月婷婷激情中文| 26uuu色噜噜精品一区| 九月激情婷婷丁香| 激情五月天电影| 综合五月丁香六月婷婷| 婷婷五月天va| 激情五月天视频| 久久久潮喷-久久久九九-成人AV| 婷婷综合五月| av网址在线| 婷婷色狠狠| 婷婷偷拍网| 综合色色五月| 色婷婷av在线观看| 婷婷婷婷午夜| 色婷婷av综合网| 色婷婷在线影院| 色狠狠色| 另类小说五月天综合网| 六月撸婷婷| 五月天色综合| 婷婷伊人綜合中文| 五月色婷婷在线观看| 亚洲婷婷五月天激情综合| 丁香六月激情国产| 日韩AC在线免费观看| 超碰av在线| 99热这里只有精品99| 久久精品66| 婷婷五月天 偷拍| 色九网| 九月久久婷婷| 91xxxx九色| 91av成人| 草榴成人影片| 99视频综合| 国产成人精品亚洲线观看| 99久久久| 99热这里精品| 人人看人人摸人人| 亚洲色综久久五月| 天天操,天天插| 五月天天天开心激情网| 婷婷的五月天另类视频| 亚洲激情 久久| 婷婷丁香久久| 五月丁香六月在线欧美| 99小视频在线| 久久久妻人人人| 日本欧美在线| 婷婷激情五月吧| 婷婷激情中文综合| 五月丁香色婷婷婷基地| 久久婷婷五月国产色综合激情| 色情婷婷| 亚洲综合色网站| 男人天堂伊人五月丁香| 678五月丁香亚洲综合| 综合激情网五月激情 | 日本久久婷| 五月天三级久久| 人人操9| 国产亚洲精品久久久久久久久动漫| 另类图片五月天| 极品人妻VIDEOSSS人妻| 久久精品无码一区| wuyuedingxiang| 色五月激情综合网站| 人人操人人添人人摸97| 99热亚洲精品| 婷婷五月天美女| 久久婷婷激情五月天一区二区| 毛片网站谁有| 久久视频66| 丁香久久AV| 天天干天天 亚洲| 淫荡综合网| 婷婷免费视频| 婷婷深爱五月丁香| 激情综合五月天| 激情六月婷婷| 久99久视频精品| 五月丁香六月婷婷激情四射| 五月天婷婷綜合院| 色色色五月婷| 欧美日韩AAAAA| 五月色婷婷激情| 五月的色婷婷高潮| 91碰碰| 亚洲精品一区无码A片| 五月婷丁香| 久操香蕉| 天天肏视频| 婷婷五月AA五月在线| 中文字幕色色| 99热这里全都是精品| 俺去也五月天| 九九精品丁香花| 9热视频在线观看| 在线五月色播| 六月激情网| 色五婷婷在线视频| 久色网| 色五月婷婷影视| 国产成人网址| 26uuu亚洲精品国产| pom538精品视频| 五月婷在线| 激情婷婷黄色五月| 色丁香五月婷婷| 亚洲精品第一国产综合亚AV| 丁香五月激情图片婷婷| 99久久久免费| 久热A| 激情五月综合网| 丁香色色五月| 开心丁五月| 天天日,天天射,天天舔| 激情五月天婷婷五月天| 日韩无码系列| 婷婷五月天综合蜜桃| 天天日夜夜帕| 五月综合激情网| 中文字幕网站在线观看| 激情五月丁香激情综合网 | 色婷婷五月天小说| 久久99网| 牛牛澡牛牛爽| 国产xxxxx在线观看| 婷婷色导航| 无码AV免费精品一区二区三区| 亚洲国产精品SUV| 色吊丝永久访问网址| 亚洲开心激情网| 99ri国产| 91视频五月丁香| 9久操| 精品无吗va视频免费观看| 激情五月天色色| 九一娱乐在线观看视频| 99久热这里只有精品| 婷婷综合六| 亚洲成人高清在线| 在线播放 精品| 亚洲乱码日产精品BD在线观看| 丁香五月网| 26uuu亚洲欧美| 九九碰九九爱97| 九九99九九99偷拍视频免费看| 五月婷天天搞视频| 另类小说五月天| 久久久人人操A V| 亚洲成人综合在线| 婷婷丁香在线播放| 久久黄色免费视频| 五月丁香另类图片| aaaa.黄| 老美AA片| 婷婷五月综激情| 精品怡红九九九| 天天射影| 丁香五月天激情四射网络不好 | 九九人人操| 丁香五月 性爱| 97久久视频| 久久这里有精品视频| www久久五月com| 丁香五月婷婷高清| 激情综合五月丁香| 99色在线观看视频| 五月丁香六月婷婷在线播放| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 99r久久这里只有精品| 99精彩视频网站在线| 人人干99| 日本色色网站| 66色在线日韩| 婷婷深爱五月天| 99热这里只有在线| 无码人妻一区二区三区免费九色| 激情综合色五月六月婷婷| 99色在线| 五月丁香色综合| 亚洲有码在线视频| 欧美日韩国产一区二区| 97人妻碰碰碰碰碰久久久久久| 色亭亭影园| 久久综合99综合| 一本大道熟女人妻中文字幕在线| 五月天婷婷久久| 深爱五月激情| 国产精品色色| 九九热精品在线| 91丨九色丨国产打屁股| 丁香五月电影| 风流少妇A片一区二区蜜桃| 国产看真人毛片爱做A片| 一本久道综合色婷婷五月| 91婷色| 久操大香蕉| 婷婷免费无视频| 开心五月激情五月丁香五月婷婷| 色婷婷在线视频综合| 五月激情网络| 五月丁香六月欧美综合网站| 激情九色| 丁香五月六月综合欧美| 在线看片av| 人人草人人爱| 婷婷亚洲综合| 69凹凸成人综合网| 久xxxx| 91猫咪国产在线播放| 国产亚洲精久久久久| 色青青电影色五月| 桃色五月天| 97福利视频| 爱爱网址9| 婷婷六月丁香五月| 色色综合成人网| 超碰九热| 91狠狠综合久久久| 成人五月丁香花| 内射在线CHINESE| 丁香婷婷五月天成人| 色月丁| 一起草AV| 99热这里只有精品一区| 99色五月| 国产成人精品一区二三区熟女在线 | 亚洲乱码日产精品BD| 97综合视频在线| www.久久99热地址发布| 日韩黄黄| 婷婷五月天激情开心网| 色五月亚洲| 极品少妇XXXX精品少妇偷拍| 欧美碰碰| 五月婷婷综合性爱噜噜| 激情婷婷五月女| 激情网站综合五月天| 九九热这里只有精品6| 99亚洲精品视频| 五月精品99综合| 九九九九九九九九九九九九九国产精品| www.99热在线观看| 午夜色色色极品视频| 五月婷色激情五月| 综合AV在线| 丁香婷婷九月在线| 激情五月婷婷综合| 欧州色色| 9久国产精品| 婷婷丁香77777| 激情五月天的婷婷| 国内熟女黄色系列| 日韩啪啪视频| 免费AV播放| 日婷婷| 亚洲激情图文小说| 操碰99| 色99免费视频中文| 五月丁香色停停啪啪啪| 日本色色色| 97视频久久| 99热6精品| 亚洲狠狠婷婷综合久久久| 五月婷婷黄色| 啪啪东京热| 五月丁香综缴情性爱| 婷婷色网| 秋霞A V毛片| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 被男人添B超爽视频| 五月丁香婷婷色色| 色婷亚洲| 另类激情五月| 乱女乱妇熟女熟妇综合网站| 大香蕉手机视频| 日本久久人| 人人操大| 影院久久久| 1024人妻无码中文字幕| 91精品久久久久久综合五月天| 超碰九色| 少妇高潮一区二区三区99欧美| 丁香五月六月欧美| 五月丁香综合啪啪対白| 99小精品| 五月激情婷婷开心五月| 丁香五月六月久久综合| 97色在线观看视频| 91打屁股视频网站| 亚洲女婷婷五月基地综合久久久| 丁香五月天激情五月天激情五月天激情网| 伊九九三级区| 丁香五月香蕉| 五月天基地| 狠干综合| 欧美电影在线播放| 中文字幕按摩做爰| 国产黄色在线| 五月婷婷 激情按摩| 激情五月丁香五月| 八戒青柠影视剧在线观看| 中文字幕在线不卡| 亚洲AV成人在线| 丁香五月成人在线| 婷婷色网站| 思思色播| 激情婷婷亚洲五月| 午夜爱爱爱成人| 婷婷丁香五月欧美人| 狠狠干综合| 色波激情五月天| 思思热99er在线视频| 天天爽—爽| 天天射综合网天天插| 婷婷激情5月| 五月天色婷婷伊人网| 激情丁香图片| 午夜国产精品AV在线播放| 激情婷婷五月天日本系列| 五月天另类小说| 色五月婷婷网| 色色激情| 粉嫩AV久久一区二区三区| 丁香激情四射| 91pornav在线| 欧美色五月| 中文字幕+乱码+中文字幕在线观看| 操操自拍| 色综合爱综合| 秋霞AV吧| 五月婷婷开心网| 婷婷五月情| 久久机热这里只有 | 乱精品一区字幕二区| 婷婷五月天美女视频| 日本色色网站| 99热最新网址| 色婷婷婷婷五月天| 日本超碰在线| 五月天色小说| 99riAV国产精品视频| 欧美成性色| 九久热| 色亚洲色宗合| 国产激情在线| 亚洲亚洲人成综合网络| 97婷婷丁香五月天激情图片| 激情久久网| 丁香五月综合| 俺去也综合| 综合五月草| 91啪啪啪啪| 国产亚洲精品AAAAAAA片| 色综合色综合色综合色综合| 天天艹夜夜艹| 91丨九色丨43老版熟女| 亚洲天堂色色| 99热免费| 天天肏天天舔AV| 伊人久久婷婷五月天激情四射| 久久婷婷亚洲无码一起| 91丨九色丨东北熟女| 思思热视频在线| 日日想日日夜日日操| 大香蕉大香蕉在线影院| 精品国产AV色一区二区深夜久久| 九九热精品6| 影音先锋色色色资源色资源色| 婷综合六月| 天天天天干| AV成人在线播放| 5月丁香六月情| 丁香五月亚洲激情婷婷射| 激情色情五月天| 亚洲亚洲人成综合网络| 欧美婷婷丁香五月社区| 色久天| 激情五月天之六月婷婷| 欧美精产国品一二三区| 风流少妇A片一区二区蜜桃| 婷婷久草| 人人人操| 色婷婷的五月天| 五月停停丁香| 五月婷婷综合网| 任你操精品免费| 久久99免费视屏| 久热久| 久久久久久久久久8888| 丁香五月天视频| 洗浴中心操B视频| 亚洲性爱99在线| www.99热国产| 激情五月婷黄版| 五月婷婷影院| 超碰色综合| 丁香久月| av超碰在线| 蒲京久久无码视频| 久久婷婷丁香花综合网| 欧类av怡春院| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 亭亭五月激情亚洲在线| 另类激情五月| 九月婷婷丁香| 婷婷五月六月激情| 久久9视频| 五月天综合久久| 最新色色五月天| 大香蕉娱乐| 五月天久久激情| 香蕉97碰碰碰超视精品| 九草性爱| 婷婷六月丁香五月图区| 韩国中文字幕91| yjzz亚洲国产| 久久综合综合综合| 超碰在线播放免费观看| 婷婷丁香www视频日本韩国| www.久操| 黄网在线免费观| 色五月综合激情网| 一起草AV入口| 久久婷婷五月综合色丁香花| 精品热青草| 五月天婷婷AV| 九九色色网| 少妇激情基地| 思思综合热| se99视频| 大香蕉久久婷婷精品综合| yellow视频在线观看91| 4399人妻无码久久久| 免费精品99| 中字幕视频在线永久在线观看免费 | 夜夜撸天天操| 类似婷婷激情综合网站| 欧美日韩99| www.超碰| 狠狠一日| 久操干| 欧美黑人大吊| 亚洲看av的网站| 五月天AV大香蕉| 久久曰曰| 色五月丁香婷婷综合| 99热99热不卡| 丁香九月综合激情| 丁香五月婷婷骚视屏| 久久金品黃色| 97人人干人人操| 偷偷与邻居做爰完整视频| 中文AV网站| 超碰免费99| 五月婷婷激情色情网| 天天爱天天做天天操| 久久伊人大香蕉| 五月丁香久久综合91| 99色在线观看视频| 亚洲激情电影五月天色婷婷丁香一起草| 99热热九九| ji'qi'luan'ren'lun| 亭亭社区五月天| 国产午夜精品一区二区| 亚洲午夜av| 超碰天堂网| 色色五月丁香婷婷综合| 青青草原中文字幕| 六月色婷婷欧美| 婷婷久久色| 五月天激情国产综合婷婷婷| 九热av| 天天综合色99| 色婷婷a| 激情网站五月| 婷婷狠狠操| 色情婷婷五月天| 色都都狠狠色都都色综合色| 亚洲啪啪自拍| 亚洲激情综合色站| 九九热在线精品| 9国产在线视频| 天天操五月天| 日本三级中国三级99| 丁香五月婷婷乱| 色色色色色色网站| 日hao1区| 特级片神马电影| 六月激情婷婷| 婷婷五月大香蕉| 婷婷六月插屄激情| 在线99热| av第一二区| 国产精品蜜臀99| 五月丁香影院| 色综合久久88色综合天天99| 欧洲免费视频色| 九九热最新| 久久婷婷免费| xx色综合| 丁香六月婷婷色XXXXX| 婷婷亚洲久久| 欧洲第一久色| .精品久久久麻豆国产精品| 婷婷五月丁香综合| 男女免费视频999| 91主播在线| 五月婷婷六月奇米网丁香| 九九亚洲| 91狠狠综合久久| 99热中文字幕久久| 乱乱av| 激情综合网五月天天| 一起草av| BT综合在线视频观看| 精品久久66| 综合五月激情| 色婷亚洲| 丁香五月激情啪啪综合| 久久久精品色色色| 97成人丁香| 丁香婷婷色五月天| 97人人妻人人艹| 五月天婷a| 2050人人操免费工开爱| 丁香五月激情啪| 日韩人妻无码精品| 色色五月丁香| 99ri精品| 五月婷婷激情综合在线| www.夜夜操| 开心久久五月天| 日日躁夜夜躁狠狠久久AV| 香蕉国产2013| 超碰AV在线| 色综天天综合| 五月天婷婷社区| Av狠狠色丁香婷| 国产成人精品一区二三区熟女在线 | 色5月婷婷| 九九Av| 成人做爰A片免费看视频| 一根材五月婷成人| 999热在线视频| 4399在线观看免费高清电视剧| 久久精彩视频| 激情开心五月亚洲| 成人无码精品1区2区3区免费看| 婷婷 亚洲图片 丁香| 精品视频网| 五月婷婷六月丁香| 伊人婷婷五月天| 少妇性按摩无码中文A片| 五月天色网站| 99伊人性爱在线影院| 天天干天天色综合| 在线色色| 日本熟妇乱妇熟色A片蜜桃| 26uuu亚洲欧美| 日本在线视频播放91| 成人做爰A片免费看网站找不到了| 日本成人噜噜噜噜噜| 婷婷六月久久| 成人丁香五月| 涩涩五| 色色色区| 婷婷五月成人| 天天干天天操天天爱| 久久亭亭电影| 五月天婷婷基地| 婷婷伊人激情婷婷| 五月丁香综合中文| 丁香六月婷| 婷婷五月天日本无码| 午夜在线成人网站免费观看| 狼友视频在线观看18| 激情激情激情网| 五他月天啪啪啪| 亚洲另类在线观看| 九九视频这里有精品| 99福利导航| 视频一区二区在线| 五月丁香久久综合| 婷婷日日天天| 六月婷婷色综合| 色色热| 久久hd| 婷婷五月天成人综合网| 欧美色色色色色色色色色色| 97超级啪啪在线观看| 九九青青草成人| 停停五月天激情网| 精品思思久久| 中文字幕性爱视频| 思思热在线| 超碰大香蕉网| 99亚洲精品视频| 色七色九九| 色五月超碰| 久久ri精品视频| 婷婷五月天AV| caop在线视频| 日韩欧美一级大黄网站| 黄网在线观看免费| 天天日天天爽| 人人干女人| 丁香5月婷婷| 五月婷婷中文字幕| 国内精品免费一区二区2009| 婷婷六月丁| 99热这里只有99| 超碰69天堂| 99噜噜噜在线播放| 超碰人人艹| 一本久道综合99| 7777久久亚洲中文字幕| 亚洲精品V天堂中文字幕| 99性爱视频| 人人人操| 国产性爱一级| 啪啪啪五月天| 色综合色综合婷婷热| 青青草tp| 99色网站| 97色色综合| 狠狠久久婷| 婷婷丁香黄色| 婷婷中文字幕网站| 亚洲三级无码| 亚洲爆乳无码精品AAA片蜜桃| 色色综合网站| 久草五月| 亚洲精品色| 五月天伊人久久久久| 天天爽天天爽视频| 色欲天天综合| 五月婷婷花| 丁香婷在线| 五月婷婷九月婷婷九月婷婷| 欧美黑人巨大猛烈cuckold| 婷婷四月 成人 狠狠干| 青青操绿aaa一区日v| 久操无码| 五月丁香久久| 狠狠爱婷婷爱| 色五月色五天色情网| 啪啪夜久久| 色五月激情视频在线综合| 啪啪操超碰| 开心五月综合激情网| 激情综合网五月婷婷| 五月丁香色| 中文字幕婷婷| 人人操日| 丁香五月天啪啪| www.夜夜操.con| 五月丁香六月婷婷中文版| 99综合婷婷五月| 久久精品66| 天天做天天爱天天玩夜夜爽| 天天色综合综合| 丁香六月婷婷激情| 国产性爱一级| 五月丁香在线婷婷美女| 丁香五月天中文字幕| 丁香五月中文字幕久色| 激情五婷网| 五月丁香六月婷婷啪啪| 狼友视频在线观看18| 丁香五月天电影| 国自产拍偷拍精品啪啪一区二区| 大香蕉福利导航| 亚洲一区二区无遮挡A片| 99热久草| 大波美女VA网站| 五月天狠狠干| 另类激情五月天。| 亚洲另类久久| 超碰人人91| 在线观看中文字幕| 午夜精品人妻无码一区二区三区| 亚洲成人电影在线免费观看| 99婷婷五月天激情| 激情床戏| 激情综合网五月天天| 婷婷五月色情天| 色婷婷大香蕉| 欧美精品中文字幕亚洲专区| 婷婷五月天在线观看| 狠狠穞A片一區二區三區| 色狠狠婷婷| 亚洲无码播放| 日本在线噜噜| 九月色婷婷综合| 99在线精品观看99| 国精产品一区一区三区免费视频| 色色色色色日韩午夜激情 | 婷婷激情综合色五月久久图片| 久久久人妻不卡| 丁香五月亚洲综合| 久久久久亚洲AV成人无码电影| 免费观看18视频网站| 欧美性色A片免费免费观看的| 人妻六月天| 日日操夜夜操狠狠操| 第五色婷婷| 久99| 1024你懂的欧美曰韩| 天天搽天天射| 人人干人人操人人摸| 六月激情网| WWW.久久久久久久| 欧美毛片www| 91avse| 色噜婷婷| 丁香伊人激情| 99热综合在线| 啪啪日热| 五月丁香色婷婷婷基地| 五月婷婷六月丁香| 538在线精品| 婷婷五月激情四月综合| 激情五月婷婷六月丁香| 少妇高潮呻吟A片免费看软件| 国产99久9在线| 99热这里只有精品2024| 婷婷爱五月| 99久久久久久久| 狠狠色五月| 丁香五月婷婷影院| ′久久99一| 欧美成人精品一区二区 | 午夜性做爰电影| 99干日本| 色色综合五月| 五月婷婷就去色| 67194国产| 99热综合在线| 婷婷在线播放| 久久3级片| 色播五月天天| 久久久久9999| 五月丁香六月婷综合成人综合 | 色天堂A| 久久艹网| 久久96热| 五月Huangsewang| 成人婷婷五月天| 婷婷五月天成人网| 久久激情五月婷婷| 停停五月色宗合| 最新日韩久热免费视频看看| 伊人狠狠操| 成人做爰A片免费看视频| 任你艹| 深爱婷婷网| 99热久久日本| 欧美性爱五月天| 五月天久久网站| 五月丁香综合激情网| 丁香五月综合网| 婷婷射图五月天| 人妻视频一区而且二区| xxx日本东京热| 国产欧美日韩综合精品一区二区| 天堂成人久久| 色五月婷婷五月| 九九精品热播| 亚洲精品视频电影| 婷婷激情性爱| 亚洲国产99|