99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Grafana Tempo 監(jiān)控 MIXIN 完全指南:從 jsonnet 構(gòu)建到儀表盤、告警與 Runbook 實戰(zhàn)

Grafana Tempo 監(jiān)控 MIXIN 完全指南:從 jsonnet 構(gòu)建到儀表盤、告警與 Runbook 實戰(zhàn) Grafana Tempo 監(jiān)控 MIXIN 完全指南從 jsonnet 構(gòu)建到儀表盤、告警與 Runbook 實戰(zhàn)【免費下載鏈接】tempoGrafana Tempo is a high volume, minimal dependency distributed tracing backend.項目地址: https://gitcode.com/GitHub_Trending/tempo1/tempo本文以倉庫operations/tempo-mixin目錄為骨架系統(tǒng)講解 Grafana Tempo 官方監(jiān)控方案的組成、構(gòu)建流程、可調(diào)參數(shù)與運維實踐。讀完你將掌握如何用make all一鍵生成 Grafana 儀表盤與 Prometheus 告警/記錄規(guī)則理解config.libsonnet中每一項閾值與選擇器的含義并學(xué)會對照 Runbook 對分布式追蹤集群進行故障排查。一、tempo-mixin 是什么tempo-mixin是 Grafana Tempo 官方的Jsonnet 監(jiān)控混入mixin集合。它用 Jsonnet 語言描述監(jiān)控一個 Tempo 集群需要的一切——即 Grafana 儀表盤dashboards、Prometheus 告警規(guī)則alerts和記錄規(guī)則rules并通過 jsonnet-bundler 引入 grafana-builder 與 mixin-utils 等公共庫完成渲染。構(gòu)建后的產(chǎn)物統(tǒng)一放在operations/tempo-mixin-compiled目錄可以直接導(dǎo)入 Prometheus 和 Grafana 使用。倉庫為此提供兩種用法直接使用編譯產(chǎn)物從tempo-mixin-compiled/dashboards/、alerts.yaml、rules.yaml原樣導(dǎo)入自行構(gòu)建按需修改 mixin 源碼如調(diào)整閾值、Job 名、命名空間再重新生成產(chǎn)物以便融入自己的變更。整個 mixin 的裝配入口是operations/tempo-mixin/mixin.libsonnet它把配置、儀表盤、告警、規(guī)則四部分疊加在一起(import config.libsonnet) (import dashboards.libsonnet) (import alerts.libsonnet) (import rules.libsonnet)而dashboards.jsonnet、alerts.jsonnet、rules.jsonnet三個入口文件分別負責把上述內(nèi)容渲染成 JSON 儀表盤文件與 YAML 規(guī)則文件。二、構(gòu)建環(huán)境準備根據(jù)operations/tempo-mixin/README.md構(gòu)建需要兩個工具jsonnetJsonnet 語言解釋器jsonnet-bundlerjbJsonnet 包管理工具用于拉取依賴庫。在 macOS 上安裝方式如下原文檔原文brew install jsonnet brew install jsonnet-bundler go install github.com/jsonnet-bundler/jsonnet-bundler/cmd/jbv0.6.0在 Linux 環(huán)境下可從發(fā)行版軟件源安裝jsonnetjb同樣可通過go install安裝。依賴聲明見operations/tempo-mixin/jsonnetfile.json當前 mixin 依賴grafana/jsonnet-libs倉庫中的grafana-builder與mixin-utils兩個子目錄版本均為master分支jsonnetfile.lock.json鎖定了具體的提交。三、構(gòu)建流程make all 到底做了什么在operations/tempo-mixin目錄下執(zhí)行make all即可重新生成全部儀表盤、告警和規(guī)則。原文檔給出了完整的執(zhí)行輸出? make all jb install jsonnet -J vendor -S dashboards.jsonnet -m ../tempo-mixin-compiled/dashboards/ ../tempo-mixin-compiled/dashboards/tempo-backendwork.json ../tempo-mixin-compiled/dashboards/tempo-block-builder.json ../tempo-mixin-compiled/dashboards/tempo-operational.json ../tempo-mixin-compiled/dashboards/tempo-reads.json ../tempo-mixin-compiled/dashboards/tempo-resources.json ../tempo-mixin-compiled/dashboards/tempo-rollout-progress.json ../tempo-mixin-compiled/dashboards/tempo-tenants.json ../tempo-mixin-compiled/dashboards/tempo-writes.json jsonnet -J vendor -S alerts.jsonnet ../tempo-mixin-compiled/alerts.yaml jsonnet -J vendor -S rules.jsonnet ../tempo-mixin-compiled/rules.yaml對照operations/tempo-mixin/Makefilemake all實際依次執(zhí)行四個目標目標命令作用installjb install按jsonnetfile.json拉取依賴到vendor/目錄dashboardsjsonnet -J vendor -S dashboards.jsonnet -m ../tempo-mixin-compiled/dashboards/渲染全部儀表盤 JSON 到tempo-mixin-compiled/dashboards/alertsjsonnet -J vendor -S alerts.jsonnet ../tempo-mixin-compiled/alerts.yaml渲染告警規(guī)則到alerts.yamlrulesjsonnet -J vendor -S rules.jsonnet ../tempo-mixin-compiled/rules.yaml渲染記錄規(guī)則到rules.yaml命令參數(shù)說明-J vendor在vendor目錄中查找 jsonnet 庫導(dǎo)入路徑-S以字符串方式輸出string output使 YAML/JSON 內(nèi)容保持純文本避免被轉(zhuǎn)義-m 目錄多文件輸出模式按字典鍵名生成多個文件。Makefile 還提供兩個輔助目標check重新構(gòu)建后執(zhí)行g(shù)it diff --exit-code -- ../tempo-mixin-compiled/若產(chǎn)物與倉庫中已提交的編譯結(jié)果不一致則構(gòu)建失敗——適合 CI 中校驗源碼與產(chǎn)物同步fmt對目錄下所有*.libsonnet與*.jsonnet文件運行jsonnetfmt -i統(tǒng)一代碼格式。四、核心配置 config.libsonnet 逐項解讀operations/tempo-mixin/config.libsonnet是 mixin 的全部可調(diào)參數(shù)所在分為三組組件 Job 名映射、告警閾值、標簽選擇器與聚合配置。4.1 組件 Job 名映射jobsTempo 的每個組件在 Kubernetes 部署中的 Prometheusjob標簽?zāi)J值如下配置鍵默認值對應(yīng)組件gatewaycortex-gw(-internal)?網(wǎng)關(guān)正則query_frontendquery-frontend查詢前端querierquerier查詢器metrics_generatormetrics-generator指標生成器distributordistributor分發(fā)器compactorcompactor壓縮器block_builderblock-builder數(shù)據(jù)塊構(gòu)建器Kafka 消費backend_schedulerbackend-scheduler后端調(diào)度器backend_workerbackend-worker后端工作器memcachedmemcachedMemcached 緩存層live_storelive-store實時存儲live_store_zoneslive-store.*實時存儲按可用區(qū)正則若你的部署使用了不同的job標簽例如通過 Helm 自定義只需覆蓋這些鍵即可讓全部告警和儀表盤自動適配。4.2 告警閾值alerts原文檔未展開、但源碼中完整定義的所有閾值如下可直接在_config.alerts中覆蓋配置鍵默認值用途compactions_per_hour_failed2每小時壓縮失敗次數(shù)告警閾值flushes_per_hour_failed2每小時刷新失敗次數(shù)閾值polls_per_hour_failed2每小時 blocklist 輪詢失敗次數(shù)閾值user_configurable_overrides_polls_per_hour_failed5每小時用戶可配置 Overrides 重載失敗閾值max_tenant_index_age_seconds600tenant index 最大允許年齡秒p99_request_threshold_seconds3P99 請求延遲告警閾值秒p99_request_exclude_regexmetrics\|/frontend.Frontend/Process\|debug_pprofP99 統(tǒng)計中排除的路由正則outstanding_blocks_warning100待壓縮數(shù)據(jù)塊數(shù)告警warningoutstanding_blocks_critical250待壓縮數(shù)據(jù)塊數(shù)告警criticalpartition_lag_critical_seconds90015 分鐘指標生成器 Kafka 分區(qū)滯后 critical 閾值block_builder_partition_lag_warning_seconds200約 3.3 分鐘block-builder 分區(qū)滯后 warning 閾值block_builder_partition_lag_critical_seconds3005 分鐘block-builder 分區(qū)滯后 critical 閾值backend_scheduler_jobs_failure_rate0.05調(diào)度器任務(wù)失敗率閾值5%backend_scheduler_jobs_retry_count_per_minute20每分鐘任務(wù)重試次數(shù)閾值backend_scheduler_compaction_tenant_empty_job_count_per_minute10每分鐘空任務(wù)數(shù)閾值backend_scheduler_bad_jobs_count_per_minute0壞任務(wù)數(shù)閾值有任何壞任務(wù)即告警backend_worker_call_retries_count_per_minute5工作器每分鐘調(diào)用調(diào)度器重試次數(shù)閾值vulture_error_rate_threshold0.1vulture 校驗錯誤率閾值10%distributor_kafka_produce_failure_ratio0.001分發(fā)器寫 Kafka 失敗率閾值0.1%作為快速前導(dǎo)信號live_store_partition_lag_warning_seconds200live-store 分區(qū)滯后 warning 閾值live_store_partition_lag_critical_seconds120020 分鐘live-store 單成員滯后 critical 閾值live_store_all_members_lag_seconds3005 分鐘live-store 全體成員同時滯后閾值對應(yīng)讀路徑部分中斷4.3 標簽選擇器與聚合selectors / group_bymixin 支持多集群、多命名空間、多租戶的監(jiān)控隔離通過一組標簽列表控制per_cluster_label: cluster、namespace_selector_separator: /cluster_selectors[cluster, namespace]用于按集群聚合的告警job_selectors[cluster, namespace, job]用于按組件聚合tenant_selectors[cluster, namespace, tenant]用于按租戶聚合對應(yīng)的group_prefix_*下劃線連接與group_by_*逗號連接分別用于 PromQL 表達式中的by (...)子句。此外http_api_prefix默認空字符串用于適配網(wǎng)關(guān)在反代后追加的 API 路徑前綴namespace默認.*即默認匹配所有命名空間可通過覆蓋該鍵將監(jiān)控范圍限定到特定命名空間如tempo-prod。4.4 記錄規(guī)則時間窗recording_rules_range_interval: 1m控制直方圖記錄規(guī)則的聚合區(qū)間。源碼注釋明確提醒該值至少應(yīng)為抓取間隔scrape interval的兩倍建議設(shè)為抓取間隔的四倍否則記錄規(guī)則可能輸出空數(shù)據(jù)——這是調(diào)節(jié) scrape 頻率后最容易踩的坑。五、構(gòu)建產(chǎn)物與使用方式5.1 儀表盤dashboardsmake all后在operations/tempo-mixin-compiled/dashboards/下生成 10 個 Grafana 儀表盤文件名關(guān)注內(nèi)容tempo-backendwork.json后端調(diào)度器/工作器任務(wù)執(zhí)行情況tempo-block-builder.jsonblock-builder 消費與構(gòu)建tempo-livestore.jsonlive-store 實時存儲分區(qū)與滯后tempo-operational.json運維總覽壓縮、輪詢等tempo-reads.json讀路徑網(wǎng)關(guān)/查詢前端/查詢器/live-store 的 QPS、延遲tempo-resources.json資源使用CPU、內(nèi)存等tempo-rollout-progress.json滾動發(fā)布進度tempo-service-graph.jsonService Graph服務(wù)間調(diào)用拓撲tempo-tenants.json按租戶維度的使用與限流情況tempo-writes.json寫路徑接收、Kafka、壓縮寫入儀表盤的結(jié)構(gòu)定義在operations/tempo-mixin/dashboards.libsonnet與dashboards/下的各.libsonnet文件。以dashboards/tempo-reads.libsonnet為例可以看到Gateway → Query Frontend → Querier → Livestore分行的面板編排每行包含 QPS 與 Latency 面板且查詢語句按組件 Job 名與路由前綴route~api_.*過濾例如 querier 行的延遲面板為tempo_request_duration_seconds{job~querier,route~querier_api_.*}livestore 行還會展示tempo_live_store_complete_queue_length待完成隊列長度、tempo_live_store_blocks_completed_total已完成數(shù)據(jù)塊速率以及按分區(qū)/消費組拆分的 Kafka 滯后面板。這些.json文件可直接在 Grafana 中通過Import dashboard上傳或在配置了 provisioning 時放入儀表盤目錄。5.2 告警規(guī)則alerts.yaml構(gòu)建出的operations/tempo-mixin-compiled/alerts.yaml是標準的 Prometheus 規(guī)則文件告警組名為tempo_alerts。原文檔指出告警清單見對應(yīng)文件——編譯產(chǎn)物展開后的 32 條告警及其觸發(fā)條件、嚴重級別與for時長如下表達式均已把cluster/namespace等占位符替換為實際選擇器一組件健康類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoDistributorUnhealthy| warning | 15m |tempo_ring_members{stateUnhealthy,namedistributor}大于 0 | |TempoLiveStoreUnhealthy| critical | 15m | ring 中 live-store 有不健康成員 | |TempoMetricsGeneratorUnhealthy| critical | 15m | ring 中 metrics-generator 有不健康成員 | |TempoMemcachedErrorsElevated| warning | 10m | memcached 5xx 占比超過 20% |二存儲/blocklist 類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoCompactionsFailing| critical | 1h | 1 小時內(nèi)壓縮失敗 2 且最近 5 分鐘仍有失敗 | |TempoPollsFailing| critical | — | 1 小時內(nèi) blocklist 輪詢失敗 2 且 5 分鐘內(nèi)仍失敗 | |TempoTenantIndexFailures| critical | — | 1 小時內(nèi) tenant index 錯誤 2 且 5 分鐘內(nèi)仍錯誤 | |TempoNoTenantIndexBuilders| critical | 5m | 某租戶無 index 構(gòu)建者且 blocklist 非空 | |TempoTenantIndexTooOld| critical | 5m | tenant index 年齡超過 600 秒 | |TempoCompactionTooManyOutstandingBlocks| warning/critical | 6h/24h | 每后端工作器待壓縮塊數(shù) 100/250 | |TempoBadOverrides| critical | 15m |tempo_runtime_config_last_reload_successful 0| |TempoUserConfigurableOverridesReloadFailing| critical | 15m | 1 小時重載失敗 5 且 5 分鐘內(nèi)仍失敗 |三Kafka 分區(qū)滯后類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoMetricsGeneratorPartitionLagCritical| critical | 5m | metrics-generator 分區(qū)滯后 900s | |TempoBlockBuilderPartitionLagWarning| warning | 5m | block-builder 6 分鐘平均滯后 200s | |TempoBlockBuilderPartitionLagCritical| critical | 5m | block-builder 6 分鐘平均滯后 300s | |TempoLiveStorePartitionLagWarning| warning | 5m | live-store 分區(qū)滯后 200s | |TempoLiveStoreSingleMemberLagHigh| critical | 5m | 單個 live-store 成員滯后 1200s | |TempoLiveStoreAllMembersLagging| critical | 2m | 某分區(qū)全部 live-store 成員滯后 300s讀路徑部分中斷 | |TempoBlockBuildersPartitionsMismatch| critical | 10m | 超過一個分區(qū)無 block-builder 認領(lǐng) | |TempoLiveStoresPartitionsUnowned| critical | 10m | 存在無 live-store 認領(lǐng)的活躍/非活躍分區(qū) | |TempoLiveStoreZoneSeverelyDegraded| critical | 10m | 某可用區(qū)持有分區(qū)數(shù)比其他區(qū)少 60% 以上 |四調(diào)度器/工作器類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoBackendSchedulerJobsFailureRateHigh| critical | 10m | 任務(wù)失敗率 5% | |TempoBackendSchedulerRetryRateHigh| warning | 10m | 每分鐘重試任務(wù) 20 | |TempoBackendSchedulerCompactionEmptyJobRateHigh| warning | 10m | 每分鐘空任務(wù) 10 | |TempoBackendWorkerBadJobsRateHigh| warning | 10m | 每分鐘壞任務(wù) 0 | |TempoBackendWorkerCallRetriesHigh| warning | 10m | 每分鐘調(diào)用調(diào)度器重試 5 |五寫路徑/指標生成器/vulture 類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoDistributorKafkaProduceFailing| critical | 5m | 分發(fā)器寫 Kafka 失敗率 0.1%排除cancelled-before-producing原因并要求產(chǎn)生速率非零 | |TempoDistributorUsageTrackerErrors| critical | 30m | 租戶用量追蹤報錯 | |TempoMetricsGeneratorProcessorUpdatesFailing| critical | 15m | 處理器動態(tài)更新失敗 | |TempoMetricsGeneratorServiceGraphsDroppingSpans| warning | 15m | service graph 丟棄 span 占比 0.5% | |TempoMetricsGeneratorCollectionsFailing| critical | 5m | 指標收集失敗次數(shù) 2 | |TempoVultureHighErrorRate| critical | 5m | vulture 校驗錯誤率 10% |一個值得注意的實現(xiàn)細節(jié)是TempoDistributorKafkaProduceFailing它被設(shè)計為寫路徑問題的快速前導(dǎo)指標。由于失敗率可能很小但持續(xù)存在等到錯誤傳播到cortex-gw觸發(fā) SLO burn-rate 告警可能要數(shù)小時而從生產(chǎn)者側(cè)度量幾分鐘內(nèi)就能發(fā)現(xiàn)。表達式末尾的... and sum by (...) (rate(tempo_distributor_produce_records_total[5m])) 0守衛(wèi)是為了避免分母為零時 PromQL 求值為Inf導(dǎo)致無意義告警。tempo_distributor_produce_failures_total攜帶的reason標簽由pkg/ingest/writer_client.go中的produceErrReason設(shè)置取值包括timeout、buffer-full、record-too-large、canceled、other其中cancelled-before-producing屬于調(diào)用方取消、被顯式排除在告警表達式之外。5.3 記錄規(guī)則rules.yamloperations/tempo-mixin-compiled/rules.yaml對應(yīng)tempo_rules組由operations/tempo-mixin/rules.libsonnet通過 mixin-utils 的histogramRules自動生成。它針對tempo_request_duration_seconds直方圖預(yù)聚合了 6 條記錄規(guī)則按(cluster, namespace, job, route)維度聚合record: cluster_namespace_job_route:tempo_request_duration_seconds:99quantile record: cluster_namespace_job_route:tempo_request_duration_seconds:50quantile record: cluster_namespace_job_route:tempo_request_duration_seconds:avg record: cluster_namespace_job_route:tempo_request_duration_seconds_bucket:sum_rate record: cluster_namespace_job_route:tempo_request_duration_seconds_sum:sum_rate record: cluster_namespace_job_route:tempo_request_duration_seconds_count:sum_rate例如 99 分位規(guī)則的具體表達式為histogram_quantile(0.99, sum(rate(tempo_request_duration_seconds_bucket[1m])) by (le, cluster, namespace, job, route))預(yù)聚合的價值在于儀表盤直接引用這些低基數(shù)序列避免每個面板都重復(fù)執(zhí)行高開銷的直方圖分位數(shù)計算同時保證多個面板對P99 延遲的統(tǒng)計口徑完全一致。六、Runbook告警觸發(fā)后怎么處理operations/tempo-mixin/runbook.md是每條告警配套的排障手冊與告警文件一一對應(yīng)告警注解中的runbook_url即指向該文件的錨點。以下提煉其中最關(guān)鍵的幾類問題。6.1 查詢追蹤失敗Trace Lookup Failures當查詢報錯queue doesnt have room for xyz jobs時說明數(shù)據(jù)塊數(shù)量超過了查詢器并行檢查的能力。判斷公式為(blocklist 長度 / 查詢器數(shù)量) 查詢器隊列深度 queue_depthqueue_depth 在查詢器配置中設(shè)置默認 10000storage: trace: pool: queue_depth: xyz # 默認 10000處置方向增加查詢器數(shù)量調(diào)大隊列深度調(diào)整壓縮策略減少數(shù)據(jù)塊總數(shù)。快速檢查指標tempodb_blocklist_length、count(tempo_build_info{containerquerier})日志{containerquerier} | queue doesnt have room for6.2 組件不健康Distributor / LiveStore / MetricsGenerator Unhealthy這些告警通常由非優(yōu)雅終止如 Pod 被 OOM-Kill留下的殘留 ring 成員觸發(fā)。分發(fā)器會在2 * distributor.ring.heartbeat-timeout后自動遺忘不健康條目默認 5 分鐘超時對應(yīng) 10 分鐘自動清理小于告警 15 分鐘的for窗口因此通常無需人工干預(yù)。若需立即處理可訪問對應(yīng) ring 頁面如/distributor/ring點擊 Forget 按鈕移除。相關(guān)的快速檢查指標為tempo_ring_members{stateUnhealthy, name組件}。6.3 壓縮失敗TempoCompactionsFailing最常見原因是壓縮超大 trace 導(dǎo)致 OOM。處置思路將內(nèi)存上限提升到足以越過該 trace且需一直保持到該 trace 超出保留期被刪除否則可能反復(fù) OOM同時復(fù)查并調(diào)低攝取限制無法解決的壞塊可手動刪除。在當前 backend-scheduler/backend-worker 架構(gòu)下調(diào)度器暴露積壓指標tempodb_compaction_outstanding_blocks工作器負責實際壓縮排查時應(yīng)結(jié)合調(diào)度器的隊列深度指標與工作器的資源/日志。6.4 輪詢問題Polling Issues 系列輪詢失敗意味著組件對后端的認知逐漸過期查詢器會開始對已存在的數(shù)據(jù)返回 404后端工作器會嘗試壓縮不存在的塊。間歇性失敗無需關(guān)注持續(xù)性失敗必須處理若后端不可用導(dǎo)致輪詢無法修復(fù)讀路徑將開始失敗而寫路徑正常需提前告知用戶。關(guān)鍵認知是tenant index 是按租戶獨立構(gòu)建的問題可能只影響個別租戶。tempodb_blocklist_tenant_index_builder、tempodb_blocklist_tenant_index_age_seconds、tempodb_blocklist_tenant_index_errors_total都是按租戶打標的指標。最省事的杠桿是刪除過期的 tenant index 文件位于對象存儲的/tenant/index.json.gz所有組件會自動回退到桶掃描bucket listing。兩種日志的含義不同failed to pull bucket index for tenant. falling back to polling系統(tǒng)已回退處于穩(wěn)定態(tài)只需查日志定位根因failed to write tenant indexindex 未在更新需要更直接的干預(yù)。對TempoNoTenantIndexBuilders優(yōu)先手段是提高構(gòu)建者數(shù)量storage: trace: blocklist_poll_tenant_index_builders: 2 # 增大此值或刪除未更新的 index 文件強制回退掃描。6.5 待壓縮塊積壓TempoCompactionTooManyOutstandingBlocks壓縮瓶頸通常是 CPU因此增加后端工作器是最有效的措施。擴容后觀察tempodb_compaction_outstanding_blocks是否開始下降由于塊數(shù)量升高還需復(fù)查隊列相關(guān)配置避免觸發(fā)前文的查詢失敗。6.6 Kafka 分區(qū)滯后TempoPartitionLag 系列指標生成器滯后給消費組增加實例block-builder 滯后擴實例對齊 live-store 分區(qū)或縮短 cycle timelive-store 單成員滯后若 Pod 剛重啟可能是重放中節(jié)點過載會拖慢重放屬部分自愈若未重啟則可能真的卡住可重啟該 Pod或檢查單分區(qū) leader 切換等 Kafka 側(cè)問題live-store 全體成員滯后意味著沒有任何可用區(qū)能服務(wù)該分區(qū)屬于讀路徑部分中斷需檢查是否發(fā)生同步滾動重啟、節(jié)點過度調(diào)度或 Kafka broker 問題。6.7 寫路徑快速前導(dǎo)信號TempoDistributorKafkaProduceFailing按reason標簽拆分失敗率定位故障模式timeout指向 Kafka broker 健康buffer-full指向客戶端緩沖打滿通常是下游變慢record-too-large指向異常租戶發(fā)送超大批次canceled按源碼注釋不應(yīng)發(fā)生需立即調(diào)查。同時用tempo_distributor_buffered_produce_bytes / tempo_distributor_buffered_produce_bytes_limit觀察緩沖占用。七、自定義與維護建議改閾值覆蓋config.libsonnet的_config.alerts對應(yīng)鍵例如把outstanding_blocks_warning調(diào)到 150改組件名覆蓋_config.jobs中的正則適配非默認的job標簽限定范圍覆蓋_config.namespace如tempo-prod縮小告警與儀表盤的作用域格式化與 CI提交前運行make fmt統(tǒng)一格式在 CI 中執(zhí)行make check校驗編譯產(chǎn)物與源碼一致避免改了源碼忘更新產(chǎn)物產(chǎn)物再分發(fā)operations/tempo-mixin-compiled/下的alerts.yaml、rules.yaml可直接由 Prometheus Operator 的PrometheusRuleCRD 引用或作為靜態(tài)規(guī)則文件掛載10 個儀表盤 JSON 可通過 Grafana provisioning 批量導(dǎo)入。八、總結(jié)tempo-mixin將 Grafana Tempo 的監(jiān)控最佳實踐沉淀為可版本化、可參數(shù)化的 Jsonnet 代碼config.libsonnet集中管理全部閾值與選擇器alerts.libsonnet定義了覆蓋環(huán)成員、blocklist/索引、Kafka 滯后、調(diào)度器、寫路徑與指標生成器的 32 條告警rules.libsonnet提供延遲直方圖預(yù)聚合dashboards.libsonnet按讀/寫/資源/租戶等維度組織 10 個儀表盤而runbook.md為每條告警配套了從公式判斷到快速檢查命令的完整排障路徑。無論是直接使用tempo-mixin-compiled產(chǎn)物快速接入監(jiān)控還是 fork 后定制自己的閾值與組件映射這份 mixin 都是運維 Tempo 集群最值得依賴的起點?!久赓M下載鏈接】tempoGrafana Tempo is a high volume, minimal dependency distributed tracing backend.項目地址: https://gitcode.com/GitHub_Trending/tempo1/tempo創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲第一黄网| 亚洲激情网站无码| 99热网精品| 99热.com| 亚洲、热| 成人婷婷五月天| YW无码| 久久3p| www.色综合.com| 国产精品国产| 丁香婷婷婷五月综合色情| 亚洲婷婷基地| site:feetmall.com| www九九| 激情色情五月天| 欧美25p| 天天日天天干天天天| 丁香五月天啪啪| 久久九九一區| Av在线不卡一区| 狠狠狠狠狠狠| 亚洲操B| 在线综合网| 五月丁香六月色情网欧美| 99爽视频| 五月丁香好婷婷A片网| 91啦丨九色丨刺激中文| 大香伊人婷婷影院| 五月丿香啪啪| 五月丁香激情综合啪啪| 91婷婷搞| 国产伦理精品高清在线观看网站一区二区 | 99热欧美偷拍| 97干97色| sS丁香五月婷婷| 国产婷婷综合在线免费视频| 欧美色色色色色色色色色色| 五月丁香激| 五月婷婷性爱网| 午夜天堂一区人妻| 国产av天天插天天操天天爽| 久热精彩视频98| 少妇性BBB搡BBB爽爽爽视頻| 日韩在线观看网址| 大香蕉婷婷婷| 超碰国产AV| 日韩精品无码AV| 人人操婷婷| 国产五月视频| 最新久久99视频网站| 天天干天天av天天射| 香蕉AV777XXX色综合一区| 性爱视频99| 丁香花五月天激情| 国产成人网址| 九九伦子片| 亚洲激情六月| 五月丁香91| 色玖玖综合网| 五月婷婷激情色情网| 婷婷色播色五月五色五月天色妇| 99精品无码网站| 777精品成人a v久久| 深爱五月综合网| 久久与婷婷| 五月熟妇婷婷久久| 六月丁香激情| 深爱五月婷婷| 丁香五月性爱爱五月| 小色小蛇伊人婷婷色香五月| 99色看这里只有精品| 色五月丁香总合网| 亚州色色色| 91干在线| 久久一级AV| 久久五月天激情| 以及AA大片看看| 96精品国产综合久久久久久| 色婷婷XXXXX| 狠狠搞综合色| 97操碰视频| 五月天精品视频| 欧美激情VA永久在线播放| 嫩草AV久久伊人妇女超级A| wwwav大香蕉| 九九人人看| 色婷视频| 99精吕视频在线观看了| 人人爱操| 五月停亭六月,六月停亭的英语| 五月天婷婷基地丁香| 五月婷伊人| 天堂草在线看www| 91偷拍视频| 色爱综合网| 五月丁香婷婷激情爱爱| 欧美日韩AAAAA| 亚洲色vA| 婷婷五月天成人网| 26.uuu丁香五月婷婷| 就要爱综合| 女人天堂 AV| 中文字幕av久久爽一区| 亚洲色图啪啪| 亚洲十月婷婷综合| 天天拍天天操| 天天久综合网永久入口17v | 婷婷五月天色色| 人人操超碰| www.久久久.com| 五月丁香六月合| 伊人干综合| 五月天婷婷色播综合在线| 一本色道久久88加勒比—| 天天粽合合合合| 99色综合| 婷婷综合av| 天天爽夜夜爽夜夜爽精| 亚洲免费看片| www九九| 婷婷五月天日本无码| 五月丁香综合| 中文字幕黄色片| 五月丁查人人| 日本色超碰| 精品视频99看在线视频| 亚洲九区| oumeisesewang| 五月天国产| 亚洲精品白浆高清久久久久久| www,色婷婷| 啄木鸟丝袜美女福利视频| 噜噜在线| 激情五月网站| 天天狠狠综合精区| 久久久久久综合五月婷婷| 婷婷久久五月天| 91pornav在线| 涩综合网| 成人片在线播放| 色婷久| 久久一操| 色综合九九| 亚洲啪啪视频| 六月丁香五月婷婷| 色婷婷五月天激情久久| 51精品国自产在线| 五月天激情无码高清 | www.com操| 大香蕉五月天婷婷| 激情合网婷婷| 亚洲正能量欧美| 色情激情五月| 丁香五月婷婷久久久| 精品99只有。| 在线免费观看激情视频| 人人摸人人澡人人| 免费黄色视频网址| 开心五月天激情网| 人人草人人爱手机视频看看| 五月丁香888| 色综合激情| 99精品久| 五月色婷| 五月天婷婷在看| 婷婷丁香社区| 激情五月婷婷五月丁香五月开心五月| 人妻激情视频| 操操碰| 久久国产精品乱子伦_靑青草…| 色色色色网站| 丁香婷婷婷五月| 五月丁香六月婷婷综合| www.五月天婷婷| 婷婷九月色| 婷色五月| 欧洲色| 久久99精品久久久久久噜噜| 丁香激情五月天| 婷婷激情欧美| ww久久| 亚洲操逼网| 日本五月丁香| 婷婷情色五月天| 五月天激情综合| 1995年关宝慧版蜘蛛女| 无码区婷婷五月花开| 亚洲精品国产成人AV在线| 亚洲中文丁香| 岛国操B不卡在线| 伊人干综合| 亚洲性爱干干| 丁香五月婷婷亚洲色图| 亚洲愉拍99热成人精品| 色久女| 激情综合网,婷婷| 99热伊人综合| 99久久九九| 五月天婷婷视频30| 99热99成人| 黄色录像网点| 99热成人| 婷婷91| 国产高清RV综合aVa| 国产黄色大片| 韩国真做片在线观看| 九九无码视屏| 婷婷亚洲五月丁香综合在线| 成人av在线网站| 婷婷伊人五月天| 操九色| 九九热短视频在线观看| 五月丁香综合激情在线观看| 人妻激情在线| 性爱网六月丁香| 国内外色色色色色成人视频| 思思久久精品| 亚洲成人综合在线| 天天肏天天肏天天肏| 在线五月色播| 国庆精品久久| 亚洲色9| 色玖玖综合| 情欲禁地| 伊人综合网站| 99热在线观看| 在线日韩视频| 99无码视频| 超碰人人操| 66精品成人免费网站在线观看| 超碰人人在线| 五月丁香婷婷色| 操逼综合网| 婷婷综合中文| 丁香五月婷婷激情97| 五月天综合网| 99久久网站| 日韩 中文 欧美| 五月婷婷之综合激情| 色综合久久88色综合天天人守婷| 久久国产精品乱子伦_靑青草…| 亚洲小电影在线观看黄999| 九月色婷婷婷| 久久五月婷综合网| 亚洲AV无码一区二| 天堂久久婷婷| 99热精品在这里| 色欲丁香| 99自拍视频在线观看| 97色天堂| 亚洲无码11| 婷婷五月天免费视频在线观看| 99视频久久免费视频| 亚洲成人免费在线| 亚洲欧洲99| 偷拍九九五月丁香婷婷| 亚洲Av成人在线观看| 色香蕉精品五夜婷| 级人人91| 五月天丁香成人社| 婷婷综合亚洲| 久久久18| 乱女乱妇熟女熟妇综合网站| 婷婷久久免费看| 中文字幕在线不卡| 色VA| 99爱免费视频在线观看| 日日夜夜综合| 播播网色播播| 一起草Av| 中文字幕日产A片在线看| 深爱激情六月天| 激情综合色图| 99综合| a在线观看| 99操逼| 色爆五月| 丁香五月色色婷| 99久久婷婷精品视频| 久久婷婷综合五月| 九九热99久久99| 色噜噜狠狠色综无码久久合欧美| 色五月丁香A欧美com | 九九九精品视频免费观看| 97超碰在线免费观看| 狠狠色丁香久久| 久久一级片| 人人操大| 99热国品免费| 六月婷婷亚洲| 国产精品爽爽久久久久久| 99热亚洲精品| 人操91在线| 欧美一线视频| 综合欧美五月婷婷| 丁香婷婷五月基地| 激情五月天综合网| 激情五月婷色| 丁香五月天在线视频| 五月天六月丁香| se99在线| 人人操人人干AV| 九九亚洲| 亚洲另类AV| 日韩AV片| 青青草原福利在线| 五月丁香婷婷啪啪| 五月伊人婷婷999| 亚洲天99| 丁香欧美| 99热这里只有精品22| 免费视频无码| 9精品一区| 色播丁香| 99热一本| 亚洲色情一区二区三区四区| 99久久99久久| 久久婷婷一级片| 色香蕉影院| 五月天电影网| 五月天社区| 男女av免费看| 狠狠狠人妻| 久9久成人精品视频| 婷婷91| www.一起草av| 五月天激情Av| 色啪网| 激情婷婷在线| 校园激情 亚洲| 久久婷婷综合基地| 色综啪啪啪啪啪啪| 情情五月天色| 婷婷婷婷婷婷婷五月丁香| 一级性感毛片| 色综合久久久久久久久五月| 激情网五月天| 97福利视频| 丁香激情五月少妇| 久久九九99.www| 九九激情网| 日本高清综合网五月丁香| 996热| 97操碰人人| 五月开心六月婷婷在线播放网站| 久久久天堂国产精品女人| 五月天婷婷社区久久综合| 精品九九视频| 国产做A爰片毛片A片美国| 91色色色| 欧洲不卡视频| 九九九九国产| 有哪些A片网站| 综合九色| 色综合天天天天做夜夜| 欧美三级视频| 99爱视频免费看| 天天色播| 精品婷婷五月天| 激情综合网五月丁香| 久久99精品久久久久久青青AR| 久久99这里只有精品视频 | 少妇高潮一区二区三区99欧美| 婷婷亚州综合| 免费观看的av| 色狠狠综合入口| 五月丁香六月婷婷久久久综合| 九九九九九999999| 婷婷5月九九| 亚洲精品国产熟女久久久| 婷婷五月天综合激情| 婷婷久久99| 中文字幕,综合,91| 狠狠干五月天| 婷婷五月天激情综合| 亚洲操b| 久99视频在线观看| 色综合色综合婷婷热| 九九激情| 天天干天天日日| 亚洲精品久久久无码 | 午夜电影网VA内射| 五月丁香日逼| 九九干视频| 色月丁| www.99婷婷| 超碰免费99| 色五月六月| 婷婷爱在线观看| 99热综合| 色五月丁香伊人五月| Www.se.久久| 婷婷五月丁香基地| 五月丁香无码| 久久免费精彩视频| 色色a| 九九综合色综合| 久99久视频| 久久精品国产色| 亚洲乱码日产精品BD| 五月婷婷之美女图片| 超碰在线超碰| 婷婷五月天久久久| 亚洲欧美日韩VIP| 丁香五月激情无码视频| 97综合在线| 国产黄大片在线观看画质优化| 伊人深爱综合| 91ncom.色| 深爱激情五月天| 婷婷激情五月天激情| 99日逼视频| 天天弄天天操| 天天搞天天色综合| 狠狠精品干练久久久无码中文字幕 | 成人在线观看精品| 成人精品人妻| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 伊人五月成人| www。狠狠干。com| 99偷拍视频在线日本| 99热网站| 夜夜躁婷婷AV| 五月婷婷五月天亚洲无码| 吊色AV男人的天堂| 激情文学综合婷婷五月天丁香花| 久久久性爱视频| 99re热视频| 99热免费精品| 亭亭丁香97| 婷婷色网| 来吧亚洲综合网| 99丁香五月婷| 久久久久亚洲AV成人无码电影| 亚洲日韩乱码一区二区三区四区| jiujiu无码五区| 日本理论久久| 免费无码毛片一区二区A片| 天天摸天天透天天舔| 亚洲 激情 中文| 天堂爱啪啪| 免费看欧美成人A片无码| 国产精品成人AV在线| 婷婷五月AV| 六月色伊人婷婷| 久久图色4| 无码成人AAAAA毛片AI换脸| 亚洲AV网站在线观看| 丁香天堂夜| 亚洲在线免费成人| 专区无日本视频高清8| 亚洲不卡欧洲| 免费AV在线| 99国产精品久久久久久久久久久| 99热这里只有精品18| 丁香婷婷久久激情| 在线,国产,色,热视频| 91色涩| 国产精品美女| 婷婷成人AV| 精品操逼一区二区| 99天堂在线观看免费视频| 亚洲啪视频| 激情综合五月天| 色情五月综合婷婷| 亚洲成人五月| 五月婷婷啪啪| 色啪影院| 激情五月激情综合网| 亚洲视频图片婷婷五月| 婷婷天天色| 夜丁香五月婷婷| 成人AV在线网站| 色婷婷婷综合五月天| 亚洲婷婷开心五月| 伊人婷婷五月| 色婷婷丁香五月综合| 色婷婷激情视频| 色五月五月天| AV人人操| 97碰人人操| 狠狠干综合| 类似婷婷激情综合网站| 91人妻人人做人碰人人爽九色| 久久视频婷婷| 九九九九这里只有精品| 热九九精品| 精品久久人妻| 五月天丁香婷婷久久九| 亚洲欧美国产A片免费观看| 色综合网页| 久久婷婷桃花五月天| 色www.con| 天天插天天射天天干| 丁香五月婷婷99| 岛国资源站| 99色| 婷婷区日本| 精品成人无码A片观看香草视频 | 色天堂在线| 五月天狠狠网站| 影音先锋色色色资源色资源色| 久久五月天综合视频网站| 五月天婷婷六月| 天天激情站| 色色日本欧美| 五月天色色网站| 国产偷人爽久久久久久老妇APP| 碰碰碰97国产| 五月丁香六月久久| 亚洲欧州色情在线观看| 国产无人区大片| 狠狠操狠狠爱| 激情久久婷婷| 停停色综合伊人| 六月合五月婷| 五月婷婷啪啪| 九九精品热播| 提提热五月天婷婷| 婷婷成人五月天| 亚洲无码色色| 国产超碰人人| 插插网爽妇五月丁香| 91成人性爱视频| 夜夜操天天干| 久久免费少妇高潮99精品| 99在线69| 久久精品只有这| 九月色婷婷| 日韩丁香涩| 亚洲综人色综网| 五月婷婷丁香色播网| 婷婷中文无码| 日韩有码一区| 五月丁香婷庭在线| 婷婷五月天网| 伊人久久大香线蕉av一区| 五月天无码视屏播放| 久久看婷婷| 精品久久久中文字幕大豆网推荐理由| 丁香五月婷婷啪啪啪| 久久婷婷五月天激情唯美| 久久精品人妻| 亚洲综合在线播放| 亚艹艹| 六月婷婷激情| 亚洲小视频免费播放| 色女伊人| 国产黄色在线| 狠狠色婷婷在线| 影音先锋一区二区三区| 欧美激情 日韩无码 婷婷 五月天| 五月婷视频久久| www激情| 五月做爱| 丁香五月欧美色综合| 九九色色| 欧美在线97| 97性视频| 91久久久久久久91| 天天爱天天做天天操| 婷婷色情 | 五月丁香婷婷激情久久| 婷婷啪啪| 丁香五月天激情五月天激情五月天激情网 | 91爱操| 婷婷五月天AV| 97久久超视频| 久久er99| 一级二级色大片| 婷婷综合色播网| 丰满人妻妇伦又伦精品国产| 婷婷五月天 偷拍| 五月天伊人| 色色精品色| 色色丁香| 五月丁香av在线| 五月丁香成人网| 国产VA播放| 激情五月天影院| 久久亚洲网| 超碰碰碰碰| 欧美在线骚货| 做爰丰满少妇1313| 五月婷婷激情久久| 久久精品五月| 激情五月婷| 啪啪 综合网| 91久久婷婷| 97自拍视频在线| 国产精品色| 五月婷婷六月丁| 丰满少妇猛烈A片免费看观看| 激情综合网,婷婷| 国产一区二区三区影院| 亚洲综合婷婷五月| 亚洲午夜Av| 男人天堂99| 亚洲小视频免费播放| av国产精品| 婷婷激情网五月天| 婷婷va| 强伦轩人妻一区二区电影| 99视频自拍| 久久婷婷精品| 天天干com| 操逼巨乳91| 五月丁香影院| 婷婷丁香色情| 九洲一级A片| 777色色色| 久久久99精品| 九九青草热| 性色五月天| 爱之国产色情综合| 百度4399有码精品V在线观看 | 99在线视频喷水| 毛片新网地| 另类五月婷婷| 人妻操日日| 涩五月婷婷| 激情网开心网| 婷婷射丁香| 天天射影院| 天天干夜夜谢| 五月丁香六月色情网欧美| 久色大香蕉| 狠狠做深爱婷婷久久综合一区| 色播播之激情五月婷婷| 一本久道综合99| 婷婷五月天成人网| 亚洲综合激情五月久久| 婷婷五月天深爱| 色香久久| 苗黎美女四级成人版一级二级毛片| 色狠狠色噜噜AV天堂五区消防| 丁香五月六月久久综合| 久艹久| 久热九九| 婷婷五月综激情| 99色 色| 久久黄A片| 九九无毛| 丁香五月-激情综合| 97在线碰| 丁香五月成人网| 狠狠做五月婷婷| 人妻九九九九| 888久久久| 91紱請| 色五月av| 色噜噜狠狠色综合成人99| 五月婷婷深爱六月| 丁香无月在线观看| 日韩另类| 五月 成人 婷婷| 亚洲AV成人一区二区在线观看| 91操操| 婷婷九月丁香| 亚洲成人av在线播放| 激情网站综合五月天| 色五月婷婷婷婷婷婷婷婷婷婷| 欧美啪啪五月天| 日韩乱轮AV| 国产乱妇无乱码大黄AA片| 九九热欧美| 99综合网| 丁香六月色婷婷综合| 99惹精品视频| 欧美五月丁香在线观看| 激情五月天色| 日韩草草草草草草草草草草草草| av网址在线| 国产亚洲网站在线| 猫咪伊人AV| 欧美A片在线视频免费观看| 拍真实国产伦偷精品| 国产精品大香蕉| 丁香成人五月天| 欧美va在线| 亚洲视频五区| 97干视频| 丁香婷婷久久| 99无码黄色视频| 91丨九色丨国产打屁股| 欧美精品18| 婷婷五月激情中文字幕| 久久人人看| 欧美精品中文字幕亚洲专区| 狠狠精品干练久久久无码中文字幕| 超碰91在线| AV在线免费播放| 67194成I人在线观看线路1| 亚洲婷婷久久综合| 热久久91| 中字幕视频在线永久在线观看免费| 五月丁香狠狠爱| 婷婷在线播放| 日韩AV在线电影| 九九热免费视频| 天天操天天插| 在线99热| 久久五月天激情| www。五月,com| 97色图片中文字幕视频在线观看 | 成片免费播放| 天天干天天操天天上| 久久婷婷五月天亚洲欧美| 激情欧美丁香五月| 97在线视频观看| 日本欧美成人片AAAA| 日本一級黃色一級片| 五月丁香色色色| 人人操97| 激情合网婷婷| 玖玖资源站中文| 久久色情| 欧美性生交xXxX久久久| 岛国午夜视频| 婷婷五月激情六月丁香| 亚洲丁香五月在线观看| 99热碰碰| 婷婷D区| 国产操肏网站| Av性爱网| 91.com男女操| 成人无码精品1区2区3区免费看| 色婷婷播放| 五月丁香美女| 成人色五婷婷| 狠狠色综合网| 婷婷五月综合基地| 激情床戏| 激情五月com| 天天色天天色天天色天天色天天色| 9久久久久久久久久久| 中字幕视频在线永久在线观看免费| av五月丁香婷婷网| 激情五月综合色婷婷| 亚洲婷婷五月天激情| 开心久久爱五月天| 色欲午夜无码久久久久久张津瑜 | AA片在线观看视频在线播放| 九月久久婷婷| 伊人六月丁香婷婷| 99这里只有精品|v| 变态另类色图 | 97啪啪| 99热草草| 丁香五月天色综合| 久久九色| 九九热在线视频观看免费10| 91人人操人人| 五月激情在线| 激情AV综合| 欧美性二区| 久久综合影院| 5Www色5夜| 婷婷五月综合欧美在线播放| 天天干天天色综合| 亚洲综合999| 日逼免费视频| 99精彩视频网站在线| 午夜色婷婷| 色 色 色综合com| 成人五月天综合网| 99超在线| 伊人五月天在线| 天天射美女| 婷婷五月天情色| 97干资源在线观看| 天天爽免费视频| 51精品国自产在线| 丁香五月婷婷少妇| 婷婷丁香久久| 久久无码激情视频| 任我肏| 久九色| 九月婷婷激情| 性色综合网| 日本高清综合网五月丁香| 丁香综合| 色香五月天| 日韩性爱AV| 狠狠人妻久久久久久综合丁香| 久草热8精品视频在线观看| 色五月天.con| 色啪网| 天天做天天爱天天摸| 超碰av在线| 中文AV在线播放| 色五月六月| 99精品国产在热久久 | 五月婷婷丁香| 都市激情五月婷婷综合| 亚洲成人影视在线| 午夜国产精品AV在线播放| 双性美人被调教到喷水A片| 中文字幕 久久9999| 成人在线观看国产| 日日懆天天懆| 97香蕉人人在线观看| 五月六月伦理| 九九色院| 女人天堂AV| 一个色的综合| 五月激情久久| 亚洲午夜电影| 日本精品99| 丁香激情网| 五月天激情综合10p| 91九色超碰| 九九干视频| 超碰成人免费| 婷婷五月激情综合| 情婷婷五月天| 伊人九九热| 97干97色| 色色影院aaaav| 五月婷婷激情综合网| AV动漫不卡无码免费| 日韩成人AV在线播放| 97色婷婷成人综合在线观看| 少妇性BBB搡BBB爽爽爽电影| 五月天久久综合婷婷丁香| 美女伊人久久| 99精彩视频| www.丁香五月| 美女黄频aⅴ视频| 日韩成人无码| 这里只有久久精99| 激情五月开心五月在线视频| 96丁香婷婷九月蜜桃综合久久| 色综合日日| 亚洲色频| 色色色综合色| 丁香六月婷婷姐网| 色婷婷av在线| 极品精品一区二区三区在线| 五月婷婷丁香| 婷婷丁香五月天小说| 啪精品| 桃色五月天| 激情五月天综合| 99热99成人| 哇嘎成人久久| A片试看120分钟做受视频红杏 | 激情五月丁香激情综合网| 丁香六月欧美| 久久看婷婷| 日韩精品色| 亚洲欧美日韩VIP| 婷婷六月丁香色| 久久大香免费| 99久热视频在线| 99精品久久| 成人丁香| 久久机热这里只有| 黄色三级日本| 丁香视频| 五月婷婷黄色网址| 五月丁香影院| 综合激情五月婷婷| 91人妻视频| 亚洲综合新99视频| 欧美日韩成人在线观看| 婷婷五月天国产传媒| 天天色粽合合合合合合合| 99久在线精品99re8| 国产一区男女| 人人澡天天色天天做| 九九99在线| 墨西哥毛片内射精| 精品人妻伦九区久久AAA片| www99热| 五月丁香婷婷导航视频| 五月天婷婷色播| 五月婷婷伦理| 超碰chaompinm| 黄色aa观看aaguochan| 婷婷五月花| 9久精品视频| 一区二区免费看| 五月天色裸体视频| 伊人综合网4| 五月综合777| 欧美va亚洲va| tingtingjiqingwuyue| 综合视频久久| www.婷婷,com| 欧美日比视频| 91打屁股视频网站| 9 99免费视频| 超碰网站在线观看| 成片免费观看大全| 日本三级网址| 91性人人| 久99综合婷婷| 六月丁香色色| 欧美操人| 天天开心天天色| www.五月婷婷久久.com| 99色热| 在线99热| 五月天色婷伊人| 综合激情网五月激情| 亚洲国产精品成人免费一区久久久在线观看AAAA | 青青草成人网| 99精品在线| 91狠狠综合久久久| 天天爽天天| 亚洲国产精品SUV| 丁香五月综合网| 五月婷婷av在线| 亚洲国产网站| 久久综合婷婷五月| 亚洲AV第二区国产精品| 9色在线| 国产亚洲99| 五月婷婷免费视频| 婷婷5月九九| 91热视频色网站| 99精品在线| 五月丁香啪啪网| 久久婷婷五月综合色丁香花| 亞洲自怕| 99热这里都是精品| 久久草人妻| 国产亚洲精品人人| 色综合性视频| 日本3级片一区2区| 91成人性爱视频| 两性婷婷丁香五月| 中文字幕+中文在线| 99热热这里只精品996小说| 五月婷婷综合网| 国产精品噜噜在线视频| 99免费在线| 婷婷中文无码| 天天爽天天操| 东北黄色一级| 天天五月丁香五月| 人人噜天天上| 伊人激情综合网| 成人国产欧美大片一区| 日韩精品无码AV| 婷婷五月中文在线| 亚洲色综合性| 中文资源在线a| 影音先锋自拍网| 欧美色色色色色色| 天天粽合合合合| 天天玩夜夜操| 精品一区二区三区免费毛片爱| 五月婷狠狠| 99操视频| 俺去也五月| 五月婷婷开心网| 丁香六月婷婷社区| 五月亭亭六月色| 人人操av| BBWCUCKOLD精品熟妇| 五月丁香好婷婷A片网| 婷婷五日b| 欧美在线视频免费播放| 丁香婷婷AV| 99久在线精品99re8热| www.五月天激情| 婷婷五月婷婷| 色婷久九| 丁香五月激情婷婷| 操91| 亚洲碰碰碰| 九九这里精品| 日本色婷婷| 亚洲AV成人无码电影| 69午夜成人影片| 五月婷婷AV| 五月婷婷日| 五月丁香激情综合欧美| 婷婷久久综合| www.91热久久| 色婷婷五月天天天天天| 67194成I人在线观看线路1| 99综合色色色| 美女激情婷婷| 久久精彩免费视频| 激情综合网五月丁香| 久久久精品色色色| 色婷婷很很十八禁| 丁香五月综合色婷婷| 日日日影院| 免费观看全黄做爰的视频| 丁香婷婷基地| 99日本在线| 久久国产高潮白浆免费观看99| 国产在线另类五月婷婷| 丁香五月电影| 都市激情久久| 婷婷五月天影院| 五月久熟女| 五月天精品| 亚洲视频国产一区| 色五月婷婷色五月| 日本欧美成人片AAAA| 亚州欧美国产久精国产99综合视频| 99热免费精品| 91干视频| 麻豆雪千夏| 91狠狠色丁香| 丁香六月激情综合| 激情五月色综合网| 色婷婷狠狠| 国产精品汇聚精彩第二页 - 高清完整版在线 - 青蛙AV | 激情AV在线| 久久图色4| 丁香五月天婷婷中文字幕| 亚洲天堂制| 综合激情站| 色婷大香蕉| 99精品在线观看视频| 七七久久综合| 操骚货在线| 涩 五月 婷婷 狠狠| 天天弄天天操| 99热丁香| 深爱激情综合网| AA丁香综合激情| 婷婷色婷婷| 九热在线这里有精品6| 国产亚洲在线观看| www·五月天| 国产一级片色色| 色五月第四色| 婷婷性爱视频在线| 人人操91| 激情五月,色五月| ..真实国产乱子伦对白在线_欧 | 99re6久热只有精品6在线直播| 激情五月天婷婷色色色色色色色色色色色 | 亚洲中文AV| 欧美97p| 青青草Avb在线| 新激情五月天天在线网| 久久婷婷青草五月天| 婷婷六月天| 99精品爱| 日韩婷久| 久久97| 日本色婷婷五月天成人电影| www.丁香黄色五月天人与| 99热99热不卡| 97人妻碰碰碰久| 大香蕉久操| 婷婷五月综合激情免费| 色www.con| 六月丁香啪啪| 射久久丁香五月| 中文字幕,综合,91| 99精品网| 五月色影院| 中文字幕永久免费| 伊人九热| 色婷婷五月色| 丁香婷五月| 五月婷婷七月丁香| 国产FREESEXVIDEOS性中国 | 天天久综合网永久入口18| 激情五月婷婷| 婷婷免费精品视频| 国产美女主播vip| 亚洲人妻av| 婷婷色爱| 91超碰九色| 久久五月天 91| www..999热久| 婷婷五月骚厕所| 99久热精品在线| 欧美成人AAA片一区国产精品| 亚洲激情五月天| 人人澡天天色天天做| 九月婷婷人人操人人舔人人爱| 91要啪| 男人的天堂五月丁香| 天天操无码| 五月婷婷9| 久久久久9| 丁香五月色五月| 天天舔天天插天天干| 九九激情综合| 国产女18毛片多18精品| 色婷久久| 五月天激情婷婷| A网在线欧洲| 99 热国产在| 国产视频福利| 色色欧美。| 热99这就是精品视频| 五月婷婷性| 婷婷五月天视频小说| 色丁香五月| 丁香狠狠操| 无码激情AAAAA片-区区| 五月丁香六月婷婷网| 79精品视频在线观看,| 色情一区二区播放| 欧洲99视频在线| 亚洲熟女色| 中文字幕av久久爽| 久久综合五月天激情小说网站| 久久五月天婷婷| 亚洲性爱电影| 丁香六月无码| 99在线国| 五月婷婷影视| 色八月婷婷| 激情欧美婷婷| 国产熟女大叫受不了| 久久狠婷婷| 色婷婷精| 丁香婷婷五月激情四射网| 天天天天干| 欧美交换配乱吟粗大25P| 久久HD| 久久久婷婷婷| 无人精品在线视频| 99久久6| 日日干天天爽| 欧美激情综合色综合色| 天堂草在线观| 99综合99| 五月天婷婷激情春色小说| 蜜臀av无码久久久久久久久| 深爱五月激情网| 亚洲另类在线观看| 天天色综和网| 97视频91| 日本色频| 天天爽—爽| 免费色色色| 视频这里只有精品16| 包操45分钟网站| 手机AVAV天堂看网| 丁香六月 人妻| 九月婷婷丁香| 五月天成人手机在线视频| 激情5月天天天| 五月色丁香激情| 婷婷五月精品在线| 天天综合网网欲色| 五月丁香亚洲婷婷| 五月天色五月| 激情五月天偷拍综合网| 久久人人超| 99热这里都是精品| 9久热| 久久九九热re6这里有精品| 色婷婷色综合久久精品V| 久久天堂色| 五月天伊人久久久久| 丁香六月婷婷综合激情欧美| caop在线视频| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 五月激情婷婷丁香| 久青操| 这里只有精品1| 婷婷五月成人| 色情婷婷久久五月天| 日本久久极品| 色综合激情| 夜夜涩涩涩| 99热这里只有精品搜| 色五月影视| 五月天社区| 亚洲深喉aV| 39视频第二区| 九九av| 精品福利911| 亚洲色色色| 国产69久久久欧美黑人A片| 色婷婷五月综合激情中文字幕| 久久玖玖综合| 丁香五月婷婷色| 天天天天做夜夜夜夜做| 久热只有精品| 大香蕉综合网| 亚洲日韩乱码一区二区三区四区| 操逼五月婷婷| 日本WWW九九九| 伊人青草成人| 俺也高清无码高清视频| 日韩另类在线观看| 久热伊人| 成人 九九九九| 九九热a| 日本熟女内射| 五月激情天| 1024成人免费看| 久热久色| 99热亚洲| 涩涩五月天| 五月天久久www| 欧美成人无码一区二区三区| 久久爱婷婷| 国产精品18久久久| 亚洲成Av人片乱码色第1集| 亚洲另类电影| 丁香五月天激情网| 丁香六月在线| 色婷婷av综合网| 99热在线免费观看精品| 综合色播| 激情四射亚洲| 99免费成人网| 亚洲综合五月天婷婷| 少妇水多A片太爽了| 99精品高潮| 5月丁香六月婷婷| 五月婷在线| 九月av| 99热在线成人网站| 99热在线观看| 激情视频网址| 婷婷玖玖五月天| 亚洲六月色| 丁香五月色播中文在线播放| 五月天婷婷影院| 天天操天天插天天射| 97色五月天| 五月丁香激情综合网| 五月婷婷丁香91| 色色综合网www| 五月激情另类| WWW.桔色成人.COM| 五月J香蕉婷婷| 婷婷五月天激情综合| 婷婷99视频精品| 亚洲AV免费国产电影| 五月天六月婷| 少妇高潮呻吟A片免费看软件| 九九碰九九爱97| 五月丁香啪啪| 亚洲国产网站| 5月婷婷激情在线| 免费三级黄色| 丁香五月婷婷88在线| 99热66| 男女99免费视频| 成人亚洲精品| 涩 五月 婷婷 狠狠| 99在线精品免费视频| 91 久热| 五月丁香婷婷中文网| 小香蕉av| 婷婷激情丁五月| 少妇被躁爽到高潮无码文| 99re久热只有精品6在线直播| 色欲天天综合网| 五月天色色色| 婷婷爱五月天| 亚洲av免费在线| 99色在线| 凹凸7777操操操| 婷婷五月天久久| 美女丁香五月天| 全部老头和老太XXXXX|