99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Manjaro + systemd 微服務(wù)編排:依賴、配額與自愈實(shí)踐

Manjaro + systemd 微服務(wù)編排:依賴、配額與自愈實(shí)踐 1. 為什么是 Manjaro systemd微服務(wù)跑在 Arch 系發(fā)行版上的真實(shí)體驗(yàn)先說結(jié)論把微服務(wù)跑在 Manjaro Linux 上再用 systemd 把啟動順序和資源配額管起來這套組合解決的不只是開機(jī)之后手動敲一串 docker start這種體力活而是把整臺開發(fā)機(jī)或者邊緣節(jié)點(diǎn)的服務(wù)生命周期真正納入一個統(tǒng)一控制系統(tǒng)里。很多人一聽 systemd 就想到開機(jī)自啟和查看日志但它在微服務(wù)場景下的能力遠(yuǎn)不止這些——依賴編排、故障自愈、資源限額、啟動時序分析這些都是生產(chǎn)環(huán)境里天天要面對的問題而 systemd 全部原生支持不需要額外裝 supervisor 或者 monit。為什么單獨(dú)說 Manjaro因?yàn)樗?Arch 系發(fā)行版里對普通開發(fā)者和運(yùn)維最友好的一檔預(yù)裝桌面、硬件驅(qū)動全、軟件源更新及時但同時保留了 Arch 的 systemd 體系和滾動更新節(jié)奏。這意味著你可以直接在物理機(jī)或者虛擬機(jī)上跑微服務(wù)不用像容器方案那樣先折騰一層 Docker daemon也不用擔(dān)心 RHEL 系那種 systemd 版本偏老導(dǎo)致某些新指令不可用。Manjaro 自帶的 systemd 版本常年保持較新cgroup v2 默認(rèn)開啟MemoryMax、CPUQuota 這些資源控制指令能直接用這在某些老發(fā)行版上是要額外配置甚至踩坑的。這篇文章適合誰兩種情況最對口一是你的微服務(wù)還在起步階段團(tuán)隊(duì)想在開發(fā)機(jī)上把十幾個服務(wù)跑起來而不是非得先上 Kubernetes二是你已經(jīng)有一套微服務(wù)代碼但每次開機(jī)、斷電、或者更新系統(tǒng)之后服務(wù)啟動順序亂掉、內(nèi)存被某個異常進(jìn)程吃滿、某個服務(wù)崩潰后沒人拉起想找一個輕量但靠譜的解決方案。這兩種場景systemd 都能覆蓋——畢竟它是 Linux 世界的 init 系統(tǒng)本身就長在進(jìn)程管理的土壤上。我自己在 Manjaro 上維護(hù)過一套約 20 個微服務(wù)的模擬項(xiàng)目從配置中心、網(wǎng)關(guān)到訂單、支付、通知前后折騰了大概三周才把啟動鏈路調(diào)到穩(wěn)定。這個過程里踩過的坑、驗(yàn)證過的參數(shù)、總結(jié)出的套路我盡量在這篇文章里一次說透你照著做基本能少走一半彎路。1.1 微服務(wù)在開發(fā)機(jī)上最頭疼的三件事聊具體配置之前先說說我們到底在解決什么問題。微服務(wù)拆到十幾二十個以后開發(fā)機(jī)上最常碰到的三件事第一啟動順序失控。網(wǎng)關(guān)要等注冊中心先起來業(yè)務(wù)服務(wù)要等配置中心拉完配置再注冊但如果你只是把這些服務(wù)一股腦寫成 shell 腳本加上扔到后臺每次啟動都像開盲盒。某一個服務(wù)啟動慢了幾秒后面依賴它的服務(wù)全部注冊失敗報錯信息還千奇百怪排查半天發(fā)現(xiàn)根本不是代碼問題。第二資源互相擠占。二十個服務(wù)跑在一臺機(jī)器上里面有內(nèi)存泄漏的、有瘋狂刷日志的、有定時任務(wù)并發(fā)拉滿 CPU 的。沒有配額的情況下任何一個失控服務(wù)都可能拖垮整臺機(jī)器——最典型的是某服務(wù)把內(nèi)存吃到 swap整機(jī)響應(yīng)變慢其他服務(wù)跟著超時。第三故障恢復(fù)靠人肉。開發(fā)環(huán)境里服務(wù)崩潰太常見了測試同學(xué)跑一個邊界 case 就能把服務(wù)打崩。如果沒有自動拉起機(jī)制你吃個午飯回來發(fā)現(xiàn)服務(wù)從上午十點(diǎn)就死了一下午的驗(yàn)證工作全白費(fèi)。手動systemctl restart一次兩次還行天天盯就太浪費(fèi)了。這三件事恰好都是 systemd 的原生能力覆蓋范圍用After和Requires聲明依賴用CPUQuota和MemoryMax限制資源用Restart配置自動拉起。不需要額外引入編排框架不用學(xué)新 DSL把 unit 文件寫好就夠了。1.2 systemd 不是只會 start/stop它本身就是一套進(jìn)程編排器很多人對 systemd 的認(rèn)知停留在systemctl start nginx這種層面實(shí)際上它內(nèi)置了相當(dāng)完整的進(jìn)程編排能力。After、Requires、Wants這些指令組合起來就是一個聲明式的依賴圖Typenotify配合服務(wù)內(nèi)部的sd_notify能讓 systemd 判斷服務(wù)真正就緒而不只是進(jìn)程已 forkRestart配合StartLimitBurst則是故障自愈策略。換句話說你在 Kubernetes 里常用的探針、重啟策略、資源 limitsystemd 在單機(jī)層面全部有對應(yīng)物只是名字不叫 probe、policy 而已。這套機(jī)制的底層是 cgroup。Manjaro 默認(rèn)啟用 cgroup v2每個 service unit 啟動后都會自動掛到獨(dú)立的 cgroup 下systemd 能精確統(tǒng)計(jì)這個服務(wù)用了多少 CPU、多少內(nèi)存、多少 IO也能在超出配額時直接干預(yù)。這個特性對微服務(wù)的意義很大——你不用假裝它們彼此隔離systemd 在進(jìn)程樹層面就把隔離做掉了。另外systemd 的并行啟動能力常被忽略。默認(rèn)情況下沒有依賴關(guān)系的 unit 會被并行拉起相比 shell 腳本的串行執(zhí)行十幾二十個服務(wù)的總啟動時間能從幾分鐘壓到幾十秒。配合systemd-analyze blame還能精準(zhǔn)看出每個服務(wù)耗時多少優(yōu)化瓶頸一目了然。就沖這一點(diǎn)systemd 就值得認(rèn)真學(xué)一下。1.3 Manjaro 的滾動更新對服務(wù)管理帶來的特殊挑戰(zhàn)Manjaro 是個滾動更新發(fā)行版pacman -Syyu一天不跑就可能落后一個版本。好處是 systemd 和內(nèi)核都是新的壞處是更新完之后服務(wù)可能因?yàn)橐蕾囎兓鸩粊怼热缒撤?wù)鏈接的動態(tài)庫升級了或者系統(tǒng)的 cgroup 配置變了。所以在 Manjaro 上做 systemd 服務(wù)管理要比在 Ubuntu LTS 上多考慮一層更新之后必須做一次完整的服務(wù)健康巡檢而不是只看系統(tǒng)能不能開機(jī)。我習(xí)慣的做法是每次系統(tǒng)大版本更新之后跑一遍systemctl list-units --failed把所有異常狀態(tài)一次性撈出來然后逐個journalctl -u 服務(wù)名 -b看啟動日志。另外Manjaro 的 mkinitcpio 或者內(nèi)核更新之后重啟一定要確認(rèn) systemd 版本和 cgroup 掛載情況這些是服務(wù)管理穩(wěn)定性的底座。2. 動手前先搞懂 systemd 的幾個核心機(jī)制這一節(jié)不直接上配置而是先把編排微服務(wù)最關(guān)鍵的幾個 systemd 機(jī)制講清楚。這些概念看著簡單但組合方式千變?nèi)f化理解不到位后面排錯會毫無頭緒。2.1 依賴關(guān)系A(chǔ)fter、Requires、Wants 到底怎么選依賴是微服務(wù)編排的核心。systemd 里有三組常用指令語義完全不同After和Before只決定啟動順序不決定要不要啟動。也就是說即使Aftermysql.service如果 mysql 沒啟用你的服務(wù)照樣會啟動只是順序上排在后面。這相當(dāng)于說如果它存在那就在它后面啟動而不是必須等它啟動成功。Requires是硬依賴。如果Requiresmysql.service且 mysql 啟動失敗你的服務(wù)也會被停止。這類指令適合沒有依賴方就完全沒有意義的服務(wù)比如網(wǎng)關(guān)沒有注冊中心就玩不轉(zhuǎn)。Wants是軟依賴。依賴方啟動失敗不會影響你的服務(wù)啟動它只是表達(dá)能啟動的話盡量啟動啟動不了我自己也能活著。BindsTo則更嚴(yán)格依賴方停止時你的服務(wù)必須跟著停止適合同生共死的強(qiáng)綁定關(guān)系。實(shí)操經(jīng)驗(yàn)90% 的場景用AfterWants組合就夠。原因很簡單微服務(wù)之間大多不是啟動即硬失敗的依賴而是晚點(diǎn)起來也能趕上注冊的弱依賴。真正的硬依賴留給基礎(chǔ)設(shè)施比如通用數(shù)據(jù)庫、消息隊(duì)列這類。如果用Requires把所有依賴都硬連起來任何一個服務(wù)掛了整條鏈上的服務(wù)全被拖下水故障隔離性反而更差。這個取舍一定要想清楚別一上來就是Requires拉滿。2.2 重啟策略與啟動窗口把崩了自動拉起來變成可控行為Restart選項(xiàng)有幾個值no不重啟、on-success正常退出才重啟實(shí)際用得少、on-failure非零退出碼才重啟、on-abnormal信號異常才重啟、always無論如何都重啟。對微服務(wù)來說最常用的是always和on-failure。always適合那種就算主動 stop 也要馬上拉起來的服務(wù)——尤其是你希望它在系統(tǒng)里長期存在的守護(hù)類服務(wù)。但要注意always在某些場景會造成困擾你明明執(zhí)行了systemctl stop它又立刻被拉起來排查時一臉懵。所以我更推薦開發(fā)環(huán)境用on-failure配合RestartSec3這樣的退避時間既保證崩潰后自動拉起又保留人工 stop 的控制力。RestartSec是重啟間隔設(shè)多少合適經(jīng)驗(yàn)上3~5 秒比較常用。太短會導(dǎo)致崩潰循環(huán)時瘋狂重啟CPU 飆高太長又讓恢復(fù)時間難以接受。真正要防的是崩潰循環(huán)——服務(wù)一直起不來systemd 會進(jìn)入start-limit-hit狀態(tài)默認(rèn)策略是 10 秒內(nèi)失敗 5 次就放棄。這個默認(rèn)值對微服務(wù)來說往往太激進(jìn)建議用StartLimitIntervalSec30和StartLimitBurst10放寬窗口給服務(wù)更多自愈機(jī)會但同時也別放到無上限否則雪崩發(fā)生時系統(tǒng)會非常難恢復(fù)。2.3 資源配額CPUQuota 和 MemoryMax 的取值怎么算資源配額這塊Manjaro 上的 systemd 直接映射 cgroup v2語義很明確CPUQuota的單位是百分比CPUQuota150表示最多用 1.5 個核。注意這是相對單核的百分比不是相對整機(jī)。比如你機(jī)器有 8 核 CPU給某個服務(wù)設(shè)CPUQuota100它最多用滿一個核完全不理會其他核是否空閑。這個設(shè)計(jì)的好處是行為可預(yù)期缺點(diǎn)是如果整機(jī)只有這一服務(wù)在跑其余 7 個核被白白浪費(fèi)。所以計(jì)算時要結(jié)合服務(wù)的實(shí)際情況對計(jì)算密集型的消費(fèi)者服務(wù)給200甚至300都合理對大部分 IO 型微服務(wù)50到100已經(jīng)足夠。MemoryMax是硬限制超過就 OOM。MemoryHigh是軟限制超過后會加大回收壓力但不一定殺掉。這兩個參數(shù)組合起來非常實(shí)用MemoryHigh512MMemoryMax768M意味著平時超過 512M 就開始回收內(nèi)存逼近 768M 才會被殺給了服務(wù)一定的緩沖。取值怎么算我的方法是先在無限制狀態(tài)下穩(wěn)定跑一周用systemd-cgtop觀察每個服務(wù)的峰值內(nèi)存和 CPU 使用然后取一個峰值上浮 30%的余量作為MemoryHigh再上浮 50% 作為MemoryMax。別拍腦袋寫 1G那一會兒 OOM 一會兒資源的完全不可控。3. 實(shí)操給一套典型微服務(wù)寫 unit 文件光講理論沒用這一節(jié)我?guī)惆岩惶渍鎸?shí)場景完整搭一遍。先說清楚這套方案針對的是單機(jī)部署的微服務(wù)開發(fā)環(huán)境不是生產(chǎn)級 K8s 集群的替代品但把 systemd 玩透之后很多思路遷移到生產(chǎn)環(huán)境一樣成立。3.1 場景定義與技術(shù)選型為了演示我定義一個模擬項(xiàng)目 X包含 6 個服務(wù)分別是基礎(chǔ)組件和業(yè)務(wù)服務(wù)混編infra-db數(shù)據(jù)庫技術(shù)棧不限但必須有服務(wù)端守護(hù)進(jìn)程infra-mq消息隊(duì)列負(fù)責(zé)服務(wù)間異步通信app-config配置中心其他服務(wù)啟動時先拉取配置app-gatewayAPI 網(wǎng)關(guān)依賴配置中心和注冊中心app-order訂單服務(wù)依賴數(shù)據(jù)庫、消息隊(duì)列、配置中心app-notify通知服務(wù)消費(fèi)消息隊(duì)列中的通知消息這 6 個服務(wù)的依賴圖其實(shí)是有層次感的數(shù)據(jù)庫和消息隊(duì)列是底座配置中心屬于中間層網(wǎng)關(guān)和訂單、通知屬于上層。用 systemd 表達(dá)這種層次就是底層層After掛掉所有上層上層之間盡量并行。實(shí)際項(xiàng)目中注冊中心通常也要提前啟動演示里我把它并入配置中心的服務(wù)內(nèi)不單獨(dú)拆開。unit 文件統(tǒng)一放在/etc/systemd/system/目錄下寫完后執(zhí)行systemctl daemon-reload讓 systemd 重新加載配置。3.2 基礎(chǔ)設(shè)施服務(wù)的 unit 編寫基礎(chǔ)設(shè)施服務(wù)的 unit 是最容易寫的因?yàn)樗鼈兓臼仟?dú)立進(jìn)程 外部訪問的模式。以infra-db為例# /etc/systemd/system/infra-db.service [Unit] DescriptionInfrastructure Database Service Afternetwork.target Wantsnetwork.target [Service] Typenotify ExecStart/usr/local/microsvc/bin/infra-db --config/etc/microsvc/db.yaml ExecReload/bin/kill -HUP $MAINPID Restarton-failure RestartSec3 # 資源配額 CPUQuota150 MemoryHigh768M MemoryMax1G TasksMax256 # 安全加固 NoNewPrivilegestrue PrivateTmptrue [Install] WantedBymulti-user.target這里有幾個值得解釋的細(xì)節(jié)。Typenotify意味著程序內(nèi)部要實(shí)現(xiàn)sd_notify在真正監(jiān)聽端口成功后告訴 systemd我準(zhǔn)備好了。如果程序不支持sd_notify退一步用Typesimple也行——但要接受進(jìn)程一啟動就算就緒的語義可能在端口尚未監(jiān)聽時就被依賴方拉起。ExecReload/bin/kill -HUP $MAINPID是給數(shù)據(jù)庫類服務(wù)用的平滑重載生產(chǎn)環(huán)境經(jīng)常用systemctl reload而不是 restart避免連接閃斷。TasksMax256限制了服務(wù)能創(chuàng)建的線程和進(jìn)程總數(shù)防止線程泄漏的服務(wù)無限增長。NoNewPrivilegestrue和PrivateTmptrue屬于安全加固對微服務(wù)來說成本低收益高建議默認(rèn)加上。infra-mq的 unit 類似只是資源配額可以寬松一點(diǎn)畢竟消息隊(duì)列通常要扛吞吐。我給它的CPUQuota200MemoryHigh1G其他保持一致。3.3 業(yè)務(wù)服務(wù)的依賴編排與并行啟動業(yè)務(wù)服務(wù)的 unit 才是編排的重點(diǎn)。看app-gateway# /etc/systemd/system/app-gateway.service [Unit] DescriptionAPI Gateway Service Afternetwork.target infra-db.service infra-mq.service app-config.service Wantsinfra-db.service infra-mq.service app-config.service PartOfapp-cluster.target [Service] Typenotify ExecStart/usr/local/microsvc/bin/app-gateway --config/etc/microsvc/gateway.yaml ExecStartPre/bin/bash -c until curl -sf http://127.0.0.1:8848/health /dev/null 21; do sleep 1; done Restarton-failure RestartSec5 # 資源配額 CPUQuota100 MemoryHigh512M MemoryMax768M [Install] WantedByapp-cluster.target注意ExecStartPre這一行的寫法。systemd 的After只保證順序不保證可用如果配置中心的健康檢查接口還沒就緒網(wǎng)關(guān)即使按順序啟動也會注冊失敗。所以我在ExecStartPre里加了一個輪詢命令每 1 秒檢查一次配置中心健康接口通了才繼續(xù)啟動。實(shí)際生產(chǎn)里我甚至見過有人把這種健康檢查直接寫進(jìn)服務(wù)代碼的啟動流程中但用ExecStartPre做的好處是不侵入代碼改 systemd 配置就能調(diào)。PartOfapp-cluster.target配合末尾的WantedByapp-cluster.target相當(dāng)于把所有業(yè)務(wù)服務(wù)歸攏到一個上層 target 下。這樣你執(zhí)行systemctl start app-cluster.target就能拉起一整組服務(wù)反過來systemctl stop app-cluster.target也能整體停掉比逐個操作高效得多。target 本身不是一個進(jìn)程它只負(fù)責(zé)聚合 unit。再看app-order它依賴數(shù)據(jù)庫、消息隊(duì)列、配置中心但啟動順序上不需要等通知服務(wù)所以# /etc/systemd/system/app-order.service [Unit] DescriptionOrder Service Afternetwork.target infra-db.service infra-mq.service app-config.service Wantsinfra-db.service infra-mq.service app-config.service PartOfapp-cluster.target [Service] Typenotify ExecStart/usr/local/microsvc/bin/app-order --config/etc/microsvc/order.yaml ExecStartPre/bin/bash -c until curl -sf http://127.0.0.1:8848/health /dev/null 21; do sleep 1; done Restarton-failure RestartSec3 CPUQuota100 MemoryHigh512M MemoryMax768M [Install] WantedByapp-cluster.target那app-notify呢它只依賴消息隊(duì)列和配置中心不依賴數(shù)據(jù)庫和網(wǎng)關(guān)。unit 文件的After就只寫infra-mq.service app-config.service。這樣 systemd 就能在滿足依賴的前提下讓app-order和app-notify并行啟動整體啟動時間大幅縮短。這就是 systemd 和 shell 腳本最大的區(qū)別你只需要描述依賴關(guān)系不需要關(guān)心執(zhí)行順序systemd 自己會做拓?fù)渑判蚝筒⑿姓{(diào)度。3.4 用 systemd-analyze 驗(yàn)證啟動鏈路寫完 unit 文件后第一件事不是反復(fù)重啟服務(wù)而是用systemd-analyze驗(yàn)證配置正確性。兩條命令必用systemd-analyze verify /etc/systemd/system/*.service systemd-analyze critical-chain app-cluster.targetverify會檢查 unit 文件語法錯誤和路徑問題比如寫錯指令名、引用了不存在的服務(wù)文件它都會直接報出來。critical-chain則是打印關(guān)鍵啟動鏈路能看到哪個服務(wù)是瓶頸、哪個服務(wù)花費(fèi)的時間最長。如果發(fā)現(xiàn)某兩步之間順序不對優(yōu)先檢查After有沒有寫全。常見的遺漏是把中間層服務(wù)漏掛在某個上層服務(wù)的After里導(dǎo)致上層提前啟動。我在初期就犯過這個錯網(wǎng)關(guān)忘了等配置中心結(jié)果每次重啟都間歇性注冊失敗日志里全是連接超時。后來用critical-chain一眼定位加上Afterapp-config.service后世界清凈了。啟動時間的驗(yàn)證用這兩條systemd-analyze blame systemd-analyze plot /tmp/boot.svgblame按耗時排序列出所有服務(wù)plot生成可視化時間軸把每個服務(wù)的啟動區(qū)間畫出來??催@兩張圖你就能直觀發(fā)現(xiàn)哪個服務(wù)拖了后腿、哪個階段是完全可以并行的。我實(shí)際調(diào)優(yōu)的那次初始串行啟動全部服務(wù)大約需要 95 秒罪魁禍?zhǔn)资悄硞€服務(wù)在ExecStartPre里 sleep 了 30 秒。去掉無腦 sleep、換成健康檢查輪詢再把不相關(guān)的服務(wù)盡可能并行跑起來總時間直接壓到 38 秒。這個優(yōu)化結(jié)果對于一個單機(jī) Microservices 開發(fā)環(huán)境來說已經(jīng)是質(zhì)變了。4. 資源效率調(diào)優(yōu)從能跑到跑得省啟動速度解決了接下來是資源效率。微服務(wù)的資源開銷很大一部分不是業(yè)務(wù)邏輯本身而是無效損耗日志刷爆磁盤、線程無限增長、內(nèi)存閾值寫得太保守導(dǎo)致頻繁 GC、CPU 配額過寬導(dǎo)致相互爭搶。systemd 在資源管理上有一套完整的控制手段這一節(jié)把關(guān)鍵點(diǎn)全部拆開講。4.1 cgroup 層面的配額落實(shí)前面已經(jīng)講過CPUQuota和MemoryMax但真正落實(shí)到整體資源效率時還需要關(guān)注幾個容易被忽略的細(xì)節(jié)。首先是IOWeight和IOAccounting。微服務(wù)里經(jīng)常有某個服務(wù)瘋狂寫日志或者批量讀寫磁盤把整機(jī) IO 拖垮其他服務(wù)跟著卡頓。給關(guān)鍵服務(wù)設(shè)置IOWeight10左右的低權(quán)重配合IOAccountingtrue開啟 IO 統(tǒng)計(jì)再用systemd-cgtop觀察能有效抑制單點(diǎn) IO 風(fēng)暴。注意 cgroup v2 的 IO 控制依賴 io 調(diào)度器Manjaro 默認(rèn)情況一般沒問題但如果你用的是某些特殊內(nèi)核參數(shù)可能需要額外確認(rèn)。其次是CPUWeight與CPUQuota的區(qū)別。CPUQuota是絕對上限CPUWeight是相對權(quán)重只在競爭時生效。對微服務(wù)來說我建議所有關(guān)鍵服務(wù)都設(shè)絕對上限避免自適應(yīng)權(quán)重在突發(fā)流量下失控。唯一的例外是基礎(chǔ)設(shè)施服務(wù)比如數(shù)據(jù)庫我傾向于用CPUWeight100給它相對較高的權(quán)重但不用絕對配額讓它按需伸縮。然后是內(nèi)存層面的MemorySwapMax。cgroup v2 允許單獨(dú)控制 swap 使用量。開發(fā)機(jī)上如果有 swap服務(wù)內(nèi)存溢出時會先交換而不是被殺掉但這會帶來嚴(yán)重的性能抖動。我通常給微服務(wù)設(shè)置MemorySwapMax0強(qiáng)制超過MemoryMax就直接 OOM把它殺得干凈利落寧可重啟也不拖垮整機(jī)。這個取舍在開發(fā)環(huán)境尤其有效——你會立刻在日志里看到 OOM 報錯而不是整機(jī)卡死之后找不到原因。最后提一下TasksMax。線程泄漏是微服務(wù)最常見的隱形殺手。一個服務(wù)線程數(shù)從 100 漲到 10000內(nèi)存可能還沒到上限系統(tǒng)線程表已經(jīng)滿了。給每個 unit 設(shè)置TasksMax512既保證正常業(yè)務(wù)并發(fā)又能阻止泄漏線程無限增長。排查時看到某個服務(wù)的 PID 數(shù)量異常一查線程數(shù)往往就是這里出了問題。4.2 journal 日志的瘦身與輪轉(zhuǎn)微服務(wù)的日志是資源黑洞。默認(rèn) journald 會把日志寫到/var/log/journal/不設(shè)限制的話幾個服務(wù)的高頻日志一周就能吃掉幾個 GB 磁盤。所以日志策略必須主動管理。systemd 提供兩種維度的控制全局的/etc/systemd/journald.conf和每個服務(wù)內(nèi)部的StandardOutput/StandardError。journald.conf里我有幾個習(xí)慣配置[Journal] SystemMaxUse1G SystemMaxFileSize100M MaxRetentionSec7day CompressyesSystemMaxUse1G把整個 journal 總大小限制在 1GSystemMaxFileSize100M控制單個日志文件大小MaxRetentionSec7day保證最多保留七天Compressyes開啟壓縮日志體積通常能再縮一半。這套組合下來日志對磁盤的壓力基本可以忽略。服務(wù)側(cè)的日志策略要區(qū)分場景。如果是Typenotify的服務(wù)程序通常自己處理日志文件如果是Typesimple的腳本類服務(wù)可以把輸出重定向到獨(dú)立文件StandardOutputappend:/var/log/microsvc/app-order.log StandardErrorappend:/var/log/microsvc/app-order.error.log注意append:前綴直接寫路徑是覆蓋模式重啟一次就丟歷史。這個坑我踩過——第一次配的時候用的StandardOutput/var/log/xxx.log服務(wù)一重啟日志全沒了排查問題連現(xiàn)場都沒有。日志輪轉(zhuǎn)用logrotate配合 systemd timer 做核心是寫/etc/logrotate.d/microsvc配置把按大小切割和保留周期都定義好然后確保相應(yīng)的 timer 服務(wù)在跑。Manjaro 默認(rèn)已經(jīng)安裝了 logrotate 的 timer 配置你只要把服務(wù)配置文件填進(jìn)去就行。4.3 定時清理與維護(hù)讓滾動更新不拖慢啟動Manjaro 滾動更新的特點(diǎn)是systemd 的自身行為可能會變但這個變化不會主動向你報告。最典型的例子是某個服務(wù)的 unit 寫法和新版本 systemd 不再兼容systemd-analyze verify能查出來但沒人每天跑一次。所以我把服務(wù)健康檢查做成了定時任務(wù)每周自動跑一次。我的做法是用 systemd timer 自己管自己# /etc/systemd/system/microsvc-weekly-check.service [Unit] DescriptionWeekly microservice health check [Service] Typeoneshot ExecStart/usr/local/microsvc/scripts/health-check.sh# /etc/systemd/system/microsvc-weekly-check.timer [Unit] DescriptionRun weekly microservice check [Timer] OnCalendarSun 03:00 Persistenttrue [Install] WantedBytimers.targethealth-check.sh腳本的核心邏輯是先systemctl list-units --failed檢查失敗狀態(tài)再逐個systemctl is-active檢查關(guān)鍵服務(wù)最后用journalctl --since 7 days ago -p err掃描最近一周的錯誤日志把異常匯總到報告文件。這套自動巡檢在滾動更新后特別有用能第一時間發(fā)現(xiàn) systemd 升級導(dǎo)致的行為變化。還有一個細(xì)節(jié)Manjaro 每次大版本更新后重啟時機(jī)要選對。我習(xí)慣在更新完所有包、確認(rèn)systemd --version穩(wěn)定后主動重啟一次讓系統(tǒng)在新內(nèi)核和新 systemd 下完整初始化。不重啟的話舊 systemd 跑在新文件系統(tǒng)上某些 unit 的狀態(tài)緩存可能會異常。5. 常見問題與排查技巧實(shí)錄這一節(jié)把我實(shí)際踩過、也幫別人排查過的問題整理成速查表。每個問題都給出定位方法和解決思路不再展開理論直接上操作。5.1 啟動順序還是不對怎么定位如果你已經(jīng)寫了After但服務(wù)還是亂序啟動第一反應(yīng)不是改 unit 文件而是先確認(rèn) systemd 看到的依賴圖長什么樣。systemctl list-dependencies app-order.service systemctl show app-order.service -p After -p Requires -p Wants第一條會遞歸打印所有依賴第二條直接查看生效的指令值。很多時候問題出在After寫在了錯誤的 section——注意After必須放在[Unit]段落里如果放到[Service]里systemd 會直接忽略并且verify報錯。還有一種隱蔽情況你依賴的服務(wù)根本沒有啟用enable也沒被任何 target 拉起來。After只排順序不負(fù)責(zé)啟動。如果你執(zhí)行systemctl start app-order.service但app-config.service沒在運(yùn)行順序?qū)α藚s還是連不上。此時必須確認(rèn)基礎(chǔ)設(shè)施服務(wù)已經(jīng) enable 且 active或者用Wants把它們一起拉起來。排查順序的建議list-dependencies看結(jié)構(gòu) →show看實(shí)際生效值 →critical-chain看時序 → 最后看 journal 確認(rèn)服務(wù)到底在等什么。5.2 服務(wù)反復(fù)重啟進(jìn)入 start-limit-hit這個報錯幾乎每個用 systemd 管理服務(wù)的人都遇到過。表現(xiàn)為systemctl status里寫著start-limit-hit服務(wù)處于failed狀態(tài)你手動 start 都拉不起來。原因是 systemd 默認(rèn)的啟動失敗計(jì)數(shù)窗口太短服務(wù)短時間連續(xù)失敗多次就被熔斷。解決辦法兩個方向一是調(diào)整 window二是找根因。調(diào)整參數(shù)在 service 文件里加StartLimitIntervalSec30 StartLimitBurst10意思是 30 秒內(nèi)最多失敗 10 次超過才熔斷。這個閾值適合多數(shù)微服務(wù)。如果還是頻繁觸發(fā)就要看日志找根因journalctl -u app-order.service -b -p err定位到崩潰棧后先修代碼問題別指望調(diào)大 window 就能掩蓋一切。實(shí)際調(diào)優(yōu)時建議把 window 調(diào)寬一點(diǎn)的同時增加RestartSec的退避時間比如 5 秒。這樣崩潰循環(huán)時每次重啟間隔 5 秒10 次就是 50 秒的窗口systemd 不會誤判也給服務(wù)恢復(fù)留了時間。5.3 內(nèi)存限制導(dǎo)致 OOM 崩潰如何區(qū)分是配額還是代碼問題MemoryMax設(shè)置不合理最直接的后果是服務(wù)被 OOM kill?,F(xiàn)象是journalctl里有內(nèi)核的 OOM 記錄服務(wù)退出碼變成 137SIGKILL。問題是到底是配額設(shè)太低還是代碼真的泄漏區(qū)分方法很簡單。先把MemoryMax臨時調(diào)到無限制刪掉該行或者設(shè)個極大值觀察一段時間。如果內(nèi)存仍然持續(xù)上漲直到系統(tǒng)告警基本可以斷定是代碼泄漏去找 heap profile如果內(nèi)存穩(wěn)定在某個水平說明是配額問題按實(shí)測峰值重新計(jì)算即可。我維護(hù)的一套模擬項(xiàng)目中某個服務(wù)MemoryMax512M老是崩潰把限制放寬到 1G 后穩(wěn)定再觀察發(fā)現(xiàn)它實(shí)際峰值就是 800M 左右。后來定位到是某段批量任務(wù)一次性加載了太多數(shù)據(jù)到內(nèi)存優(yōu)化成流式處理之后峰值降到 300M再把配額調(diào)回 512M一切正常。配額限制本身是最后的防線不是優(yōu)化手段——真正省內(nèi)存還得從代碼層面做。5.4 快速排查工具組合拳最后整理一套我每天都會用到的排查組合拳# 看全局失敗狀態(tài) systemctl list-units --failed # 看單個服務(wù)的完整狀態(tài)和最近日志 systemctl status app-order.service journalctl -u app-order.service -n 200 --no-pager # 看服務(wù)的資源占用排行 systemd-cgtop # 看某服務(wù)關(guān)聯(lián)的 cgroup 配置 systemctl show app-order.service -p MemoryMax -p CPUQuota -p TasksMax這套流程覆蓋了有沒有掛、掛了為什么、資源占了多少、配置對不對四個問題。實(shí)際排查時我基本是按這個順序一路查下去80% 的問題能在五分鐘內(nèi)定位。另外強(qiáng)烈建議給journalctl配置別名我日常用的是alias jlogsjournalctl -u $1 -n 200 --no-pager -f-f是 follow 模式配合-n 200可以先看最近 200 行再持續(xù)跟蹤調(diào)試啟動問題非常好用。--no-pager在腳本里順手加上免得每次都卡在 less 里。還有一個小技巧確認(rèn)某個服務(wù)是不是真的就緒了別只看進(jìn)程狀態(tài)要看它監(jiān)聽的端口。用ss -tlnp | grep app-order查看實(shí)際監(jiān)聽情況比systemctl is-active更靠譜——is-active只代表 systemd 認(rèn)為它活著不代表業(yè)務(wù)端口通了。寫在最后一些實(shí)際體會這套 systemd 方案我在 Manjaro 上跑了差不多三個月從最初的頻繁起不來、連不上、被打崩到現(xiàn)在的開機(jī)啟動一條命令、資源占用穩(wěn)定、崩潰自動拉起整個過程的收益非常直接。我個人體會最深的一點(diǎn)是別一上來就想著上 K8s。單機(jī)階段的微服務(wù)systemd 已經(jīng)解決掉了 90% 的進(jìn)程管理問題而且沒有額外的運(yùn)維負(fù)擔(dān)。等到真有多機(jī)、彈性伸縮的需求再遷移到容器編排也不遲——那時你對依賴編排、健康檢查、資源配額的理解都是從 systemd 這套機(jī)制里長出來的遷移成本反而低了。最后再分享一個小經(jīng)驗(yàn)unit 文件里寫注釋非常有用。systemd 的 unit 文件支持#注釋我會在每個服務(wù)的文件頭部寫清楚它的依賴關(guān)系、資源配額的取值依據(jù)、以及最近一次修改的原因。三個月后回來看這些注釋幫了大忙——你不可能記住當(dāng)時為什么給某個服務(wù)設(shè)了CPUQuota100而不是 150但注釋會替記憶買單。如果你也在 Manjaro 或者任何 systemd 發(fā)行版上跑微服務(wù)建議先把 unit 文件的骨架搭好再逐步加上資源配額和健康檢查從能跑進(jìn)化到跑得穩(wěn)、跑得省。這套思路不挑語言、不挑框架只要是 systemd 體系都能直接套用。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99re视频在线精品| 婷婷丁香五月激情中文字幕版| 97碰| 丁香五月婷久久| 婷婷五月 丁香六月| 综合激情四射一theav| 色五月天激情| 五月天天综合| 天天爽夜爽| 超碰在线国产| 3p久久| 五月天婷婷影院| 国产婷婷五月在线视频| 天天激情夜夜干| 人人妻人人澡人人爽| 99在线精品视频在线观看| 丁香六月无码| 五月天另类小说久久小说网| 婷婷丁香午夜综合影视| 色之综合网| 91AV视频| 亚洲人人操| 202丰满熟女妇大| 婷婷五月天影院| 婷婷美女精品视频| 婷婷丁香人妻| 79精品在线视频| 久久99精品久久久久久三级| 久操人| 九九九九精品精| 日韩精品一区二区亚洲AV观看| 日日操日日干| 六月色色婷婷| 天天插天天干天天舔| 国产精品视频| 99热在线资源| 欧美超级视频97| 影音先锋男人女人| 香蕉AV777XXX色综合一区| 91丨九色丨熟女|新版| 九九热这里只有精品31| 99精品网站| 就是色婷婷五月亚洲色| 九九熱最新視頻| 一本色道久久88加勒比—| 97色精品视频| 九色激情| 91综合在线观看| 性色做爰片在线观看WW| 97人碰人操| 婷婷亚洲综合| WWW.亚洲无码| 丁香六月婷婷色XXXXX| 桃色成人网| 日本三级日本三级99| 大香蕉啪啪啪| 久久精品国产色| www.久久色.com| 精品无码久久久久久久久| www.狠狠艹| 99日本精品视频热| 天堂AV三级| www狠狠爱com| 99在线视频播放| 狠狠操狠狠色| 欧美日韩日韩成人| 丁香五月WWW| 国产精品久久久久久久久久免费 | 婷婷六月亚洲综合| 操逼六区| 五月婷婷激情综合| 婷婷五月丁香图片人人操| 97人人超| 色五月五月丁香| 久久婷婷五月草视频在线播放| 色综天天综合| 日日肏天天操| 偷偷操99| 天天爱天天操| 超碰在线个人观看| 91热久久| A网在线欧洲| 欧美婷婷五月| 久久五月网| 99久久网站| 色色色网站| 国产人妻人伦精品一区二区| 色99xx| 超碰A V在线| 欧美性爱日韩性爱| 99这里只有免费的精品| 大香蕉婷婷五月| z色五月播播久久| 国产免费AV在线| 色色色色网站| 91九色 熟| 激情视频综合| 五月天天综合| 99在线精品视频| 亚洲日韩乱码一区二区三区四区| 99热在线看片| 99视频精品全部免费观看| 五月天欧美 另类小说| 五月丁香六月色婷| xxx综合在线| 六月色国内综合| 婷婷九月丁香| 午夜理论片最新午夜理论剧| 99热6色| 五月丁香久人妻中文| 欧美激情综合| 91疯狂操操操操| 天天五月丁香五月| 五月天婷婷丁香基地在线观看| 亚洲成人免费在线| 成人午夜在线视频| 色五月天视频| 少妇大叫太大太粗太爽了A片 | 久久色五月天| 日韩人妻AV在线| 五月天怕怕| 五月丁香狠狠爱| 欧洲免费视频色| 啪啪啪综合网| 五月天婷婷伊人| 五月在线婷色| 丁香九月婷婷| 五月天久久综合| 岛国资源网| 亚洲旡码| 狠狠五月激情丁香六月| 先锋资源 996| 婷婷五月中文字幕| 欧美在线视频99| 综合六月久久| 天天爽天天操| 激情五月天天| 色婷婷影音| 99精品视频免费观看| 91操在线| 婷婷五月激情视频在线| 丁香五月开心七月| 亚洲狠狠狠| 婷婷丁香成人五月天| 激情五月丁香婷婷| 色综合99无码 | 99噜噜噜在线播放| 激情综合网,婷婷| 日日杆天天| co超碰在线观看| www.99日本| 热思思九九| 精品五月视频婷婷在线观看| 激情小说五月天| www.99热在线| 伊人五月婷婷| 这里只有精品在线视频在线观看| 岛国AAAV| 香蕉AV777XXX色综合一区| 日本精品人妻无码77777| 色热久资源| 亚洲色啪| 99国产小视频免费观看| 99成人| 国产67194| 精品网站:999WWW| 东北熟女视频99| 人人人操97| 五月天色色无码| 五月天婷婷色小说| 狠狠色狠狠色综合日日91| Jh7Uf088VHafNm| 思思精品久久艹| 99久久国产宗和精品1上映| 久久九九综合| 亚洲亚洲人成综合网络| 99视频久久| 国产精品岛国片在线观看免费| 五月丁香婷婷伊人| 欧美日韩成人在线网站| 国产激情综合五月久久| 综合五月激情| 丁香久久久| 色丁香五月天| 丁香五月激情月| 激情综合网激情五月婷婷| 伊人丁香花综合影院| 天天激情站| 色五月第四色| 丁香五月综合| 亚洲天堂青草| 久久这里只有精品8| 色婷婷亚洲婷婷| 久久亚洲婷婷综合色五月| 五月丁香激情综合网| 丁香六月中文| 色五月婷婷综合| 开心激情综合| 天天色噜| 六月婷婷日| www。五月,com| 婷婷色在线视频| AV色五月婷婷| 五月婷色丁香| 五月丁香大香蕉| 国产精品久久久60086| 国产婷婷五月| 99国产精品久久久久久久久久久| 色色色色色色网站| 五月婷婷五月天天| 9久久精品| 操碰色一区就去操| 日韩啪啪视频| 欧美25p| 六月99天天婷婷激情综合| 免费看欧美成人A片无码| 五月天综合视频网| 亚洲久久婷婷| 五月婷婷综合热| www.一区二区三区| 99国产精品久久久久久久久久久| 97干网站| 色婷婷狠狠| 丁香五月天在线视频| 尤物一区二区| 五月综合久久| 五月天激情电影| 我要射综合| 97碰| 五月丁香婷婷激情四射迷人| 婷婷丁香无码专区| 欧美槡BBBB槡BBB少妇| 亚洲va欧洲va国产va不卡| 婷婷丁香色五月亚洲| www.色欲丁香婷婷| 婷五月天影院| 婷婷最新地址| 国产精产国品一二三在观看| 婷婷久久五月天| 久久久久久人妻| 先锋资源996| 亚洲AV中文在线| 欧美成人在线观看| 青青草国产亚洲精品久久| 国产精品色婷婷久久久精品| 九九色综合九九色| 久久婷婷五月综合色丁香花| 精品夜夜澡人妻无码AV| 国产乱人偷精品人妻A片| 亚洲色综合| 日本在线va| 五月天婷婷丁香视频| 欧美日韩99| 91丨人妻丨国产丨丝袜| Caoporn公开| 99国产精品久久久久久久久久久 | 99热20| 色婷婷色情| 婷婷五月天av小说| 热婷婷av| 国产探花一片区| 中日韩美欧成人一区二区精品在线| 色婷婷久久| 五月婷婷丁香瑟瑟视频| 深爱激情网五月天| 亚洲色视频| 中文网av| 99A片| wwwwww.色| 五月天色综合服务平台| 伊人狠狠操| 99精彩视频在线观看| 色爱99| 婷婷丁香色五月亚洲| 婷婷丁香97| 亚洲成人一区| 天天做天天爱天天日| 入口五月婷婷六月香| 大香蕉五月丁香| 婷婷五月天黄色| 久久五月激情| 午夜 外网 精品 在线| 日韩六六久久电影| 丁香色五月天| 天天爽天天日| 99热综合在线观看| 天天综合五月天| 久久久久久久久99精品| 天天 青草 制服丝袜 在线| 丁香色五月婷婷17C| 大香蕉99热| 超碰人人干| 97丁香婷婷| 亚洲天天操| CHINESE熟女老女人HD视频| 黄桃AV无码免费一区二区三区| 色五月,com| 激情五月天第四色| 婷婷在线五月天观看| 丁香五月婷婷乱| 丁香婷婷基地| 中文字幕成人| 97超级碰碰碰| 丁香色成人| 成人 在线 日韩| 噜噜色天天开心| 99热精品网| 亚洲成人人人操| 色噜噜狠狠色综合网| 久久久免费精彩视频| 九九视频在线观看视频6 | 色婷婷久久综合中文久久一本 | 丁香五月婷婷激情网| 五月天色色色| www.玖玖婷婷在线| 色色色视频免费无码 | 国产精品国产| 久久激丁香| 九色无码| 欧美激情综合色丁香婷婷五月天| 五月综合激情| 超碰在线免费9| 色六月天天激情综合网| 99在线看片| 天天射影院| 伊人激情AV一区二区三区| 色婷婷五月天无码视频| 天天插天天很| 久久9视频| 婷婷影院A成人| 成人综合AV| 丁香五月综合在线播放 | 日韩AV在线影片| 亚洲六月婷婷| 色噜噜狠噜噜视频| 99干免费视频| 欧美综合激情五月丁香| 99re思思久久| 男女免费视频999| 99免费热在线精品| 五月天色图| 久久久九九九 99| www..com色爱| 精品一区二区三区免费毛片爱| 9 99免费视频| 婷婷狠狠操| 伊人五月婷| 色激情综合狠狠婷婷| 婷婷五月天美女21p| 国产看真人毛片爱做A片| 人妻激情综合| 97人人搞| 伊人www22综合色| 99久在线精品99re8热| 五月婷婷色欲| 欧美va亚洲va在线播放| 精品无码久久久久久久久| 综合网色| 精品人妻一区二区三区四区不卡在| 99re视频在线| www.久热| 99操无码视频观看| 久9视频免费播放| 久久国产AV| 五月婷导航| 国产婷伊人| 五月丁香六月欧美综合| 国产精产国品一二三在观看| 欧美激情xxxXX| 99性视频| 影音先锋xfplay资源男人网| 五月丁香综合| 九月婷婷丁香| 在线不卡的视频| 开心五月天激情网站| 亚洲第一成人AV| 激情五月婷婷丁香六月| 亚洲天堂色色| 插插网爽妇五月丁香| 超碰99在线观看| 色五月之第四色| 色九区| 欧洲激情网站| 婷婷99狠狠躁天天久久久九九九| 六月婷婷久久大全| 丁香久月| 天天爽天天日| 日韩色情亚洲五月天婷婷| 久久久天堂国产精品女人| 狠狠狠狠狠操| 色五月婷婷AV| www.zbzhongsen.com| 深爱五月婷婷开心中文字幕| 精品99*| 五月丁香成人视频| 久久9精品| 五月天亭亭俺也| 99成人精品六| 色婷婷色丁香色欲av| 99国产精品久久久久久久久久久 | 欧美色色色色色色| 亚洲激情AV| 色婷婷九月| 激情丁香婷婷五月天| 欧美久久一级内射wwwwww.| 婷婷激情五月综合在线视频| 丁香五月婷婷av| 丁香五月婷久久| www.狠狠操.con| AV网址大全在| 婷婷丁香成人| www色五月| www.激情| 亚洲欧洲99| 激情五月天天| 99操99| 夜夜夜叫天天天做| 亚洲美女高潮久久久久久69| 五月婷婷综合激情| 婷婷五月激情丁香激情| 精品9久| 久久与婷婷| 色五月激情基地| 日本九九视频| 淫视馆av三区| 激情综合网色播五月| 天天干天天干天天干天天干天天干天天干天天 | 98色丁香五月婷婷综合网| 九九色综合网| 色99热| 五月开心久久| 国产XXXX搡XXXXX搡麻豆| 99久视频| 丁香六月婷婷姐网| 亚洲激情高潮| 亚洲精久久| 丁香五月婷婷亚洲天堂| 国产真人做爰视频免费| 成人丁香五月天| 亚洲五月花| 丁香六月激情综合网| 欧美视频五区| 91jiuseshunv| 婷婷久久爱| 色色综合网站| 五月婷网| 99综合自拍| 色婷婷五月天天天干天天操天天爽| 久久99综合| 在线99精品| A短视频免费在线观看| 92久久| 婷婷婷婷色| 这里只有国产精品在线| 激情综合网,婷婷| 97视频.干com| 9热精品| 色色色色色色色色色色色色色色,网站| 久热这里| 亚洲成人综合在线| 五月丁香六月欧美综合网站| 综合五月婷婷| 成人在线综合| 综合色色综合| 亚洲成片在线观看| 丁香玖玖视频大全| ady狠狠入| 91碰碰碰久久久久| 丁香花五月天社区| 丁香亚洲色综合| 久久99热网| 韩国真做片在线观看| 99性爱| 日本狠狠干| 五月婷婷片| 婷婷五月丁香香蕉| 大香蕉啪啪啪| 性生生活大片又黄又| 荡乳尤物3HP1V5| 人妻久久久| 欧美色五月| 久久女婷| 七月丁香婷婷 色色| 久久精品无码一区| 在线不卡的视频| 欧美婷婷综合网| 99色免费| 激情婷婷色色| 777.色色| 深爱五月网| 婷婷成人视频| 天天综合在线网| 天天艹夜夜艹| 91精品国产综合久久久不卡电影| 熟妇国产| 香蕉狠狠爱视频| 九九碰九九爱97超碰| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 国产免费AV在线| 综合婷婷| 天天操夜夜肏| 六月丁香色色| 91久久婷婷| 桃色五月婷婷| 99久久亚洲国产| 96丁香六月婷婷蜜桃综合久久| 久久网站免费亚洲| 婷婷丁香人妻天天久久| 国产精品电影网| 99热99思午夜精品| 丁香五月狠狠综合欧美| 色欲久久久久| 激情五月天色色| 亚洲激情四射色| av成人在线播放| 91婷婷| 五月丁香六月激情综合在线| 激情六| 天天肏屄夜夜爽| 99精品热| 婷婷综合网站| 婷婷五月丁综合| 久久五月天色婷婷| 一区二区成人电影免费播放| 久操激情| sewuyuejiqingwang| 五月婷婷婷婷| 99这里都是精品| 3DAV亚洲香蕉久久 一区二区| 天天综合网~91综合网| 99视频在线观看欧| 在线不卡视频| 91av视频在线观看最新网址| 丁香婷婷激情五月色| 丁香五月天啪啪a日本| 色五月AV| 激情久久久久久久久| 婷婷六月丁香久| 色欲久久久久久综合网综合网| 久久ww| 91精品婷婷国产综合| 欧美成人网婷婷综合在线| 91凹凸在线| www...com黄在线观看| 久久久久亚洲AV成人无码电影| 欧美激情2025| 日本天天色| 久久婷婷东京热| 26uuu欧美亚洲日韩| 超碰成人免费| 五月天丁香综合久久国产| 色五月成人网| 99热网精品| 久久久久9| 色色热| 五月停停99| 欧美激情xxxXX| 五月天色图| 人人操操| 婷婷综合玖玖五月| 五月丁香婷婷激情| 99热精品在线观看| 久久综合网免费视频| 久久人人九| 超碰丁香五月| 九九九九这里只有精品| 天天肏天天舔AV| 五月伊人视频在线看| 天天爱天天操| 九九热色视频| 色五月综合网| 天天爱天天做天天舔| 色婷婷99| 久久久婷婷婷| 26uuu国产| 5五月综合网亚洲| 99热这里只有在线| 亚洲人成网站999综合| 亚洲99手机免费看视频| 六月婷婷色色网| 99re26视频| 少妇人妻偷人精品无码视频新浪| 午夜精品777| 亚洲视频在线观看| 思思热久久久久思思热| 91黄色五月天视频| 91精品综合久久久久久五月丁香 | 亚洲婷婷91丁香| 黄久久久| 欧美久热| 五月婷婷久久开心网| 97精品人人A片免费看| site:minyis.com| 精品夜夜澡人妻无码AV| 天天摸天天高潮天天爽| 91九色偷拍| 久草大| 亚洲色色五月天| 99在线精品视频| 婷婷五月天成人网| 嫩草AV久久伊人妇女超级A| 先锋男人99资源| 任你搞免费视频观看| 五月天婷婷在线AN| 国产免费一区二区三州老师F1F1| 99精品网| 天天色综合网1| 9久久久| 夜夜骑夜夜撸| 激情久久综合网| 色色丁香五月天社区| 精品久久9| 亚洲精99| 五月天丁香啪啪啪啪| 丁香五月偷拍| 欧美又粗又大一区二区在线观看| 影音先锋男士资源网一区| 99色在线视频| 色五月婷婷少妇人妻| 亚洲中文字幕在线电影| 级情九色| 。久久久久久久久久久久久久人妻| 91丨九色丨国产在线| 天天视频亚洲| 99精品在线播放| 影音先锋秋秋五月婷婷| 久婷五月| 99综合一区| 97精品人人A片免费看| 天天插天天干| 天天撸夜夜爽| 成人网址在线观看| 色开心五月婷婷丁香HD| 色综合久久久久| 亚洲色视频| 五月天婷婷一起草| 色天堂97| 91日在线视频| 97碰在线视频| 国产精品色色| 精品五月视频婷婷在线观看| 五六月婷婷久久| 色色激情五月天| 99爱在线视频观看| 天天爱天天做综合| 久久精彩综合视频| 激情九月天天天天婷婷| 粉嫩AV久久一区二区三区| 99这里只有精品| 激情五月天婷婷视频| 亚洲AV成人在线| 国产中文字幕在线视频免费观看| 香蕉久久国产AV一区二区| 五月丁香好婷婷A片网| 激情精品久久| 我去色色网五雨天| 婷婷五月天亚洲综合网| 成人免费120分钟啪啪| 99九九在线观看免费| 99成人精品| 丁香五月婷婷婷婷欧美综合| 欧美日本国产欧美日本韩国99| 五月伊人91| 亚洲免费看片| 五月天婷婷色综合| 爱操人妻| 99久在线精品99re8热| 内射丰满人妻| 亚洲综合丁香婷婷六月天| 九九精品网站| 超碰在线91| 五月天久久久| AV九九| WWW.婷婷五月天.COM| 91精品视频男人的天堂| 婷婷日本在线| 丁香六月亚洲| 久久激情婷婷| 九九色天堂| 日日操夜夜操中国无码| 91怕怕网| 人妻中文字幕网| 人与禽A片啪啪| 成人做爰A片免费看视频 | 日日噜噜夜夜狠狠久久丁香六月| 精品乱码久久久久| 久草热在线视频| 99热国产免费| 久99久热| 丁香五月成人社区| 9热网站| 99re欧美精品| 天天视频精品9| 婷婷色一二三区波多野结衣| 韩国真做片在线观看| 欧美成人AAA片一区国产精品| 国产精品18久久久| 婷婷五月激情黄色| 日本人妻久久| 五月丁香999| 熟女色专区| 先锋资源996| www.色擼擼.com| www,天天干| 久久亚洲无码| 五月婷婷六月天| 中文字幕免费高清电视剧| 婷婷综合九色伊人| 午夜成人在线免费视频| 国产成人高清| www.99久久久| 激情网 五月天| 婷婷五月开心中文字幕色| 夜夜骑夜夜撸| 亚洲综合激情五月久久| 无码少妇高潮喷水A片免费| 色五月激情图片| 91凹凸在线| 99色色热| 79色色色色| 超碰免费99| 日韩精品AV一区二区三区| 五月婷婷 自拍| 97狠狠色| 欧美综合在线五月天色婷婷| 九九色图| 国产毛片精品一区二区色欲黄A片 国产人妻777人伦精品HD | 婷婷五月天精品| 97在线精品视频| 日本一级黄色片。| 色婷婷天堂| 日日天天操| 婷婷久久综合| 欧美日本韩国亚洲| 97影院一级片| 丁香五月冃欧美| 91九色在线| 九色亚洲| jiujiu热在线视频| 可以直接看的av网站| 久超超碰| 91人妻九色大屁股| 激情图片亚洲| 色综合天天综合成人网| 免费视频WWW在线观看网站| 香蕉乱插| 午夜无码精品色综合久久| 91操片| 人人操婷婷| 激情无码五月天| 六月婷婷五月丁香| 色99综合色88| www.91.com处女在线直播| 五月婷六月婷婷| 99久久九九| 成人一级片| 激情丁香五月天图片| 五月丁香综合网| 大香蕉大香蕉在线影院| 26uuuavcom| 婷婷天堂综合| 丁香婷婷五月综合| 久热这里只有精品视频免费观看| 97色吧| 色色五月婷| 五月天色色婷婷| 日韩三级视频一区二区| 思思久久思思| 丁香五月影院| 天天肏屄夜夜爽| 97碰| 丁香六月狠狠干| 丁香色五月婷婷| 男人大jjc女人免费视频| 狠狠操之狠狠操| 色综合久久综合中文综合网| 无码色综合| 日日爱激情| 久在热99| 人人草人人爱手机视频看看| 久久精品A片777777| 久久99热这里只有| 99这里| 99色综合| 五月天婷婷在线视频| 91九色|疯狂|高潮|对白|| 亚洲激情网| 成人国产网站| 停婷丁五月在线| 国产婷婷久久| 草综合14| 91丁香五月| 激情婷婷久久| 色婷婷亚洲| 操一区| 操一区| 第四色五月天| 偷偷狠狠久久婷婷五月天| 99热97| 久久网站观看免费欧洲国产| 9热在线观看| 亚洲色图在线视频| 9热精品| WWW久久久| 五月丁香影视| 天天模,夜夜模夜夜爽| 三年高清大片免费观看国语| 色五月丁香六月资源站| 国产伦亲子伦亲子视频观看| 亚洲精品亚洲人成人网| 五月婷婷综合视频| 丁香六月婷婷综合色| 婷婷五月天色| 久久九区| 亚洲欧洲中文日韩久久AV乱码| 天天日天天操天天干| www.夜夜爱.com| xx人人xx| 操操操操操操婷婷五月天| 99ri国产| 国产丁香五月天婷婷| 中国女人内射6XXXXX| 天天做 天天爱| 国产亚洲精品AAAAAAA片| 婷婷五月激情基地| 中文字幕在线日亚洲9| 九九爱这里只有精品| 97色射| 日韩成人电影在线播放| 丁香五月综合久久八| 日本91在线播放| 思思久热6| 丁香九月综合| 无码色色色| 五月综合六月婷婷| 伊人五月婷婷| 无码人妻AV久久久一区二区三区| 99色免费观看全部| 青青热视频| 五月婷婷伊| 东京热伊人| 丁香五月宝贝激情网| 国产精品视频网| 亚洲人人操| 丁香五月六月婷婷自拍| 色婷婷色综合激情91| 日本超碰在线| 亚洲激情97五月天| 九九99在线免费在线观看视频| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 婷婷免费无马| 大香伊人久色| 激情综合婷婷| 久久色情综合免费网站| 丁香五月六月久久综合 | 色婷婷五月天天天天天| 日日噜噜久久婷婷五月天| 欧美五月婷婷| 久久精品66| 亚洲午夜一区二区| caop视频| 九九在线视频| 99啪99| 六月丁香激情婷婷| 色色色色热热| 99日精品视频| 色护士综合| 亚洲亚洲人成综合网络| 五月天久久91| 婷婷在线五月天观看| 色婷婷久久综合久色综| 五月婷婷丁香五月| 久久久天堂国产精品女人| 天天狠狠夜夜狠狠2023| 久久婷婷综合国产| 99爱视频在线播放| 色五月丁香婷婷综合| 久热99| 奇米影视在线视频| av网站不卡在线| 亚洲综合在线视频| 久久ab| 亚洲熟女色| 婷婷性福五月天| 啪啪六月婷婷| 色青五月天| 五月激情开心婷婷| 久久色在线视频| 97人人操在线| 久久最新色| 99热精品10| 97婷婷五月激情六月丁香伊人| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 热久精品| 婷婷瑟瑟五月天| 亚洲性爱日韩无码| 丁香五月人妻熟女| 色婷婷五月天天天做| 综合xx网| 99热在线免费观看精品| 无码一区二区三区四区五区| 欧韩性爱| 日日日,com| 欧美狠狠草| 色七色九九| 九九综合伊人| 97人碰人操| 国产av第一专区| 99久久人人| 综合网色综合| 九月婷婷综合网| 超碰色婷婷| 久久9精品| 丁香婷婷大香蕉| 入口五月婷婷六月香| 久热只有这里有精品| 18av天堂| 久久五月天黄色五月天色网址| 丁六月激情| 天天干天天干天天干天天干天天| 99热99这里有免费的精品| 六月丁香五月激情婷婷| 99综合色| 97色热| 色综合99| 婷婷综合激情| 午夜大香蕉| 亚洲成人AV电影在线| 精品自拍97| 日本在线视频播放91| 99在线热视频| 一级片sese片.COM| 亚洲五月天天| 五月丁香婷爱在线| 国产免费一区二区三州老师F1F1| 99热.com| 国产精品18久久久| 国产中文字幕在线视频免费观看| 91丨九色丨熟女|老版| 国产激情在线| 玖玖伦理电影| 欧美综合五月丁香五月天| 永久AⅤ1| 成人在线视频网| 国产免费一区二区在线A片视频| 日韩AV在线影片| 婷婷99丁香| 激情宗合哪里能看| 激情五月婷婷丁香综合网| 九热免费视频| 99热在线播放| 男人操女人高潮91视频| 婷婷黄色网| 久草A片| 狠狠草综合网| 五月丁香啪啪综合| 1024操逼| 最新色色五月天| 99热在线中文字幕| 狠狠爱激情网| 色五月综合激情网| 五月婷婷黄色| 看久久性爱视频| 五月丁香六月激情欧美综合| 大香蕉 婷婷| 91视频精品99| 开心五月综合| 五月婷婷,六月丁香| 玖玖九九9999在线观看视频精品| 九九热欧美| 婷婷开心激情五月激情网| 婷婷综合爱| 狼友超碰| www。久久久久一b。Cc| 亚洲综合五月天婷婷丁香| 天天天天天天天操| 激情五月婷婷五月| 都市激情亚洲| 丁香六月啪| 久久A V无码视频| 久久97| 九九精品综合| 久久视频在线| 无码激情AAAAA片-区区| AV在线免费播放| 婷婷五月天影视网址| 99色色网| www.综合久久.com| 99这里只有精彩视频| 9999久久久久| 九九热中文| 五月天桃色深爱网| 99热这里有精品| 亚洲色综合| 91久久色| 天天肏天天肏| 丁香婷婷久久综合在线| 六月丁丁香| 91久久久久久| 色婷婷成人网| 操逼国产91| 色亚洲欧洲| 亚州美女| 干亚洲天堂| 五月婷婷中文| 9精品在线| 亚洲小视频| 精品国产乱码久久久久夜深人妻 | 9 1 A v久久久| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 少妇搡BBBB搡BBB搡毛茸茸 | 九月色婷婷婷| 99福利视频| 五月丁久久| 99热 这里只有精品 国产 日韩| 超碰93在线观看| 狠狠色97| 久久久久亚洲AV成人无码电影| 一区三区视频有限公司| 五月激情六月| 婷婷五月天影院| 午夜 外网 精品 在线| 久久久中文| 成人视频一区| 久久综合婷婷五月| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 99热这里精| 国产午夜精品AV一区二区麻豆| 色综合播放| 精品影院| 久久成人天| 可以免费观看的av| 97影院一级片| 久久色五月天激情小说| 黄色av网站在线免费播放| 日日操天天| 九九大香蕉黄色影院| 激情欧美五月丁香| www.com任你艹| www.日韩国产| 婷婷五月天在线看| 中文字幕日产A片在线看| 五月四色婷婷| 色丁香五月婷婷综合久久| 五月婷婷啪啪| 久99久在线| 色婷五月| 操你av| 成人丁香五月婷| 亚洲五月婷| 五月熟妇婷婷久久| 狠狠爱五月婷婷综合六月| 丁香五月婷婷视频| 热996精品在线观看| 5月丁香啪啪啪| 日韩av手机在线观看| 99热精品在线免费观看| 大香蕉婷婷丁香| 色色色网站| 婷婷五月丁香综合人妻| 九九亚洲无码| 超碰久热| 久久精品只有这| 亚洲综合久| 欧美性生交A片免费看| 婷婷五月花西瓜| 丁香五月另类色婷婷麻豆| 狠狠干综合| 人人摸人人搞| 欧美日韩91| AV在线不卡播放| www.26uuu.com亚洲电影| 任你搞在线观看视频| 婷婷五月天欧美| 亚洲午夜AV| 婷婷色资源| 久色资源网| 第四色婷婷日本| 色九九九综合| 久久九九色| www.久久av.com| 丁香五月激情网| www99热| 五月婷婷丁香综合网| 91久久九色| 任你爽视频| 五月婷婷在线免费| 99热香港| 日本久久99久久| 四川BBB搡BBB爽爽视频| 亚欧州精品视频| 色爱终和网| 天天操天天日天天爱| 中文在线视频久9| 99热成人| 亚亚州久久高潮| 99色最新在线视频| 男人的天堂av俄罗斯热| 五月天大香蕉| 精品,99| 99热无码精品| 91色逼| 国产97在线日韩亚洲女人被黑人巨大| a网站免费观看| 99在线观看精品视频| 婷婷五月开心中文字幕色| wwww.色婷婷| 成人午夜天| 日本一级黄色电影| 日本五月天激情| 五月丁激情| 丁香五月在线人妻| 日本色久| 欧美性色A片免费免费观看的| 开心五月婷婷| www,av好吊操| 日夜夜天天| 五月丁香色五月| 婷婷91| XX久久| 色99综合色88| 三男玩一女三A片| 丁香成人五月天| 激情五月天网站| 欧美丁香五月| 综合图区激情| 性生活视频98791| 欧美啪啪五月天| 99在线小视频| 国产成人+综合亚洲+天堂| 深夜A片| 激情综合网激情五月天| 呦呦视频无码播放| 色色五月天激情| 伦乱天堂| 中文字幕av在线| 激情性爱五月| 青青草Avb在线| 91在线人| 婷婷丁香五月基地| 婷婷五月天性爱视频| 久久色吧| 精品一区二区三区三区| 欧美六月婷婷| 欧美日韩精品一区二区三区钱| www.丁香黄色五月天人与| 欧美日韩一区二区三区四区| 中文字幕丰满人妻无码专区| 丁香五月婷婷基地| 天天噜| 国产精品人人妻人人爽| 激情综合激情五月一起草| 综合激情网激情五月。| 常久最新免费的色吊丝| 激情五婷网| 激情文学五月丁香六月婷婷| 91婷婷五月天嫩女| 夜夜躁爽日| 激情深爱五月天| 久久欧洲综合网| 婷婷激情人妻| 大香蕉综合| 天天射影院| 亚洲中文字幕在线观看| 国产看真人毛片爱做A片| 九月丁香很很色| 97超喷视频在线观看| 日本人妻操| 九九热在线99| 香蕉久久国产AV一区二区| 色五月丁香总合网| 在线观看av网站| 97超碰在线免费观看| 九热视频免费观看| 乱岳熟女50岁| 影音先锋男人av资源站| 成人在线视频一区| 亲子乱AV一区二区三区下载| 操操操www.com| 婷婷五月激情欧美大胆视频| 五月激情网站| www,超碰| 久久九九网| 99A片| 超碰在线9| 激情小说五月丁香在线视频观看视频| 五月丁香婷婷激情| 激情综合网亚洲色图| 久久A V无码视频| 日本婷久久| 亚洲亚洲人成综合网络| 久久九九99.www| 亚洲av免费在线| 亚洲日韩26uuu| 亚洲综合五月天| 色色色99| 免费观看高清无码| 五月天婷婷久草丁香| 久热69| 丁香色播五月天| 久久精品夜色噜噜亚洲a∨| 亚洲操逼片| 99热r| 就爱操www com| 人妻啪啪啪| 天天干天天干天天干| 99热很操老逼| 3pAV| 天天噜| 久久国产一区二区三区| 99精日本久久| 99玖玖免费视频| 婷婷激情五月天亚洲综合| 日本美女五月天| 99国产精品白浆在线观看免费| 久久99久久久久久久噜噜| 夜夜涩涩涩| 99性爱| www,黄色在线,con| 人人操91| 538午夜激情| renre人人操国产超碰在线 | 91色综合| 成人性生活免费观看。| 丁香综合婷婷开心激情网| 激情综合丁香五月| 97狠狠色| 天天肏视奸| 五月天亚洲最大成人| 九九99九九99九九99视频网| chaopeng在线人人| 色久在| 中文色婷婷| WWW、日本色丁香、co m| 千人斩操逼| 99热免| 久久99人人| 婷婷五月天综合激情| 婷婷五月天六月丁香| 亚洲色五月| 久久99精品视频| 五月天婷婷小说| www.韩日视频| 激情五月丁香在线观看直播| 丁香五月成人社区| 婷婷五月精品| 99这里精品| 九九99精品视频在线观看| 97干综合网| 婷婷六月啪啪| 激情综合文学| 色五月天网| 五月综合色| 思恩热国产视频右线观看| 伊人久久婷| 3p久久| 日日爽夜夜爽| Www.狠狠| 久热这里只有精品6| 久久免费高| 色婷婷影音| 国产熟妇乱子伦hd| 婷婷性爱| 久久五月天色婷婷| 丁香婷婷色九月| 99精品大片|