99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連 最近我把一套跑在RKE集群上的Rancher管理平臺(tái)從舊機(jī)器整體遷到了新環(huán)境。Rancher本身不復(fù)雜復(fù)雜的是它管理的一堆下游集群——每個(gè)下游集群里的agent都只認(rèn)原來(lái)的server-url和證書。遷移過(guò)程中先后經(jīng)歷了備份、恢復(fù)、agent重連、證書替換最后還要處理一堆歷史配置殘留。這篇文章把我這次基于RKE部署的Rancher管理平臺(tái)遷移的完整過(guò)程、關(guān)鍵命令和后來(lái)復(fù)盤出來(lái)的幾個(gè)坑都寫出來(lái)希望給要做同樣事情的人一個(gè)參考路徑。全文涉及Rancher版本與K8s版本的對(duì)齊、backup operator備份恢復(fù)、下游集群重連驗(yàn)證以及幾個(gè)我在遷移過(guò)程中踩過(guò)的典型問(wèn)題。1. 先想明白R(shí)KE架構(gòu)下Rancher遷移到底在遷什么1.1 RKE與Rancher的分工梳理RKERancher Kubernetes Engine是一個(gè)通過(guò)一條命令拉起Kubernetes集群的工具它用cluster.yml描述節(jié)點(diǎn)信息和集群配置執(zhí)行rke up后生成一套可用的K8s集群。而Rancher是跑在這套集群上的容器化應(yīng)用通過(guò)helm chart安裝到cattle-system命名空間用來(lái)管理它所在的local集群以及其他外部集群。這兩個(gè)層次一定要分清楚RKE負(fù)責(zé)“蓋房子”Rancher負(fù)責(zé)“住進(jìn)去做管理”。遷移的時(shí)候房子要重新蓋但里面的家具、賬本、住戶登記信息都要盡量原樣搬過(guò)去。這里的“賬本”主要就是Rancher在K8s里持久化的各種自定義資源CRD、configmap、secret、RBAC以及底層etcd中的狀態(tài)。1.2 為什么不能直接“打包拷貝”很多人第一次接觸Rancher遷移時(shí)會(huì)想Rancher不是一堆容器嗎把鏡像、數(shù)據(jù)目錄復(fù)制過(guò)去不就行了實(shí)際上Rancher管理平臺(tái)的狀態(tài)高度依賴Kubernetes的API對(duì)象和etcd它內(nèi)部還有多個(gè)controller通過(guò)watch機(jī)制同步信息。直接拷貝鏡像和靜態(tài)文件完全沒(méi)有意義因?yàn)镽ancher生成的密碼、token、私鑰存在secret里單獨(dú)復(fù)制一份出來(lái)并不代表可用對(duì)象之間的引用關(guān)系必須一起帶過(guò)去。下游集群通過(guò)agent和Rancher保持心跳agent里記錄的是server-url和證書信息單純復(fù)制會(huì)導(dǎo)致agent指向錯(cuò)誤的地址。Kubernetes本身是分布式系統(tǒng)它的etcd數(shù)據(jù)包含節(jié)點(diǎn)IP、證書等不能把一套集群的etcd直接丟給另一套集群用。可以把這個(gè)過(guò)程類比成搬家搬家具容易但你得先把戶籍、水電燃?xì)膺@些登記信息同步過(guò)去不然新家里通電通水了原來(lái)的賬單還是寄到舊地址。遷移的本質(zhì)是“數(shù)據(jù)、身份、網(wǎng)絡(luò)信任”三者的整體搬遷。1.3 遷移完成后的目標(biāo)狀態(tài)遷移完成后我們希望達(dá)到如下?tīng)顟B(tài)新集群上的Rancher版本和舊環(huán)境一致或者至少滿足升級(jí)兼容矩陣。登錄賬號(hào)、權(quán)限角色、全局設(shè)置、用戶密碼全部保留。下游集群仍然被Rancher管理agent自動(dòng)重新注冊(cè)。審計(jì)日志、監(jiān)控配置等可選組件按需保留。為此遷移前需要把舊環(huán)境的信息完整記錄下來(lái)建議用表格逐項(xiàng)填寫Rancher版本、Helm chart版本、K8s版本、RKE版本、server-url、證書類型、外部認(rèn)證方式、下游集群數(shù)量、以及是否有自定義的CRD或存儲(chǔ)配置。記錄項(xiàng)示例值用途rancher/rancher鏡像版本v2.7.8新環(huán)境安裝時(shí)需要對(duì)應(yīng)helm chart版本103.1.5避免restore時(shí)版本沖突rke --versionv1.4.10新環(huán)境RKE版本對(duì)齊server-urlhttps://rancher.example.com下游agent連接的關(guān)鍵證書類型受信CA證書 / 自簽證書決定是否要遷移私鑰認(rèn)證方式本地用戶 / LDAP / OIDC決定外部認(rèn)證是否需要二次配置下游集群數(shù)量7個(gè)遷移后驗(yàn)證清單1.4 常見(jiàn)遷移方案對(duì)比方案ARancher backup-restore-operator備份恢復(fù)。在舊集群安裝backup operator創(chuàng)建Backup CR把Rancher關(guān)鍵資源resourceSet備份到S3兼容對(duì)象存儲(chǔ)或本地路徑新環(huán)境反向操作Restore。優(yōu)點(diǎn)是備份粒度精準(zhǔn)、官方維護(hù)、適合遷移場(chǎng)景。缺點(diǎn)是這個(gè)工具只覆蓋Rancher自身狀態(tài)底層K8s的網(wǎng)絡(luò)插件、ingress等需要另建。方案B對(duì)承載Rancher的K8s集群做etcd快照然后在新環(huán)境用相同的RKE配置重建集群再恢復(fù)快照。優(yōu)點(diǎn)是Rancher本身幾乎無(wú)感知。缺點(diǎn)是對(duì)新舊環(huán)境的pod CIDR、service網(wǎng)段、甚至node名稱一致性要求很高靈活性差不太適合換機(jī)器、換機(jī)房的場(chǎng)景。方案C全新部署Rancher再手工配置或通過(guò)API遷移用戶、項(xiàng)目。優(yōu)點(diǎn)是環(huán)境干凈。缺點(diǎn)是工作量大、極易遺漏而且有很多不可復(fù)制的內(nèi)容比如agent注冊(cè)token、審計(jì)日志歷史、部分CRD狀態(tài)。方案優(yōu)點(diǎn)缺點(diǎn)適用場(chǎng)景backup operator遷移官方維護(hù)、粒度精準(zhǔn)、狀態(tài)完整只覆蓋Rancher資源換機(jī)器、換機(jī)房、版本不變或小版本升級(jí)etcd快照恢復(fù)整個(gè)集群狀態(tài)整體搬遷對(duì)網(wǎng)絡(luò)段、節(jié)點(diǎn)名要求高純硬件遷移且網(wǎng)絡(luò)規(guī)劃不變?nèi)虏渴鹗止づ渲脽o(wú)歷史包袱工作量大易遺漏舊環(huán)境已不可用且業(yè)務(wù)允許重建我這次采用的是方案A為主B作為備選兜底。這也是官方推薦路徑下文主要圍繞它展開(kāi)。2. 動(dòng)手前先把家底盤清楚必須帶走的數(shù)據(jù)和狀態(tài)2.1 資源清單不止cattle-system一個(gè)命名空間Rancher在K8s里并不是只往cattle-system里寫數(shù)據(jù)。備份的時(shí)候至少要考慮這些對(duì)象cattle-system命名空間Rancher pod、service、相關(guān)configmap。cattle-pipeline流水線相關(guān)配置。cattle-logging、cattle-monitoring、cattle-alerting日志、監(jiān)控、告警配置如果沒(méi)啟用就沒(méi)有。management.cattle.io組下的CRDCluster、Project、User、GlobalRole、Setting、Token等。secret包括admin密碼hash、服務(wù)賬戶token、agent注冊(cè)token等。RBAC自定義的角色綁定和權(quán)限設(shè)置。使用backup operator時(shí)它默認(rèn)的resourceSet已經(jīng)覆蓋了這些主流對(duì)象。實(shí)際操作中我在Backup CR里顯式使用官方預(yù)置的resourceSetName這樣不容易漏。不建議手工指定一堆命名空間因?yàn)楹苋菀茁┑裟硞€(gè)CRD等恢復(fù)后缺數(shù)據(jù)再排查就很被動(dòng)了。2.2 版本和配置信息盤點(diǎn)遷移前必須記下來(lái)除了數(shù)據(jù)還有幾類配置信息必須提前記錄。否則遷移到一半會(huì)發(fā)現(xiàn)server-url指向舊地址AI大模型都救不了你rancher/rancher鏡像版本以及helm chart版本用helm ls -n cattle-system查看。RKE版本用rke --version查看。K8s版本用kubectl version查看或者看RKE cluster.yml里的kubernetes_version。server-url在Rancher UI的全局設(shè)置里查看這是下游agent連接的關(guān)鍵。認(rèn)證方式如果用的是本地用戶備份里有密碼hash恢復(fù)后原密碼仍可用如果接的是外部LDAP或OIDC遷移后需要在新環(huán)境重新配置認(rèn)證提供方地址或信任關(guān)系。ingress證書類型自簽還是受信CA簽發(fā)。如果在遷移中更換域名或IP證書也要同步更新。強(qiáng)烈建議把上面這些寫到一個(gè)固定文檔里遷移過(guò)程中每一步都對(duì)照著核對(duì)。我的經(jīng)驗(yàn)是文檔里漏掉一個(gè)版本號(hào)后面恢復(fù)時(shí)可能多花兩個(gè)小時(shí)來(lái)排查。2.3 備份實(shí)操安裝backup operator并創(chuàng)建Backup CRbackup operator通過(guò)helm chart安裝命名空間是rancher-backup。安裝完成后創(chuàng)建一個(gè)Backup CR結(jié)構(gòu)類似apiVersion: resources.cattle.io/v1 kind: Backup metadata: name: rancher-backup spec: storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set encryptionConfigSecretName: backup-encryption-secret幾個(gè)字段的意圖說(shuō)下storageLocation備份文件存到S3兼容對(duì)象存儲(chǔ)也可以配置local存到節(jié)點(diǎn)路徑。生產(chǎn)環(huán)境建議S3兼容存儲(chǔ)方便新環(huán)境讀取。encryptionConfigSecretName可選。如果舊環(huán)境有敏感數(shù)據(jù)需要加密就得用同樣的加密配置否則新環(huán)境restore時(shí)解不開(kāi)。resourceSetName官方預(yù)置的資源集默認(rèn)使用rancher-resource-set。創(chuàng)建后觀察狀態(tài)等狀態(tài)變?yōu)镃ompleted表示備份完成。備份文件會(huì)生成一個(gè)tar.gz包里面是包含Rancher資源和CRD定義的一個(gè)清單。備份成功后確認(rèn)一下輸出的文件名后面Restore要用到。提示關(guān)于加密secret如果舊集群里配置了新集群安裝backup operator時(shí)也要把這個(gè)secret一起建出來(lái)并且內(nèi)容一致否則restore會(huì)直接失敗。這是最容易忽略的坑。2.4 備份完成后的驗(yàn)證備份狀態(tài)Completed不代表萬(wàn)事大吉。建議先下載備份文件確認(rèn)tar.gz包大小不是0字節(jié)再用tar解壓看一眼里面的資源列表。我遇到過(guò)備份文件生成成功但因?yàn)镾3接口兼容問(wèn)題文件內(nèi)容是殘缺的到restore階段才暴露。提前解壓驗(yàn)證幾秒的事能省下后面一整天的排查。3. 新環(huán)境搭建RKE拉起集群時(shí)的版本對(duì)齊與資源規(guī)劃3.1 版本對(duì)齊是遷移的第一原則先決定新環(huán)境的K8s版本。原則是新集群的版本與舊集群一致或者至少位于Rancher版本對(duì)應(yīng)的支持矩陣之內(nèi)。版本差太大的話Rancher chart在restore過(guò)程中可能出現(xiàn)CRD版本沖突、API group變更等問(wèn)題導(dǎo)致升級(jí)不動(dòng)、pod起不來(lái)。RKE本身也分版本舊環(huán)境用哪個(gè)版本生成的RKE新環(huán)境最好也用同一個(gè)版本。RKE生成的集群里kube-system下的一些組件版本和配置會(huì)有細(xì)微差異版本不一致會(huì)加大后面排查的難度。另外如果這次遷移同時(shí)想升級(jí)Rancher大版本我的建議是分兩步走先按舊版本遷移穩(wěn)定運(yùn)行后再做升級(jí)。不要邊遷移邊升級(jí)一次只引入一個(gè)變量否則出了問(wèn)題你不知道是遷移導(dǎo)致的還是升級(jí)導(dǎo)致的。3.2 cluster.yml的關(guān)鍵配置保持一致性在RKE集群的cluster.yml里有幾個(gè)參數(shù)會(huì)影響Kubernetes網(wǎng)絡(luò)層和證書層遷移時(shí)盡量跟舊環(huán)境保持一致network.plugin最常用canal或flannel新舊環(huán)境建議一致。services.kube-controller的service_cluster_ip_range與cluster_cidr集群內(nèi)部地址段建議保持與舊集群一致。如果變了Rancher里已存在的服務(wù)路由和網(wǎng)絡(luò)策略可能會(huì)出問(wèn)題。kubernetes_version保持同版本。nodes配置可以用新的主機(jī)名和IP這是允許變化的因?yàn)镵8s節(jié)點(diǎn)身份會(huì)重新生成。老規(guī)矩改節(jié)點(diǎn)IP沒(méi)問(wèn)題但pod CIDR和service網(wǎng)段不能隨意改遷移后很多已創(chuàng)建的服務(wù)地址和網(wǎng)絡(luò)策略都是基于原網(wǎng)段的。3.3 新環(huán)境節(jié)點(diǎn)資源規(guī)劃Rancher管理平臺(tái)自身不重但也不要太寒酸。承載Rancher的K8s集群至少用3個(gè)節(jié)點(diǎn)組成etcdcontrolplane角色生產(chǎn)建議每個(gè)節(jié)點(diǎn)4核8G起步磁盤用SSD并且40G以上。如果還要在下游集群上使用監(jiān)控、告警資源再往上浮。RKE要求節(jié)點(diǎn)能訪問(wèn)公開(kāi)鏡像倉(cāng)庫(kù)或者提前把鏡像推到私有倉(cāng)庫(kù)并在cluster.yml里配置registry認(rèn)證。新環(huán)境的節(jié)點(diǎn)時(shí)間同步也一定要做好K8s證書和agent錨定時(shí)間偏差太大會(huì)直接握手失敗。這些基礎(chǔ)項(xiàng)出了問(wèn)題后面恢復(fù)Rancher時(shí)出現(xiàn)的報(bào)錯(cuò)會(huì)非常奇怪。3.4 初始化后先做基礎(chǔ)驗(yàn)證別急著恢復(fù)執(zhí)行rke up之后先用kubectl get nodes -o wide確認(rèn)所有節(jié)點(diǎn)Ready再用kubectl get pods -A確認(rèn)kube-system和ingress-nginx的pod全部Running。這時(shí)候先不要急著裝Rancher或者做restore先把網(wǎng)絡(luò)層驗(yàn)證一遍。比如隨便跑一個(gè)測(cè)試服務(wù)確認(rèn)集群內(nèi)部DNS正常、pod之間可以通信。等基礎(chǔ)集群穩(wěn)定后再用helm安裝Rancher chart。安裝時(shí)用一個(gè)臨時(shí)的bootstrapPassword即可后續(xù)會(huì)被備份數(shù)據(jù)覆蓋。4. 恢復(fù)數(shù)據(jù)那一刻backup operator restore實(shí)操細(xì)節(jié)4.1 恢復(fù)前置準(zhǔn)備新環(huán)境恢復(fù)之前先把backup operator裝上命名空間同樣是rancher-backup。這一步和舊環(huán)境安裝基本一致需要注意兩點(diǎn)如果備份時(shí)用了encryptionConfigSecretName新環(huán)境要先創(chuàng)建同名secret內(nèi)容保持一致。如果備份文件在S3兼容對(duì)象存儲(chǔ)新環(huán)境要確保網(wǎng)絡(luò)可以訪問(wèn)這個(gè)地址尤其是私有化部署的對(duì)象存儲(chǔ)防火墻規(guī)則要提前配好。4.2 restore CR的編寫restore CR示例apiVersion: resources.cattle.io/v1 kind: Restore metadata: name: rancher-restore spec: backupFilename: rancher-backup-xxx.tar.gz storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set prune: true幾個(gè)字段的意圖backupFilename必須指向備份時(shí)生成的文件名。prune恢復(fù)時(shí)是否刪除目標(biāo)集群中已有的、不在備份里的Rancher資源。強(qiáng)烈建議設(shè)為true否則新環(huán)境安裝Rancher chart時(shí)會(huì)預(yù)創(chuàng)建一些默認(rèn)對(duì)象和備份數(shù)據(jù)混在一起容易沖突。storageLocation和備份時(shí)保持一致。創(chuàng)建restore后backup operator會(huì)在cattle-system里啟動(dòng)Rancher pod并恢復(fù)數(shù)據(jù)期間UI可能短時(shí)不可用需要耐心等。觀察restore狀態(tài)到Completed再刪除restore對(duì)象。4.3 恢復(fù)后的首次登錄和原始憑據(jù)恢復(fù)完成后Rancher會(huì)自動(dòng)重啟。用舊環(huán)境的管理員賬號(hào)密碼登錄如果用臨時(shí)bootstrapPassword是登不進(jìn)去的。如果舊環(huán)境密碼也沒(méi)記錄在恢復(fù)前提前從舊集群的secret里把a(bǔ)dmin密碼hash導(dǎo)出或者干脆在遷移前重置一次管理員密碼并記錄下來(lái)。登錄之后全局設(shè)置里的server-url非常關(guān)鍵。如果新環(huán)境地址變了要立刻改過(guò)來(lái)。改server-url時(shí)Rancher會(huì)嘗試重新生成下游集群的agent注冊(cè)配置。4.4 為什么順序必須是先有Rancher基礎(chǔ)chart再restore有人問(wèn)為什么不能在一臺(tái)空K8s集群上直接安裝backup operator然后restore因?yàn)閞estore本質(zhì)上是把Rancher自身的資源對(duì)象覆蓋進(jìn)去但它沒(méi)有能力重建Rancher chart全部初始化流程所依賴的骨架。比如cattle-system命名空間的基礎(chǔ)對(duì)象、ingress、serviceAccount等。先安裝Rancher chart可以把這些骨架搭好然后再用備份數(shù)據(jù)覆蓋血肉。骨架和血肉來(lái)自同一個(gè)版本時(shí)最穩(wěn)。4.5 恢復(fù)后的第一輪驗(yàn)證登錄Rancher UI后先看全局設(shè)置、用戶列表、角色權(quán)限是否完整。再進(jìn)入local集群看節(jié)點(diǎn)負(fù)載是否正常。此時(shí)下游集群大概率顯示Disconnected不用慌這一步正常下一步處理。5. 遷移后最麻煩的部分下游集群怎么重新接回Rancher5.1 失聯(lián)原因分解下游集群失聯(lián)的直接原因通常是agent注冊(cè)時(shí)保存的server-url還是舊地址DNS切換后連不上。證書不匹配TLS握手失敗。Rancher服務(wù)端生成的新token沒(méi)有分發(fā)下去。防火墻或安全組沒(méi)放行新的管理集群端口??梢赃@么理解下游集群的agent就像一臺(tái)老式電話機(jī)號(hào)碼簿里記的還是舊號(hào)碼。你要讓Rancher這邊的座機(jī)先確認(rèn)自己的新號(hào)碼然后想辦法把新號(hào)碼通知給所有電話機(jī)。5.2 先讓server-url和證書確定下來(lái)遷移后第一件事是把全局設(shè)置里的server-url改為最終對(duì)外地址并確認(rèn)證書有效。如果地址變化導(dǎo)致證書不匹配通常需要更新Rancher ingress的TLS secret換成覆蓋新地址的證書。在Rancher UI的Settings里觸發(fā)配置刷新。之后下游集群的agent如果自動(dòng)重連失敗再手動(dòng)重發(fā)。如果舊環(huán)境用了自簽證書遷移時(shí)要保留私鑰和完整證書鏈不能只帶一個(gè)crt。私鑰不匹配的話agent全部握手失敗報(bào)的都是x509錯(cuò)誤。5.3 自動(dòng)重連與手動(dòng)兜底大部分情況下只要server-url正確、網(wǎng)絡(luò)通暢cattle-cluster-agent和cattle-node-agent會(huì)在幾分鐘內(nèi)恢復(fù)正常。判斷方法在Rancher UI查看下游集群的狀態(tài)從Disconnected慢慢變回Active。在下游集群執(zhí)行kubectl get pods -n cattle-system看cattle-cluster-agent和cattle-node-agent是否Running。如果仍異常查看agent日志常見(jiàn)的是x509證書錯(cuò)誤或request timeout。手動(dòng)兜底路徑在Rancher UI進(jìn)入對(duì)應(yīng)集群的編輯頁(yè)面找到Registration Token重新生成或查看kubeconfig。拿到該集群的agent manifest。在下游集群里刪除舊的agent Deployment/DaemonSet讓它們重新拉取最新配置。更直接的做法在目標(biāo)集群對(duì)應(yīng)頁(yè)面用Edit Cluster重新保存一次Rancher會(huì)重新下發(fā)注冊(cè)命令。5.4 驗(yàn)證每類角色的狀態(tài)可以用一張表輔助驗(yàn)證檢查對(duì)象參考命令預(yù)期結(jié)果Rancher管理集群節(jié)點(diǎn)kubectl get nodes全部ReadyRancher podkubectl get pods -n cattle-systemRunning下游集群cattle-cluster-agentkubectl -n cattle-system get podsRunning或重建后正常下游集群cattle-node-agentkubectl -n cattle-system get daemonset正常調(diào)度Rancher UI集群列表集群管理-集群狀態(tài)為Active5.5 證書和token的實(shí)操經(jīng)驗(yàn)如果要保留原有自簽證書新環(huán)境必須把舊證書的私鑰、證書鏈完整帶入不能只帶一個(gè)crt。如果是遷移后重新簽發(fā)證書那么下游集群必須能通過(guò)新地址驗(yàn)證服務(wù)端身份否則agent全部握手失敗。比較省事的做法是遷移后直接換成受信CA簽發(fā)的域名證書一勞永逸。還有一個(gè)細(xì)節(jié)Rancher的agent注冊(cè)token是有有效期的如果遷移間隔太久token可能已經(jīng)過(guò)期。這種情況下重新生成新token即可。6. 復(fù)盤走過(guò)的彎路典型失敗場(chǎng)景與排查鏈路6.1 場(chǎng)景一恢復(fù)后Rancher UI起來(lái)了但登錄一直報(bào)錯(cuò)我遇到過(guò)restore完成后頁(yè)面反復(fù)提示Unauthorized的情況。排查下來(lái)發(fā)現(xiàn)是臨時(shí)裝的Rancher chart和備份數(shù)據(jù)的版本不一致導(dǎo)致admin用戶相關(guān)CRD沖突。解決方法是把Rancher chart卸載重新裝到與舊環(huán)境一致的chart版本再restore。所以恢復(fù)前核對(duì)chart版本絕對(duì)不要省。這一條異常重要。6.2 場(chǎng)景二下游集群顯示Disconnectedagent日志報(bào)TLS錯(cuò)誤agent日志里的典型錯(cuò)誤是certificate signed by unknown authority或x509: certificate is valid for xxx。這說(shuō)明agent拿到的證書和當(dāng)前server-url不匹配。處理步驟確認(rèn)server-url和實(shí)際訪問(wèn)地址一致。確認(rèn)ingress證書是新地址的有效證書。在下游集群刪除cattle-system下agent相關(guān)pod強(qiáng)制重建。如果還不行直接在Rancher里重新生成registration token并apply。6.3 場(chǎng)景三新集群上的Rancher pod一直ImagePullBackOff新環(huán)境通常還沒(méi)配好鏡像倉(cāng)庫(kù)的登錄信息特別是從私有鏡像倉(cāng)庫(kù)拉Rancher鏡像時(shí)。處理手段是提前在節(jié)點(diǎn)上配置docker login或者在cluster.yml和Rancher chart的values里配置imagePullSecrets。舊環(huán)境用了哪些鏡像建議提前導(dǎo)出鏡像清單避免新環(huán)境臨時(shí)找鏡像。6.4 場(chǎng)景四prune沒(méi)開(kāi)恢復(fù)后Rancher里混著一堆重復(fù)對(duì)象臨時(shí)安裝的Rancher chart會(huì)預(yù)創(chuàng)建默認(rèn)的集群對(duì)象。如果restore時(shí)prune沒(méi)開(kāi)備份里沒(méi)有的默認(rèn)對(duì)象會(huì)留在系統(tǒng)里看起來(lái)像多出來(lái)幾個(gè)服務(wù)或項(xiàng)目。它們的資源類型和正常對(duì)象混在一起排查很費(fèi)勁。所以restore時(shí)prune盡量設(shè)成true。6.5 排查思路的層次總結(jié)幾條排錯(cuò)順序第一層網(wǎng)絡(luò)通不通。從下游集群節(jié)點(diǎn)執(zhí)行curl -k https://新server-url:443。第二層證書對(duì)不對(duì)。檢查證書域名、有效期。第三層server-url對(duì)不對(duì)。在Rancher全局設(shè)置里看。第四層Token和agent配置有沒(méi)有更新??碼gent日志和registration token。第五層版本和CRD有沒(méi)有沖突。看Rancher pod日志和CRD版本。按這個(gè)順序走大部分問(wèn)題的根因都能定位到前四層。如果真的到第五層基本就是版本規(guī)劃的問(wèn)題需要回到備份和chart版本匹配這條線上重新對(duì)齊。6.6 一個(gè)小建議遷移前先完整演練一遍如果你的環(huán)境比較復(fù)雜比如下游集群非常多、有自定義RBAC、有外部認(rèn)證強(qiáng)烈建議先搭一個(gè)臨時(shí)環(huán)境完整演練一遍備份、恢復(fù)、下游重連、驗(yàn)證。演練過(guò)程能暴露大部分問(wèn)題也會(huì)讓你對(duì)restore的耗時(shí)和UI中斷時(shí)間有預(yù)期真遷的時(shí)候心里有底?;氐介_(kāi)頭說(shuō)的那次遷移。整個(gè)過(guò)程讓我印象最深的不是restore那一下而是備份清單和版本記錄是否完整。只要這些基礎(chǔ)信息是齊的遷移就像按照地圖走一遍反過(guò)來(lái)最基礎(chǔ)的版本不匹配就能讓你卡住半天。以后再接到類似的Rancher遷移任務(wù)我會(huì)先花半小時(shí)盤點(diǎn)版本、server-url、證書和備份文件再動(dòng)手。遷移窗口期盡量選在業(yè)務(wù)低峰restore過(guò)程中的UI中斷時(shí)間通常不會(huì)太長(zhǎng)但下游集群重新注冊(cè)的時(shí)間取決于集群數(shù)量和網(wǎng)絡(luò)狀況??傮w來(lái)看基于RKE部署的Rancher遷移只要把握住數(shù)據(jù)、身份、網(wǎng)絡(luò)信任這三件事不會(huì)出大問(wèn)題。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
综合网色| 国产亚洲精品久久久久久郑州 | 亚州操人在线视频| 亚洲激情五月丁香久久久久| 九九热10| 最新日韩AV中文字幕| 亚洲色无码| 婷婷在线精品| 九九精品亚洲| 伊人久久丁香狠狠婷婷综合香蕉 | 久热久| 无码视频国内精品久久久| 五月婷婷在线免费| 五月天自拍视频| 欧洲综合一区| 人妻丰满精品一区二区A片| 深爱五月激情| 超碰狠狠色| 五月天开心色情网| 伊人婷婷五月天av| 久久99网| 韩国中文字幕91| 日本九九网| www.25五月婷婷| 玖玖婷婷五月天毛片| 婷婷综合亚洲| 人人摸人人干| 色色性爱视频| 亚洲 在线 性爱| 伊久久婷婷| 国产精品第一国产精品| 丁香五月色| 婷婷操超碰| 五月激情婷婷开心| 综合色色婷婷| 婷婷五月色網站| 狠狠香婷婷五月| 任你擦免费视频| 国产五月视频| 五夜婷婷| 99色热视频在线| 婷婷伊人激情婷婷| 五月天婷婷在看| 日韩性视频| 99视频91| 婷婷五月中文字幕| 99在线视频。| 99艹精品在线观看| 超级碰碰视频无码| 超级碰碰视频无码| 在线资源av-超碰中文在线-成人AV| 亚洲天堂婷婷丁香| 97人碰人操| 国产真实乱了老女人视频| 超碰人人操人人干| 六月丁香网| 一级二级色大片| 久色欧美| 色七七色九九| 91欧美日韩综合| 日本色色网站| 99在线热| 激情六月婷婷| 51精品国自产在线| 9久操| 亚欧州精品视频| 精品AV无码超碰| 91中文狠狠综合| 大地9中文在线观看免费高清| 97啪啪| 亚洲无线视频| 中字幕视频在线永久在线观看免费 | 人妻熟女一区二区AV| 99热手机在线精品| 久久性综合| 香蕉97碰碰碰欧美| 久久资源综合| 国产ava| 97碰久久| 五月婷婷co.m| 国产精品色色| 亚洲日本韩国| 婷婷丁香五月91| 色婷综合| 伊人大香五月天| 狠狠擼综合| 91人人爽狠狠狠| 91男同| 久久女婷| 狠狠色综合五月| 九热视频这里只有精品| 国产亚洲精品久久一区二区三区| 五月丁香六月婷综合成人综合| 大香蕉五月丁香| 婷婷五月天久久久| 五月丁香婷色| 激情综合网婷婷久久| www.夜夜夜| 艾小青av| 婷婷99狠狠| 中文字幕人成乱码在线观看| 天久久久久| 五月丁香久| 国产色色网址网站| 欧美日韩成人在线网| 夜夜爱网站| 色综合激情图区| 六月丁香天堂| 国产片色| www.色五月| 97成人丁香| 九月丁香亭亭| 婷婷五月天综合在线| 丁香五月在线自慰| 婷婷五月天首页激情| 久热91精品| 久热这里这里有精品| 成人做爰A片免费看视频| 色五月激情五月| 97色射| 99久精品视频| 人人人va亚洲视频在线| 99精品网| 欧美激情丁香五月| 久99久在线| 韩国中文字幕91| 五月婷综合| 大功率国产在线| 九九这里有精品| 色婷婷电影| 九月大香蕉| 丁香六月啪啪啪| 中文字幕色色| 人人色人人弄人人操| 日韩狠狠色| 五月丁香婷中文| www.91久久| 丁香五月激情五月| 这里只有精彩视| 熟女少妇内射日韩亚洲| 亚洲色欲欧美一区二区三区| 国产精品18久久久| 色9色| www.91.com黄| www.五月婷婷.com| 激情久久综合| www久久99| 可以看的av| 深爱五月天| 婷婷玖玖五月天| 色5月婷婷| 久久香蕉网| 日韩影院三级| 爱射综合| 99热热这里只精品996小说| 色婷婷激情视频| 综合色色网| 色婷操逼| 丁香五月色| AV在线中文| 亚洲国产va| 乱精品一区字幕二区| 五月天婷婷色色| 久久婷丁香五月| 99精品偷自拍| www.夜夜騎夜夜狠| Av在线不卡一区| 91碰视频| 五月天色色网站| 婷丁五月| 亚洲一二三网| 亚洲天堂爱爱| 五月婷婷色男女| 婷婷香蕉| 六月丁香久久| 日本99热| 国产性爱在线| www,色婷婷| 亚洲婷婷基地| 国产美女无遮挡裸体毛片A片| 婷婷亚洲丁香五月| 成人在线综合| 亚洲妇女熟BBW| 五月婷婷欧美激情| 99综合视频一体| 亚洲亚洲人成综合网络| 久久精彩视频| 丁香五月婷婷激情123| 秋霞av吧| 亚洲区视频| 五月丁香色色综合| 人人操人人添人人摸97| 91一起操| 五月激情综合网| 色婷婷婷av| 超pen个人视频97| 99久久大片| 亚洲综合婷婷| 久热re在线视频| 99资源在线视频| 日韩免费乱轮网站| 激情九色| 婷婷五月天天| 婷婷中文字幕| 丁香六月激情四射| 亚洲第一精品成人999久久精品| 99re热在线视频观看| 99热在线观看免费精品| 国产亚洲99久久精品| 久久9精品| 超碰在线免费9| 狠狠色成人影片| 伦99热| 婷婷丁香综合| 日韩欧美成人一区二区三区| 色情综合| 婷婷激情社区| 丁香婷婷性久久| 色欲五月天| 五月婷婷色啪| 99在线看片| 久久性爱视频网站| 婷婷五月电影院| 伊人婷婷色激情丁香| 色婷婷超碰| 熟妇人妻中文字幕无码老熟妇| 玖玖五月丁香| 开心五月婷婷婷美女| 丁香六月激| 91性人人| 人人干人人操外国| WWW久久99久久99久久| 日韩无码色色| 久热超碰| 五月婷婷综合网| 五月激情婷婷播播开心| 婷婷色五月色| 五月开心色| 色视五月天婷婷| 亚洲黄色影视| 99热这里只有精品268| 97婷婷丁香五月天激情图片| 婷婷五月色花丁香社区| 九九热99精品| 蜜桃婷婷狠狠久久综合| 婷婷欧美激情| 五月丁香激情怕怕| 任你日视频| 婷婷五月六月丁香| 久久久久98| AV网在线观看| 五月婷婷六月丁香首页| 9l视频自拍九色9l视频在线观看| 五月丁香婷草| 欧美色色色色色色色| 91日精品| 殴美激情综合网| 97爱综合| 97碰久久| 五月丁婷香| 狠狠色狠狠| 伊人色综合影院视频| 77777亚洲午夜久久| www.99热这里精品| 色婷婷色99国产综合精品| 操九色| 九热视频在线精品15| 97日在线视频| 五月天合网| 色婷婷内射| 亚洲小视频免费看| 久久机热这里只有精品| 成人短视频在线免费观看| 亚州操人在线视频| 婷婷激情四射| 婷婷五月丁香图片人人操| 色五月婷婷在线观看第一页舔| 精品欧美一区二区三区久久久| 99精品成人无码A片观看金桔| 国自产拍偷拍精品啪啪一区二区| 超碰无码老师| 91九九| 五月花婷婷在线精品视频| 69五月天视频| 久久久天天啊| 五月激情天| 99操九九网| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 国产毛片精品一区二区色欲黄A片| 激情五月婷婷| 久9视频免费播放| 免费观看亚洲AV片| 婷婷婷五月天最新综合你懂的| 五月综合缴情网| 色停停五月,在线观看| 91欧美日韩综合| 开心激情五月天网| 伊人大蕉香| 日本一级一片免费视频| www.日韩艹| 色五开心五月五月深深爱| 五月天婷综合| 久久婷婷五月综合色区| 亚洲成人综合在线| 丁香五月激情在线| 婷婷五月天基地| 亚洲视频1区| 婷婷大香蕉| 毛片新网地| 婷婷激情人妻| 涩丁香91| 五月婷婷熟女| 天干夜夜操| 中文成人在线| 久思思久视频| 婷婷色啪| 99热日本精品| 久久五月婷天天干| 色综合丁香婷婷| 天天AV导航网| 久久三级视频| 丁香五月人妻| 激情五月五月婷婷| 极品精品一区二区三区在线| 天天天久久久| 九九久久精品| 97色婷婷在线观看| 国产在这里只有精品| 99久久久久| 大香蕉狠狠爱主页| 99九九精品| 亚洲1区| 黄久久久| 欧美五月婷婷| 色色六月| 天天干天天叉| 日韩一级| 久久机热思思热| 婷婷五月综合网| 干一干xxxx| 丁香婷在线| 99热9| 99热碰碰热| 色 色 色综合com| 中文字幕乱码亚洲精品一区| 五月丁香婷婷福利| 婷婷五月天成人| 91色色色| 99在线精品免费视频| 激情五月综合久久| 欧洲亚洲精品| 色狠狠综合入口| 涩五月色婷婷| 亚洲色图啪啪| 99免费在线视频| 黄色AAAAAAA| 99色1| 做爰丰满少妇1313| 婷婷基地五月色| 91碰碰| 丁香五月天欧洲在线| 久热 91| 婷婷五月婷婷| 日韩免费99| 99免费在线| 青青操日本摸摸看看| 婷婷涩五月天综合| 99九九热播在线免费视频| 五月丁香花免费视频| 国产AV一区二区三区最新精品 | 青青草原福利在线| 伊人久久综合| 色综合激情| 异能之下短剧免费观看全集| 激情综合亚洲| 大地资源色婷婷视频在线| 97久久综合网| 久久五月激情综合| 狠狠干天天内射| 无码色| 色五月色综合| 伊人综合色干| 人妻少妇色综合| 五月天婷五月天综合网在线观| 国产午夜精品AV一区二区麻豆 | 热99在线| 久久性视频| 激情小说在线视频| 青青草原99热| 99热偷拍| 超碰人人插| 婷婷五月天天天| 伊人激情啪啪| 婷婷字幕在线| 99爱这里只有精品免费视频| 中文字幕日韩无码制服诱或| 99日逼视频| 色久天| 五六月丁香激情视频| 色婷婷啪啪综合网| 玖玖在线视频| 色婷婷成人| 色色色999| 内射人妻视频国内| www.jiujiujiu| 五月激情丁香久久综合网| 丁香五月狠狠在线观看| 久久激情五月| 日日操夜夜骑| 五月婷婷狠天天色综合| 色婷婷综合综合网| 色情激情五月婷婷| 99无码视频| 丁香狠狠色婷婷久久无码视频| www.maotanji.com| 人妻有码乱操| 激情丁香五月| 九九色逼| 天天爽天天干| 狠狠色精品综合| 婷婷五月天影院| www.91av.com| 久久久五月天| 婷婷伊人中文字幕| 色亭亭五月天丁香综合AV - 百度 - 百度 | 丁香婷婷婷五月| 狠狠色丁香| 婷婷五月六月| 182.t午在线观看| 深爱激情综合网| 五月丁香淫淫婷婷婷| 色狠狠综合| 自拍视频在线观看9| 色噜噜狠狠色综无码久久合欧美| 婷婷丁香亚洲色综合91| 激情五月,色播五月| 九九综合精品| 日本片日本片祼观看网站在线看中文版网页在线看 | 色婷婷先锋| 五月婷婷伊| 99re久久| 色播播五月天| 国产色色视频| 五月丁香综合激情网| 五月天激情网图片| 91av无码| 狠狠婷婷日韩| 狠狠色噜噜狠狠狠777奇米| 激情四射五月天| 亚洲激情综合网| 久re热视频| 深爱开心激情| 婷婷五月婷婷| 婷婷色导航| 99这里有精品视频视频| 色丁香影院| 国产片色| 久久精品亚洲热| 激情五月婷婷伊人| 亚洲色色精品| 亚洲激情精品| 五月天综合在线观看| 小视频一区| wwccc久久久| 99精品视频在线免费观看| 91狠狠色| 蜜臀av无码久久久久久久久| 99区视频| www.热99热| 日韩成人精品一区久久久久| www.五月丁香av| 婷婷丁香五月天狠狠| www.minyis.com【JT】国内CDN落地页保证转化QQ2101460746 | 最新激情五月天| 五月婷婷狠天天色综合| 森林影视大全,最好看的2019年视频 | 婷婷五月噜噜| 久久人妻伦理| 丁香五月婷婷啪啪啪| 五月婷婷影院| 国产成人精品亚洲线观看| 欧美婷婷| 亚洲成人av在线观看| 色婷婷五月天无码视频| 99 re视频一区| 女性自慰系列第五页| 97色色-99久久| 久久久er热| 五月色婷婷AV| 久久天天| 伊人婷婷五月天| 欧美三级巜人妻互换| 男女啪啪做爰高潮无遮挡| 久久久久久久久月丁| 久久无意婷婷| 婷婷 久综合| 九九热99精品在线| 性综合网| 国产AV国片偷人妻麻豆| 国产永久一黄| 99只有精品| 成人无码髙潮喷水A片| 日韩专区五月天婷婷丁香| 超级碰碰碰久久网站| 波多野结衣AV无码Porn| 久久只有精品| 婷婷 伊人 久久| 婷婷丁香六月天| 婷婷视频在线碰| 婷婷综合色网| 颜射 精品性爱av| 99国产在线| 成人AV在线电影| 欧美色图片88| www.色99| 成人开心五月天| 色99网站| 五月丁香婷婷啪啪网| 婷婷色色狠狠| 草五月| 开心五月婷婷| 丁香五月激情综合婷综| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 六月色五月天天婷婷| 色色色综合| 国产做爰视频免费播放| 大香蕉精品视频| 五月激情五月婷婷五月天在线| 久久99网站| 刘玥精品一区| 亚洲色情一区二区三区四区| 色色色婷| 一区中文字幕电影| 中文无码精品一区二区三区| 国产67194| 久久综合最新网址| 啄木鸟黑丝一区二区| 97丁香五月| 九九精品大香蕉| 婷婷亚洲五| 九九热99熟女| 色色色色色色色色色色色色色五月天| 国产古装妇女野外A片| 蜜桃婷婷狠狠久久| 久久伊人五月天| 色婷婷六月| 丁香亭亭久久| 天天色综网| 91青娱乐青青草| www.成人婷婷综合| 亚洲av电影网站| 先锋资源996| 91精品丝袜久久久久久| 99热这里在线精品| 99视频这里有精品| www.婷婷五月天,com| www.色婷婷.com| 久久国产高潮白浆免费观看99| 天天模,夜夜模夜夜爽| 婷婷激情图片| 五月噜噜噜色综合| 五月天久久久| 另类图片激情五月天| 开心五月网| 色婷婷婷婷| 九九热自拍| AAA久久久AAA久久久AAA| 婷婷五月天狠狠色| 99啪99| 亚洲色色色| 狠狠色丁香久久婷婷综合五月| 婷婷五月天狠狠| 99精品丰满| 99热这里只有精品22| AV片在线观看| 五月丁香色六月激情干大屄| 在线看黄色| 天天色天天日天天舔| 四月婷婷五月丁香| 日韩婷婷| 色婷婷五月天激情久久| 中国女人内射6XXXXX| 国产美女精品| 91VIP在线观看| 亚洲视频色婷婷| 99操免费视频| 婷婷五月天电影网| 丁香五月骚喷水视频| 五月美女婷婷风骚| 五月婷婷五月天| 久久婷婷五月天激情四射| 美女网黄| 婷婷五月天激情在线观看| 国产美女无遮挡裸体毛片A片| 婷婷狠狠五月综合| 99九九热视频| 99操逼| 99热在线观看这里只有精品| 五夜丁香| 成人免费120分钟啪啪| 亚洲综合婷婷五月天| HD久久精品视频| 五月婷婷丁香综合,亚洲天堂| 天天操天天曰| 9色在线| 国产精品18久久久| 99色视频| 色插综合网| 99ri国产精品| 婷婷伊人网| 丁香五月激情鲁| 黄色激情久久| 欧美情色一区| 色婷婷大香蕉| 极品五月天| 天天日夜夜欢| 人五月天婷婷喷水| 精品久久久人妻| 区区欧美你爱| 五月丁香A片| 久久久性爱视频| 狠狠干狠狠操狠狠爱| 综合五月婷婷| 丁香五月Av| 五月天开心激情网色欲无码| 色婷婷最新域名 | 亚洲成人在线免费| 婷婷五月六月丁香综合| 五月婷丁香| 中文字幕91,综合| 99精品在线| 色久丁香五| 天天激情综合| 亚洲在线资源| 久热爱大香蕉在线蜜臀悦色 | 26uuu欧美激情另类| 精品成人久久久久久久_一二三四视| 午夜不卡久久精品无码免费| 久碰视频| 色色五月天婷婷丁香| 婷婷激情蜜桃玖玖丁香| 少妇高潮一区二区三区99欧美| 丁香五月瑟瑟| 粉嫩AV久久一区二区三区| www.色九月| 丁香五月婷婷骚视屏| 五月丁香狠狠爱| 玖玖99精品视频| 九九XX视频| 久99热| 9久精品视频| 66色在线日韩| 99久在线精品99re8热| 久久A热| 成人va在线观看视频| 九久久精品视频99| 99热热热国产超碰| 日日操人人操| 97深爱伊人综合| 五月丁香婷婷爱激情综合网| 日本三级黄色大片| 人人操AV| 欧美六月| 97人人草| 色婷婷丁香网| 丁香五月自拍| 丁香五月天激情婷婷丁香六月| 九九久久99精品免费观看www| 综合激情在线观看| 欧美、日韩、中文、制服、人妻| 密视AV综合在线| 极品五月天| 五月丁香婷婷激情爱爱| 欧美日韩成人综合9| 婷婷五月综合国产精品| 色婷婷综合久久| 久久九九激情五月天| 无码视频国内精品久久久| 色一情一乱一伦一区二区三区| www.色婷婷| 99色综合| 操B无码视频国语| 一级黄色片看看| 99福利视频导航| 久9草在线观看视频| 红桃91人妻爽人妻爽| 就去色色五月丁香婷婷久久久| 久久99激情五月天| 五月狠狠| 久久婷婷五月天懂色| 五月天社区| 18av天堂| 热久久这里只有精品20| 亚洲最大五月天成人网| 深爱综合网| 色婷婷a| 婷婷激情六月| 91919191919久久成人视频| 亚洲精品**不卡在线播he| 热久久这里只有三级视频| 97五月天婷婷综合激情网| 久久婷婷色综合| 男人的天堂999| 五月天欧美 另类小说| 国产精品香蕉| 四虎成人精品永久免费AV九九| 色99视频| 婷婷五月综合基地| 99热主页日本| w婷婷五月婷婷w| 欧美婷婷综合| 久久99久久99精品免视看婷婷| 精品二区| 九九色综合网| 深爱激情五月天婷婷网| 99热成人精品网站| 国产成人精品一区二三区熟女在线 | 伊人六月丁香婷婷| 99热这里只有精品86| 九九香蕉网| 亚洲亚洲人成综合网络| 99re热在线观看| 激情深愛五月視頻| 天天日综合| 久色网| 99热九九在线| 中国AV性爱观看| 91狠狠综合网| 99热最新国内| 五月丁香网视频| 婷婷五月天激情在线| 99热在线观看精品| 殴美97色| 色五月久久成人婷婷| 天天日天天舔| 色五月亚洲| 久久五月丁香| 婷婷六月天激情| 人妻内射一区二区在线视频| 色婷婷免费观看| 女力报到正好爱上你| 91久久婷婷| 青青草Avb在线| 色婷綜合网| 色色网站在线| 99啪啪网| 99精在线| 96丁香婷婷九月蜜桃综合久久| 99熟女| 综合五月天| 碰碰碰97国产| 天天爽人人爽| 婷婷久久久| 欧美综合五月丁香六月婷| 思思国产99| 高潮毛片又色又爽免费| 99re热视频这里只有综合亚洲| 婷婷五月天无码| 久久大大香| 婷婷五月天国产手机在线视频观看| 91视频一起草| 99热销国产这里有精品| 人人草人| 亚洲图片 丁香婷婷| 69午夜成人影片| 大香蕉啪啪网| 日韩好吊操| 丁香六月婷婷色XXXXX| 99热精品99| 天天综合色| 99婷婷色| 综合久久五月天| 有码一区二区三区| 久热这里只有精品在线| 亚洲无码影音| 六月亭亭久久综合激情| 亚洲深喉aV| 五月丁香在线国产 | 婷香五月| 91se在线视频| 五月婷婷综合激情| 丁香六月啪啪| 99激情| 99热99成人| 婷婷五月天网| 亚洲 精品 综合 精品| 六月激情婷婷| 亚洲熟妇AV综合网五月丁香伊人| 色综合五月天| 五月丁香 久久久| 1024国产在线| 色激情五月| 婷婷五月天大香蕉| 另类专区在线| 性色播| 99精品偷自拍| 丁香五月天网友自拍啪啪啪视频| 久热天堂| 丁香五月欧美激情| 亚洲人成网亚洲欧洲无码久久| 激情综合一| 伊人久久婷婷五月天激情四射| 亚洲V国产V欧美V久久久久久| 26uuu欧美亚洲日韩| 丁香花狠狠婷婷亚洲中文字幕| 欧美日韩aaaa| 9久国产精品| 99无码| 深爱激情av| 涩 五月 婷婷 狠狠| 在线天堂9| 99热6这里之有精品| j五月香在线| 五月丁香激情综合网| 丁香激情四射| 国产美女无遮挡裸体毛片A片| 九九热视频免费观看| 91久久18| 日韩色色视频| 五月激情基地| 免费国产视频| 少妇AB又爽又紧无码网站| 欧美激情综合色综合| 五月婷婷婷综合网| 搡BBBB搡BBB搡18| 久久ab| 欧洲99视频在线| 337久久| 久久色五月| 五月天中文字幕在线婷婷| 99免费在线视频| 97啪啪| 第五色婷婷| 狠狠夜夜五月丁香| 色婷在线视频| 日日操天天操| 中文在线成人| 五月丁香好婷婷A片网| 九九热婷婷| 人妻熟人中文字幕一区二区| 九九色色| 丁香五月激情无码视频| 91天天操天天干天天射| 色五月美女| 99精品亚洲| 天天天操天天天日| 激情五月天噢美| 无码动漫AV| 大香蕉220| 色婷婷网| 婷婷成人五月天成人文学| 色99网站| 五月天婷婷成人网| 日日操日日射| 国产VA播放| 看全色黄大色大片| 久久人妻超碰一区| 99热这里只有精品99| 激情99| 亚洲人成人五月天| 亚洲综合网激情小说| 日韩黄黄| 日亚二欧美| 岛囯综合激情网| 五月婷婷啪啪| 亚洲欧洲另类| 色在线99| 五月天激情小说欧美激情| 美女100%露全身无挡网站| 婷婷99狠狠躁天天| 亚洲无aV在线中文字幕| 婷婷成人av| 三级片AAA久久久AAA久久久AAA | 深爱五月婷婷| 色欲丁香| 99精品一二三四视频| 亚洲va在线∨a天堂va欧美va| 五月婷色丁香| 婷色成人| 人妻内射麻豆视频| 久久婷婷五月国产色综合激情| 日本久久婷婷| av国产精品偷| 丁香色成人| 日本丁香久在线| 日韩无码乱轮| 色婷婷四色| 岛国午夜视频| 激情五月天福利| 31色区视频免费看| 国产黄色大片| 一区二区三区四区牛| 在线日韩av| 激情婷婷黄色五月| 狠狠色噜噜狠狠亚洲A∨| 婷久久久| 久草五月婷| 婷婷综合在线播放| 操逼视频一区| 久久久激情视频| 婷婷久草| 亚洲综合激| 五月天色婷婷av| 激情丁香网| 婷婷激情五月天在线| 操操操AV| 99热精品在线| 人妻中文在线| 色色无码| 99干日日干| 国产精品黑丝| 97久久五月丁香婷婷| 国产激情在线| 九月丁香| 激情综合五月色在线| 丁香五月丁香伊人| 婷婷六月丁香欧美视频在线| 99精品免费| 欧美在线视频99| 激情综合五月婷婷| 色婷婷色综合久久精品V| 色婷婷五月婷婷五月婷婷五月| 丁香六月婷婷色XXXX| 九九在线这里只有精品视频 | 亚洲日比视频| 国产激情在线| 九九人妻福利| 五月天婷a| 色五月五月婷婷| 色一情一乱一乱一区91Av| 婷婷综合五月天| 1024成人免费看| 久Se视频在线观看| 538午夜激情| 热久久视频99| 九热视频在线精品15| 91日本在线观看| 色综合五月| 97超碰人人操| 99re热视频| 久久最新色| 专区无日本视频高清8| 99热亚州综合| 人妻性操逼中文字幕 国产| 婷婷综合成人五月天| 丁香六月婷婷综合缴| www婷婷| 97干在线免费| 亚洲 综合中文| 婷婷五月天在线综合| 久久99久久99久久99人受| 五月丁香婷婷成人网| 无码髙清| 婷婷开心综合人妻小说网址| 久碰婷婷视频| 99re欧美精品| 丁香九月激情| 色五月婷婷丁香五月| 色婷婷亚洲精品天天综| 狠狠色婷| 人人爽在线视频综合网| 成人va在线播放| WWW.桔色成人.COM| 五月丁香六月激情综合| WWW.色婷婷.COM| 色色日本| 久久综合五月| 五月天色五月天| 亚洲AV成人在线| 91操在线| 精品人妻久久久| 亚洲av骚货| 日本97久久久精品| www.五月天。com| 亚洲激情五月天| 草草影院爱爱| 婷婷五月18永久免费视频| 欧美激情综合色综合啪啪五月| 色婷婷综合影院| 亚洲综合色五月| 99视频内射三四| 99热99干| 婷婷五月天丁香社区| 第九色区AV在线| 婷婷五月欧美综合| 天天干夜夜谢| 碰碰女| 五月天婷婷色| 麻豆忘忧草午夜| 激情五月丁香激情综合网| 人人摸人人| 9久久久久久久久久久| 99国产在线| 大鸡巴伊人网| 狠狠狠五月婷婷六月丁香| 色婷婷五月天| 丁香五月天激情婷婷丁香六月| 亚洲无码播放| 色丁香五月| 色噜噜狠狠色综无码久久合欧美| 91成人看| 久久精品凹凸分类| 精品五月丁香| 激情综合网激情五月天| 五月天激情四射| 婷婷精品在线| 99热大香蕉| 久久久久久综合88| 色婷婷久久久| 狠狠综合| 99re热视频这里只有综合亚洲| 色婷丁香| 色九月婷婷| 天天干天天拍| 激情丁香淫荡婷婷| 国产69精品久久久久999小说| 丁香五月成人论坛| 欧美S码亚洲码精品M码| 能看的av片| 香蕉久操| 深爱激清网| 亚洲无aV在线中文字幕| 色婷久九| 色色色欧美| 天天干天天干天天| 狠狠色婷婷丁香六月| 韩国中文字幕91| 五月天激情无码专区| 亚洲天堂制| 99这里| 五月丁香婷中文| 99精品综合| 一根材五月婷成人| 香蕉曰比| 人人色婷婷| 成人av免费观看| 久久人妻精品| 天天插天天插天天插| 九九色天堂| 五月婷婷激情网| 99热精品网| 久久久久9久无码视频| 日本色视| 色五月婷婷婷婷婷婷婷婷婷婷| 日日爽夜夜爽| 五月丁香做爱视频| 99啪啪网| 丁香五月性| 无码 色| 狠狠久久婷五月| 国产成人精品一区二三区熟女在线| 五月丁香亚洲综合网| 日本三级毛片| 久久综合99| 天天激情| 99色激| 91狼友视频在线观看| 婷婷色啪| 亭亭色天香| 欧美精品A片一区在线观看| 五月天色区| 噜噜噜噜噜色| 色五月综合网| 亚洲AV日韩在线观看| 丁香婷婷六月天| 五月综合激情综合久| 日日操夜夜操无码免费| 五月天婷婷基地| 五月婷婷69| 華人性愛AV在線| 99在线播放| 六月色婷婷| 美国十月色婷婷在线观看| 久鲁鲁色网| 丁香久久九九99| 亚洲乱码日产精品BD在线观看| 天天干,天天日| 五月天天天开心激情网| 狼友超碰| 国产免费一区二区三州老师F1…… | 69人人操人人爽| 99re在线观看| 狠狠干在线| 五月婷婷中文网| 婷婷丁香五月麻豆| 色色色五月| 亚洲亚洲人成综合网络| 激情丁香六月| 五月天激情社区| 这里只有精品视频在线观看免费| 欧美成人日韩| 天天日天天肏天天奸| 婷婷激情小说| 五月天天综合| 欧美色五月天| 亚洲五月婷婷在线| 色综合激情| 第四色网婷婷| 高清免费在线视频| 午夜成人片400| 五月婷婷激情久久| 五月天天综合| 99热.com| 人人干人人操人人摸人人做| 大香蕉五月天| 91精品综合久久婷婷九色| 九九无毛| 成人AV在线中文版| 婷婷五月天av| www五月| 男女99免费视频| 色欧美影院| 久草热在线视频| www夜夜操comwww| 婷婷五月色网| 91操操操| 激情伊人五月婷婷久久| 丁香午月AV中文字幕| 大香蕉久久久久| 激情图片99| 国产亚洲av片| 啪啪视频99| 九九综合久久| 色情免费视频播放| 怡红院院久久| 激情五月丁香在线观看直播| 全亚洲最大的婷婷五月天网站COM| 91碰碰视频| 色情五月天丁香社区| 亚洲人妻电影| 激情婷婷。| 天啪色| 久久狠婷婷| 国产九九一区二区三区| 久久ri精品视频| 九月婷婷综合色干| 日本nghangse中文字幕| 婷婷丁香红五月91C| 激情98色婷婷五| 亚洲av电影在线| 丁香五月激情综合久久| 狠狠干.com| 日本色超碰| ...婷婷五月综合不卡,国产在线手机| 国产精品 的国产| 大香伊人婷婷| 久艹伊| 嫩模aV在线| 天天骑日日爽| 这里只有精9| 色五月综合婷婷| 五月天黄色激情小说| 十月丁香九月婷婷综合| 性爱视频99| 91久久精品无码一区二区三区| 五月丁香在线| 超碰精品在线| 伊人色综合网| 婷婷综合九色伊人| 99精品久久久久久久久| 激情五月婷婷视频一区二区三区| 亚洲99在线| 色婷婷电影| 人人操Av| 婷婷激情六月天视频| 日日操夜夜爽| 狼人狠狠操| 大香蕉综合| 超碰人人插| 久久综合无| 婷婷偷拍网| 俺去也在线www色官网| 丁香五月在线播放| 人人摸人人搞| 亚洲综合五月天婷婷丁香| 色色色色色色色五月| 国产成人AV在线播放| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 五月丁香91| 狠狠艹狠狠艹| 天天干com| 91天天操天天干天天射| 国产99热| 久热精品在看| 亚洲欧洲99| 精品国产va久久久| 久久这里只| 97人妻碰碰中文无码久热丝袜| 色婷婷先锋| 2015在线中文字幕| 久久久精品AV| 伊人婷婷激情| 综合网啪| 激情五月天综合网| 亚洲啪| 五月色视频| 五月天婷婷乱论小说| 色九月婷婷| 丁香9月婷婷| www久久五月com| 国产精品VA在线| 99热66| 人妻激情视频| 怡红院院久久| 成人AV在线电影| 深夜婷婷 丁香| 婷婷五月天av| 97 A I色色| 99免费在线视频| 色婷婷另类| 96人人操人人操人人| 亚洲人成色A777777在线观看| 激情内射人妻1区2区3区| 亚洲秘 无码一区二区三区妃光/1| 五月 丁香 欧美| 黄网在线免费观看| 婷婷WWW久久| 97操碰视频| 国产99精品免费视频| 免费亚洲婷婷五月| 无码激情AAAAA片-区区| 久9久9久9久9久9久9| 色五月婷婷激情| 亚洲精品一区无码A片| 久久99网站| a久久| 激情五月婷婷色色| www.狠狠狠.com| 天天色综网| 久久图色4| 日日日天天干| 538在线精品| 久久久人妻不卡| 9l视频自拍九色9l视频在线观看| 97久久精品视频| 五月综合六月丁| 久久这里只有精品99| 一区二区免费看| 五月丁香综合| 色婷婷综合丁香五月天| 婷婷五月丁香婷婷| 香蕉AV福利精品导航| 精品久色| 激情五月天丁香| 99ri久久| 婷婷五月花| 婷婷五月六月丁香| 噜噜色婷婷| 狠狠综合久久综合| 狠狠狠婷婷五月综合| 婷婷香蕉| 久久精品99| 337p大胆噜噜噜噜噜91Av| 26.uuu丁香五月婷婷| 六月丁香久久| 九九精品婷| 五月亭亭狠狠| 丁香五月激情月| 婷婷丁香五月婷婷| 激情婷婷护士激情| 亚洲成人噜噜| 超碰丁香五月| 丁香美女五月天婷婷| 91丨九色丨熟女丰满| 99热这里都是精品| AV在线免费播放|