99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Redis集群三主三從一鍵部署與故障轉(zhuǎn)移排錯

Redis集群三主三從一鍵部署與故障轉(zhuǎn)移排錯 簡介一份面向 CentOS 7.x 環(huán)境搭建 Redis 集群的自動化部署腳本包服務(wù)于需要快速驗證集群方案的運維與后端開發(fā)者把主從復(fù)制、16384 個槽位分配、故障轉(zhuǎn)移等集群要點固化為可一鍵執(zhí)行的流程免去逐臺手工編譯與配置的重復(fù)勞動。壓縮包共 5 個文件、約 1.86MB以 3 個 sh 腳本為主體分別承擔主流程調(diào)度、Redis 安裝配置與集群卸載清理另含 redis-5.0.0.tar.gz 源碼包和一份 txt 使用說明覆蓋從解壓編譯到集群成型的完整環(huán)節(jié)已有 777 人學習。按說明修改 IP 與端口變量后依次執(zhí)行即可完成依賴安裝、編譯、節(jié)點配置與集群創(chuàng)建卸載腳本便于回收實例與殘留配置腳本中的變量定義、條件判斷與循環(huán)結(jié)構(gòu)也可作為編寫同類自動化部署腳本的參考。對初次接觸集群部署的讀者還可借此理解節(jié)點角色劃分與槽位分配在真實環(huán)境中的含義并沿著腳本順序梳理常見故障的排查方向。1. 手工搭三主三從熬到凌晨這份 Redis 集群一鍵部署腳本省掉的四件事三臺 CentOS 機器、六個 Redis 實例我第一次手工搭集群從下午兩點折騰到凌晨配置文件手改六遍meet 完節(jié)點卡在 handshake最后發(fā)現(xiàn)是 17000 端口沒放行。后來拿到這份 redis 集群一鍵自動部署腳本.rar真正省事的不是redis-cli --cluster create那一行而是它前面那堆重復(fù)勞動——批量生成 conf、按順序拉起實例、把客戶端端口和集群總線端口一起放通、創(chuàng)建完再跑一遍 check 把狀態(tài)確認下來。這套東西是 shell 寫的貼著 CentOS 的 systemctl、firewalld、sysctl 走沒有額外運行時依賴幾百行讀一遍就能按自己的機器改。它適合三類人手上只有兩三臺測試機、需要反復(fù)重建集群做課程設(shè)計或壓測的線上出過槽位故障、想在預(yù)發(fā)環(huán)境原樣復(fù)現(xiàn)的以及剛接觸 Redis Cluster、想先跑通再回頭補原理的。下面從機制講到執(zhí)行鏈路再講翻車點。2. 槽位、總線與選舉一鍵腳本必須替你做對的四個集群機制腳本只做「生成配置、拉進程、建集群」三件事但每一件背后都壓著 Redis Cluster 的運行時規(guī)則。不理解這四條腳本跑掛了連日志該往哪看都不知道。反過來理解了這四條腳本里那些看起來多余的 sleep、循環(huán)和判斷你就知道它在防什么。2.1 16384 個槽位怎么分腳本為什么默認給三主Redis Cluster 把整個鍵空間切成 16384 個槽key 落到哪個槽由CRC16(key) mod 16384決定槽再歸某個主節(jié)點管??蛻舳四玫?MOVED 重定向后自己緩存槽位表所以集群的核心不是「數(shù)據(jù)分片存儲」這件事本身而是「槽位歸屬必須全集群一致」。任何一個槽沒有主人集群在cluster-require-full-coverage yes默認值下會直接拒絕所有寫請求。一鍵腳本之所以默認三主三從不是審美選擇是硬約束--cluster-replicas 1要求主節(jié)點數(shù)至少 3因為故障轉(zhuǎn)移要靠主節(jié)點多數(shù)派投票兩個主節(jié)點掛一個就湊不出多數(shù)。三主是最小可用拓撲腳本里如果寫成「節(jié)點數(shù) / 2」來算主節(jié)點數(shù)節(jié)點少于 6 個時就會算出 2 主create 階段直接報*** ERROR: Invalid configuration for cluster creation。槽位分配默認是均分再取余16384 / 3 5461、5461、5462第三個主節(jié)點多拿 2 個槽。這個數(shù)字在很多巡檢腳本里被寫死成5461做斷言一旦集群做過 reshard 就會誤報。我的做法是只看cluster info里的cluster_slots_assigned:16384不校驗單節(jié)點槽數(shù)。另外要記住集群模式只支持 db 0配置里寫databases 16不會報錯但SELECT命令會被拒絕返回ERR SELECT is not allowed in cluster mode。涉及多 key 的操作必須落在同一個槽用 hash tag 把 key 的一部分用{}包起來比如user:{1001}:name和user:{1001}:age會被強制分到同一槽這是設(shè)計鍵名時就要定下來的事不是部署階段能補救的。2.2 cluster bus 與握手meet 之后到底發(fā)生了什么每個集群節(jié)點會額外監(jiān)聽一個「客戶端端口 10000」的總線端口7000 對應(yīng) 17000。節(jié)點之間交換 gossip 消息、投票、傳播槽位表都走這個端口用的是二進制協(xié)議和客戶端協(xié)議不是一回事。手工搭集群最常見的卡點就在這里6379 能 telnet 通17000 不通cluster nodes里對方節(jié)點永遠是handshake狀態(tài)日志里反復(fù)刷Unable to connect to MASTER。握手的完整鏈路是腳本對 A 節(jié)點執(zhí)行CLUSTER MEET B_IP B_PORTA 通過總線端口連 B交換節(jié)點信息B 再把 A 的信息 gossip 給已知節(jié)點。所以只要有一個節(jié)點的總線端口不通整個集群就可能分裂成兩個互不可見的孤島而cluster_state在每個孤島內(nèi)部都顯示 ok。這就是為什么腳本里的防火墻規(guī)則必須成對出現(xiàn)客戶端端口段和總線端口段一起放少寫一行就是幾小時的排查。還有個容易被忽略的點節(jié)點的 node id 存在cluster-config-file指定的文件里默認叫nodes.conf。這個文件是 Redis 自己維護的腳本絕對不能刪、不能提前創(chuàng)建、不能手改。刪掉它的后果是節(jié)點重啟后生成新 id其他節(jié)點還拿著舊 id 做 gossip集群視圖徹底錯亂。我在腳本里見過用rm -rf $DATA_DIR/*做「清理重來」的寫法看著干凈實際上把 nodes.conf 一起干掉了第二次執(zhí)行必翻車。2.3 主從復(fù)制與自動故障轉(zhuǎn)移的判定鏈路從節(jié)點默認每秒向主節(jié)點發(fā)REPLCONF ACK主節(jié)點把復(fù)制偏移量記在內(nèi)存里。某個主節(jié)點失聯(lián)后其余主節(jié)點在cluster-node-timeout默認 15000 毫秒之后把它標記為fail然后由持有該主節(jié)點槽位的從節(jié)點發(fā)起選舉拿到多數(shù)主節(jié)點投票后提升為主接管槽位。整個過程腳本管不了但腳本里的兩個參數(shù)直接決定它能不能成。一個參數(shù)是cluster-node-timeout。設(shè)太小網(wǎng)絡(luò)抖一下就觸發(fā)主從切換切完數(shù)據(jù)還沒同步完又切回來設(shè)太大真掛了要等半分鐘以上才恢復(fù)。生產(chǎn)上給 15000 到 30000 之間比較穩(wěn)測試機可以給 5000 加快演練節(jié)奏。另一個是cluster-replica-validity-factor默認 10從節(jié)點斷線時間超過node-timeout × factor就失去競選資格這是防止用一份過期數(shù)據(jù)頂上去的保護。把它設(shè)成 0 表示不管斷多久都能選只在「寧可丟數(shù)據(jù)也要保可用」的場景下才這么干。從節(jié)點能不能被選中還要看它的復(fù)制偏移量和主節(jié)點差多少。如果腳本為了讓啟動快把repl-diskless-sync之類的東西亂調(diào)或者從節(jié)點剛起來還沒完成全量同步就被拉進集群選舉時它的 offset 落后太多同樣會被其他主節(jié)點拒絕。所以腳本里「拉起實例」和「cluster create」之間應(yīng)該留幾秒讓復(fù)制鏈路建立這個 sleep 不是玄學是在等master_link_status:up。2.4 節(jié)點順序與副本錯位腳本里最容易寫錯的一段邏輯redis-cli --cluster create的節(jié)點列表順序是有語義的前 N 個被當作主節(jié)點后面按順序分配給它們做從節(jié)點。如果參數(shù)寫成--cluster-replicas 1列表是A B C D E F那 A B C 是主D E F 依次是 A B C 的從。但這個「依次」是按主機和端口的排列算的腳本如果用兩層 for 循環(huán)先生成所有 7000 端口再生成所有 7001 端口最終可能出現(xiàn)三個主節(jié)點全在同一臺物理機上另一臺機器上的三個從節(jié)點全在等它掛——機器一斷電集群直接沒了一半。正確的做法是按機器交錯排列每臺機器出兩個實例列表寫成A:7000 A:7001 B:7000 B:7001 C:7000 C:7001這樣主節(jié)點天然分散在三臺機器上從節(jié)點也落在不同的物理機。腳本里如果做了「按 IP 分組再拼接」的處理讀的時候要確認它是交錯而不是分段。這一點在驗收時可以用redis-cli --cluster check輸出的主從對應(yīng)關(guān)系直接看出來從節(jié)點和它的主節(jié)點在同一臺機器上就是錯位了。還有一種錯位是端口和目錄沒對上。同一個 IP 上跑 7000 和 7001 兩個實例配置里的dir必須是兩個不同目錄logfile、pidfile、dbfilename也都得帶端口后綴。腳本如果只替換了port而沒替換dir兩個實例會往同一個 dump 文件里寫AOF 也會互相覆蓋癥狀是集群能建起來但一重啟數(shù)據(jù)就亂。3. 解包看結(jié)構(gòu)CentOS 上的目錄、系統(tǒng)參數(shù)與端口三件套拿到 rar 之后第一件事不是急著bash deploy.sh而是先看清包里有什么、它假設(shè)你的機器處于什么狀態(tài)。這類腳本的失敗八成不是腳本邏輯錯而是它默認的前置條件在你的機器上不成立。3.1 壓縮包里的文件各管什么rar 在 CentOS 上默認解不開需要先裝unrar很多最小化安裝的鏡像里沒有這個包得先配好軟件源再裝。解出來的目錄結(jié)構(gòu)各家寫法不同但職責基本是固定的幾類讀之前先按下面這張表對一遍缺哪個文件就知道腳本會缺哪一步文件/目錄典型職責缺了會怎樣deploy.sh主入口串起檢查、生成、啟動、建集群無法一鍵執(zhí)行redis.conf.tpl配置模板用變量占位端口、目錄、密碼生成的配置全是默認值nodes.list/hosts.conf節(jié)點 IP 與端口清單腳本不知道往哪幾臺機器鋪start_all.sh/stop_all.sh批量拉起與停止實例只能手工 ps 后 killcheck_cluster.sh建完集群后的狀態(tài)校驗出問題沒有統(tǒng)一出口redis-*.tar.gz源碼包或二進制包需要自己準備同版本安裝包README端口、密碼、目錄約定參數(shù)只能靠讀腳本猜讀腳本時優(yōu)先確認三件事REDIS_HOME裝在哪、DATA_DIR數(shù)據(jù)落在哪、密碼是寫死在腳本里還是從外部傳入。寫死密碼的腳本在多人共用的測試環(huán)境里很常見改的時候記得同步改requirepass和masterauth兩處只改一處集群建不起來。3.2 CentOS 7/8 必須先改的四個內(nèi)核與資源項Redis 在集群模式下對系統(tǒng)資源更敏感因為多了總線連接和節(jié)點間心跳。以下四項如果腳本里沒做建議在執(zhí)行前手工補上用sysctl落成配置文件比sysctl -w臨時改可靠重啟不丟# /etc/sysctl.d/99-redis-cluster.conf # 允許內(nèi)存過量提交否則 fork 做 RDB 落盤時可能直接失敗 vm.overcommit_memory 1 # 監(jiān)聽隊列長度低于 511 時高并發(fā)下會出現(xiàn)連接被丟棄 net.core.somaxconn 1024 # 盡量不使用 swap避免節(jié)點間心跳因換頁抖動而超時 vm.swappiness 1 # 關(guān)閉透明大頁THP 會造成 Redis 的 fork 延遲 spikes echo never /sys/kernel/mm/transparent_hugepage/enabled echo never /sys/kernel/mm/transparent_hugepage/defrag sysctl --systemvm.overcommit_memory這一項是最容易被忽略的日志里表現(xiàn)為Background save is starting之后跟一條fork: Cannot allocate memory進程直接沒了而這臺機器內(nèi)存看起來還很空閑。原因不是內(nèi)存不夠是內(nèi)核在 fork 時按 overcommit 策略拒絕了地址空間申請。somaxconn則對應(yīng)TCP: request_sock_TCP: Possible SYN flooding這類告警連接數(shù)一上來就丟包。文件描述符也得提。Redis 默認建議ulimit -n不低于 10032systemd 拉起的服務(wù)要在 unit 文件里寫LimitNOFILE10032光改/etc/security/limits.conf對 systemd 服務(wù)不生效這是 CentOS 7 之后非常常見的坑。腳本如果用redis-server xxx.conf 的方式啟動繼承的是當前 shell 的限制換個終端執(zhí)行結(jié)果就不一樣我一般讓腳本顯式ulimit -n 10032再拉進程。3.3 端口放行7000-7005 只是其中一半六個實例用 7000 到 7005客戶端連這些端口沒問題但節(jié)點之間要走 17000 到 17005只放前半段的表現(xiàn)是cluster nodes里其他節(jié)點一直是handshake或者已經(jīng)connected但cluster_state:fail日志刷Cluster bus: connection refused。firewalld 的寫法是一次把兩段都加上# 客戶端端口段 firewall-cmd --permanent --add-port7000-7005/tcp # 集群總線端口段 客戶端端口 10000 firewall-cmd --permanent --add-port17000-17005/tcp firewall-cmd --reload firewall-cmd --list-ports如果機器在云上安全組是另一道門firewall-cmd --list-ports有輸出不代表外部能進來。驗證方式是換一臺機器用telnet 目標IP 17000或者nc -zv 目標IP 17000試本地ss -lntp | grep 1700看到監(jiān)聽只說明本機進程起來了跟網(wǎng)絡(luò)可達是兩件事。還有個細節(jié)如果同一臺機器上跑多個實例bind建議寫內(nèi)網(wǎng) IP 而不是0.0.0.0同時把protected-mode關(guān)掉集群模式和多節(jié)點訪問下通常要關(guān)并且顯式設(shè)置cluster-announce-ip為內(nèi)網(wǎng)地址。多網(wǎng)卡機器上不設(shè)這一項節(jié)點會把自己廣播成 127.0.0.1 或者某塊業(yè)務(wù)網(wǎng)卡的地址其他節(jié)點按這個地址連總線端口永遠連不上。4. 從零跑一遍配置生成、實例拉起、cluster create 的完整鏈路這一章按執(zhí)行順序走一遍每一步給出關(guān)鍵命令和需要核對的輸出。腳本再自動這四步的中間產(chǎn)物你都應(yīng)該知道長什么樣否則出問題只能干等。4.1 生成六份 redis.conf用循環(huán)替掉手改配置模板的核心是集群相關(guān)的那幾行端口、目錄、密碼用變量替換。手寫六份的失敗率遠高于想象一份漏了cluster-enabled yescreate 階段就報Node xxx is not configured as a cluster node。用循環(huán)生成模板只維護一份#!/usr/bin/env bash set -euo pipefail BASE_PORT7000 DATA_ROOT/data/redis-cluster NODES(10.0.0.11 10.0.0.12 10.0.0.13) PASSWORDChangeMe_2024 for ip in ${NODES[]}; do for idx in 0 1; do port$((BASE_PORT idx)) dir${DATA_ROOT}/${port} mkdir -p ${dir} cat ${dir}/redis.conf EOF port ${port} bind ${ip} protected-mode no daemonize yes pidfile ${dir}/redis.pid logfile ${dir}/redis.log dir ${dir} dbfilename dump-${port}.rdb appendonly yes appendfilename appendonly-${port}.aof # 集群三件套開關(guān)、節(jié)點狀態(tài)文件、失聯(lián)判定毫秒數(shù) cluster-enabled yes cluster-config-file nodes-${port}.conf cluster-node-timeout 15000 cluster-announce-ip ${ip} cluster-announce-port ${port} cluster-announce-bus-port $((port 10000)) # 密碼必須兩處一致否則從節(jié)點同步和集群創(chuàng)建都會失敗 requirepass ${PASSWORD} masterauth ${PASSWORD} EOF done done幾個參數(shù)值得單獨說。cluster-config-file帶上端口后綴避免同機多實例互相覆蓋這個文件由 Redis 維護腳本只負責給路徑。cluster-announce-ip顯式寫成當前機器的內(nèi)網(wǎng) IP多網(wǎng)卡環(huán)境下這是唯一可靠的廣播地址來源。appendonly yes在集群里建議打開從節(jié)點提升為主后如果只有 RDB最后一個 RDB 之后的數(shù)據(jù)就丟了。daemonize yes讓實例后臺跑腳本里要跟一個循環(huán)等待端口就緒不能生成完就立刻建集群。路徑權(quán)限也要順手檢查${dir}必須對運行 Redis 的用戶可寫用 root 生成目錄、用 redis 用戶起進程是常見組合權(quán)限沒給對的表現(xiàn)是啟動即退出日志里一行Cant open the append-only file: Permission denied。4.2 拉起實例并確認端口真的在監(jiān)聽啟動之后不要相信daemonize的返回值它只表示 fork 成功不表示配置正確。判斷標準是端口在監(jiān)聽且PING有回應(yīng)這一步放在腳本里就是一個帶超時的輪詢#!/usr/bin/env bash # 逐臺啟動并按端口探活超過 30 秒未就緒就打印日志尾巴退出 for ip in 10.0.0.11 10.0.0.12 10.0.0.13; do for port in 7000 7001; do ssh ${ip} redis-server ${DATA_ROOT}/${port}/redis.conf for i in $(seq 1 30); do if redis-cli -h ${ip} -p ${port} -a ChangeMe_2024 --no-auth-warning ping 2/dev/null | grep -q PONG; then echo OK ${ip}:${port} break fi sleep 1 done redis-cli -h ${ip} -p ${port} -a ChangeMe_2024 --no-auth-warning ping \ | grep -q PONG || { tail -n 30 ${DATA_ROOT}/${port}/redis.log; exit 1; } done done這里用--no-auth-warning只是避免密碼提示刷屏腳本里不要把密碼明文寫進 history正式環(huán)境建議用REDISCLI_AUTH環(huán)境變量傳。探活只看PING還不夠集群模式下要再確認cluster-enabled:yes和cluster_state的初始值剛啟動的節(jié)點應(yīng)該是cluster_state:fail、cluster_known_nodes:1這屬于正常狀態(tài)說明它以單節(jié)點身份起來了等著被 meet。如果某個端口一直起不來先看日志最后 30 行再看ss -lntp | grep 端口有沒有別的進程占著。測試機上經(jīng)常出現(xiàn)上一次的實例沒殺干凈pidfile 殘留導致新進程以為自己在跑daemonize yes下這種問題特別隱蔽。4.3 cluster create 的節(jié)點順序與副本分配六個節(jié)點都活了之后才能建集群節(jié)點列表按「主機交錯、主節(jié)點在前」的順序排。Redis 5 之后--cluster子命令是內(nèi)建的不需要額外裝 ruby 的 redis-tribredis-cli --cluster create \ 10.0.0.11:7000 10.0.0.12:7000 10.0.0.13:7000 \ 10.0.0.11:7001 10.0.0.12:7001 10.0.0.13:7001 \ --cluster-replicas 1 \ -a ChangeMe_2024 --cluster-yes前三個是主節(jié)點后三個按順序做它們的從節(jié)點所以 7001 的三個實例分別跟著三個 7000 主節(jié)點且從節(jié)點都不在同一個 IP 上——這就是 2.4 里說的交錯排列。--cluster-yes跳過多余的交互確認腳本里必須加否則會卡在Can I set the above configuration? (type yes to accept)等人輸入。-a在帶密碼集群里要給且必須和配置里的requirepass一致。執(zhí)行過程中會看到每個主節(jié)點分到5461/5461/5462個槽接著是Waiting for the cluster to join這一步耗時取決于總線端口是否通。如果卡在這里超過一分鐘別等直接去另一臺機器上看telnet 目標IP 17000是否可達九成是端口或cluster-announce-ip的問題。4.4 用 cluster check 把狀態(tài)釘死創(chuàng)建命令返回成功不代表集群健康必須再跑一遍 check它會逐個節(jié)點連過去核對槽位覆蓋和主從關(guān)系redis-cli --cluster check 10.0.0.11:7000 -a ChangeMe_2024 # 關(guān)鍵看三行 # [OK] All 16384 slots covered. # 每個 master 下列出的 slots 區(qū)間與 replica 數(shù)量 # [OK] All nodes agree about slots configuration.All nodes agree about slots configuration這句是核心它表示各節(jié)點的槽位視圖已經(jīng)收斂一致。如果這里報Different slots configuration說明有節(jié)點的信息還沒 gossip 到等幾秒重跑如果一直不一致檢查是不是有節(jié)點被 meet 過兩次、在集群里留了重復(fù)條目。驗收時我會把 check 的輸出存一份到日志目錄后面擴容、遷移、重啟都可以拿來對比。5. 避坑與排查cluster_state:ok 之后仍然會翻車的五個場景集群建起來、狀態(tài) ok只說明拓撲成立不代表業(yè)務(wù)能用。下面五個是我和同事在不同機器上真實踩過的癥狀看起來都不像集群問題根因全在配置和端口上。5.1 客戶端一直報 MOVED狀態(tài)卻是 ok現(xiàn)象應(yīng)用連上 7000 寫一個 key報MOVED 12345 10.0.0.12:7000程序里沒做重定向處理直接拋異常。集群側(cè)CLUSTER INFO顯示一切正常。原因客戶端沒開集群模式把 Redis 當成單機在用。MOVED 不是錯誤是告訴客戶端這個槽在別的節(jié)點集群感知客戶端會自動跟隨并緩存槽位表單機客戶端則把重定向當異常拋出來。另一種變體是連的是代理或 VIP請求被固定轉(zhuǎn)發(fā)到某一臺槽位表永遠變不過來。解決換成客戶端庫的集群模式初始化方式連接時給出全部種子節(jié)點而不是一個 VIP。如果確實只能給單地址必須在中間層做槽位感知轉(zhuǎn)發(fā)不能做四層負載均衡——四層會把同一個連接的所有請求固定到同一節(jié)點跨槽訪問必然失敗。5.2 節(jié)點卡在 handshake 半天不動現(xiàn)象cluster nodes里某個節(jié)點狀態(tài)是handshakecluster info的cluster_known_nodes比實際節(jié)點數(shù)少日志反復(fù)刷Unable to connect to node。原因總線端口不通或者節(jié)點廣播的地址是 127.0.0.1、某塊業(yè)務(wù)網(wǎng)卡地址。前者是防火墻只放了 7000 段后者是多網(wǎng)卡機器沒設(shè)cluster-announce-ip節(jié)點按默認網(wǎng)卡地址互相通告對方連過去自然不通。解決把總線端口段補進防火墻和安全組cluster-announce-ip顯式寫內(nèi)網(wǎng) IP 后重啟實例。已經(jīng)進過集群的錯誤節(jié)點不能直接改配置重啟要先CLUSTER RESET HARD清掉它的節(jié)點狀態(tài)再重新CLUSTER MEET否則舊地址會一直留在其他節(jié)點的視圖里。5.3 重啟之后集群整體 fail現(xiàn)象三臺機器重啟實例都起來了cluster_state:failcluster_slots_assigned遠小于 16384部分主節(jié)點顯示fail?。原因腳本的清理邏輯把nodes-*.conf刪了節(jié)點重新生成 id全集群不認它或者數(shù)據(jù)目錄權(quán)限變了節(jié)點讀不到原狀態(tài)文件只能當新節(jié)點啟動還有一種是從節(jié)點比主節(jié)點先起來且主節(jié)點長時間未就緒從節(jié)點把自己降級成孤立狀態(tài)。解決nodes.conf絕對不刪。重啟順序先主后從腳本里加等待邏輯確認所有主節(jié)點cluster_state恢復(fù)到 ok 再拉起從節(jié)點。真出現(xiàn)了 id 變更只能在剩下節(jié)點里用CLUSTER FORGET把舊條目錄掉再把故障節(jié)點以干凈狀態(tài)重新加回并遷移槽位這個操作要停機窗口。5.4 帶密碼的集群創(chuàng)建直接失敗現(xiàn)象redis-cli --cluster create輸出Node xxx replied with error: NOAUTH Authentication required或者從節(jié)點一直master_link_status:down。原因requirepass配了masterauth沒配或者值不一樣。requirepass管客戶端連它masterauth管它連主節(jié)點時用什么密碼集群里兩個方向都要通只配一處就是半通狀態(tài)。解決兩處寫成同一個值redis-cli --cluster相關(guān)命令帶-a或用REDISCLI_AUTH。改配置要六個節(jié)點全改一遍再重啟改完先用redis-cli -a 密碼 info replication確認從節(jié)點master_link_status:up再跑--cluster check。5.5 擴容加節(jié)點后槽位覆蓋不全現(xiàn)象新加兩個節(jié)點、遷移了部分槽過去--cluster check報Not all 16384 slots are covered但每個節(jié)點單獨看都正常。原因遷移過程中斷或者用了手工CLUSTER SETSLOT但漏了IMPORTING/MIGRATING兩步的收尾源節(jié)點把槽標成遷移中目標節(jié)點沒接管這個槽就懸空了。cluster-require-full-coverage yes下整個集群拒寫。解決用redis-cli --cluster reshard走完整流程不要手工拼SETSLOT。已經(jīng)懸空的槽用CLUSTER SETSLOT slot NODE node-id在相關(guān)節(jié)點上逐一修正修完跑 check 確認All 16384 slots covered。注意以上所有涉及CLUSTER RESET、FORGET、SETSLOT的操作都有數(shù)據(jù)丟失風險先在測試環(huán)境完整走一遍再上預(yù)發(fā)。6. 把一鍵腳本用成可維護工具故障演練與巡檢的固定動作腳本能建集群只是起點。真正決定這套東西能不能長期用的是你能不能在一次執(zhí)行之后回答兩個問題故障切換要多久、下次重建要改哪幾行。我給自己的固定動作是每次部署完做一次小型故障演練把切換時間記進部署記錄后面遇到「集群是不是變慢了」這類問題時至少有基線可比。演練很簡單找到某個主節(jié)點kill -9掉它的進程然后每兩秒查一次cluster info里的cluster_state和cluster_slots_assigned同時用redis-cli -c往這個主節(jié)點負責的槽寫 key看多久恢復(fù)寫入。默認cluster-node-timeout 15000下30 秒內(nèi)完成切換屬于正常超過 45 秒就要檢查是不是只有兩個主節(jié)點、投票湊不齊多數(shù)。演練完把殺掉的實例重新拉起它會以從節(jié)點身份回歸用redis-cli --cluster check確認主從關(guān)系復(fù)原。巡檢我習慣寫成一個小循環(huán)把每個節(jié)點的關(guān)鍵指標拉成一行肉眼掃一遍就知道有沒有異常#!/usr/bin/env bash # 逐節(jié)點采集關(guān)鍵狀態(tài)輸出一行一個實例便于 diff 和歸檔 PASSChangeMe_2024 for ip in 10.0.0.11 10.0.0.12 10.0.0.13; do for port in 7000 7001; do info$(redis-cli -h ${ip} -p ${port} -a ${PASS} --no-auth-warning cluster info 2/dev/null) role$(redis-cli -h ${ip} -p ${port} -a ${PASS} --no-auth-warning info replication 2/dev/null | awk -F: /^role/{print $2} | tr -d \r) state$(echo ${info} | awk -F: /^cluster_state/{print $2} | tr -d \r) assigned$(echo ${info} | awk -F: /^cluster_slots_assigned/{print $2} | tr -d \r) printf %-12s %-5s role%-6s state%-5s slots%s\n ${ip} ${port} ${role} ${state} ${assigned} done done這個腳本的價值在于輸出穩(wěn)定、可以直接 diff部署前存一份、演練后存一份cluster_slots_assigned從 16384 掉了就說明有槽懸空role變了就說明發(fā)生過切換。比翻日志快得多也不用記復(fù)雜命令。最后是一個參數(shù)化的習慣。拿到這類腳本我第一件事是把BASE_PORT、NODES、PASSWORD、DATA_ROOT四個變量抽到單獨的cluster.env里腳本開頭source進來第二件事是把生成的配置、check 輸出、演練記錄按時間戳落到logs/不做覆蓋。那次重啟后集群 fail 的經(jīng)歷之后我每次改腳本都會先在一臺干凈的虛擬機上從零跑兩遍確認第二遍執(zhí)行不會因為殘留目錄報錯再看一遍nodes.conf有沒有被動過——集群這東西一次省事的rm -rf能換來一整晚的恢復(fù)工作后悔藥是沒有的。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久思思久视频| www.日日夜夜.com| 久久五月丁香| 99久久综合狠狠综合久久| 热99re| 69凹凸成人综合网| 综合五月丁香六月婷婷| 六月五月丁香五月欧美| 一区=区操屄高清大全av| 中文av网| 五月天婷婷丁香蜜桃91| 97碰碰在线观看视频| AV网站免费在线| 六月婷久久| 久久九九国产精品怡红院| 这里只有精品视频在线观看免费| 欧美日韩五月婷婷| 亚洲人妻av伦理| 激情五月婷婷在线区| cao久久| 色情五月丁香| 激情五月丁香综合网站| 99爱这里只有精品| 五月激情丁香六月狠狠干| 熟女少妇内射日韩亚洲| 丁香五月成人| 丁香六月婷| 99国产小视频免费观看| 丁香五月1页| 日韩欧美不卡| 懂色av粉嫩av蜜臀av| 91欧美| 麻豆五月丁香婷婷| 99惹在线精品免费观看| 99激情网| 久久AAAA片一区二区| 久久久欧美精品sm网站| 97碰在线| 五月婷婷色播| 日本久久9| 538在线精品| 精品久久人妻| 狠狠草狠狠草| 日本激情综合| 亚洲热视频| 成年AAAA色情| 丁香五月天五码婷婷| 7777精品伊人久久久大香线蕉最新版| 国模九区| 色婷婷五月天av在线| 99人人干| 亚洲日韩一页精品发布| 97人人草| 五月天开心网| 丁香六月婷婷久久综合| 国产毛片操B| 男人操女人高潮91视频| 亚洲精品一区中文字幕乱码| 91制片厂久久久国产电影| 五月天色丁香| 久久激情视频| 日日躁夜夜躁狠狠久久AV| 996热| 丁香婷婷色| 噜噜吧天天爱| 99性爱| 色丁香久久| 日本一级一片免费视频| 9l视频自拍9l九色成人| 九九色综合九九色| 久草丁香婷婷1024| 碰超在线九色| 超碰97干| 丁香婷婷人妻| 久久A V无码视频| 爱婷婷五月| 色播五月丁香综合| 五月婷婷九九热| 综合久久高清| 婷婷色五月综合| 91大操| 嫩草国产| 丁香五月综合在线| 五月婷婷激情综合| 色狠狠色| 狠狠色综合久久久久| 成人久碰| 永久的网站AAAA | AV电影在线播放| 青青草伊人婷婷| 综合久久十| 手机在线日韩视频中文字幕| 激情婷婷五月天在线观看| 欧美色色色色色色色| 国产97色在线| 国产综合丁香五月天| www.一区二区三区| 成人精品一区二区三区四区五区 | 伊人99热| 婷婷五月天视频在线观看| 国产成人+亚洲+欧洲| 91久久精品无码一区二区三区| 五月天色色网站| 激情婷婷五月综合| 伊人99热| 人人草人人舔| 婷婷五月天社区| 五月激情婷婷偷拍| 久草五月| 久操激情| 久久婷婷五月天激情| 五月丁香久久综合| 色五月首页| Aaa久久| 丁香五月综合婷婷| 丁香五月婷婷综合网| 停停五月丁香| 1024成人免费看| 婷婷色网| 99热在线只有精品| 国外亚洲成AV人片在线观看| 超碰三级片| 婷婷亚洲丁香五月| 亚洲人妻av伦理| 99亚洲精美视频在线观看| 五月婷婷色情| 伊人激情| 另类视频一区| 欧美激情综合色综合啪啪五月| 色五月激情五月| 六月婷婷青青青视频| 狠狠88综合久久久久噜噜噜| 伊人久久大香网| 五月天激情婷婷| 亚洲小电影在线观看黄999| 思思精品久久艹| 九九热精品| 色碰97| 人人色AV| 天天射影院| 99久久99九九99九九九| 成人网址在线观看| 婷婷色综合网日韩国产| 五月婷色激情五月| 日韩精品无码AV| 天天爽天天摸| 97超级碰| 色欲色香综合网| 99久久久久| 91黄操| 国产精品色一哟哟| 丁香五月天社区婷婷| 99热这里只有精品最新网址| 999精品久久久久久久| 五月婷婷新网站| 五月婷婷六月色| 精品国产a| 六月亭亭久久综合激情| 午夜日韩久久久网站| 丁香五月AV综合激情| 在线理论片| 大香蕉五月天婷婷| 图片区 小说区 区 亚洲五月 | 欧美性生交XXXXX无码小说| 九九成人精品免费视频| 天天噜日日噜综合无码| 六月丁香婷婷综合色播| 日韩国产在线精品| 国产资源91在线| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 好好干av| 综合激情专区| 色99色| 成人羞羞啪啪 全 视频| 丁香亚洲色综合| 五月婷婷69| pom538精品视频| 激情五月婷婷老师| 久久久精品AV| 婷婷99综合| 五月丁香天堂网婷婷| 婷婷99视频在线| 99热99re6国产在线播放| YW无码| 久久艹99| 色播丁香婷婷五月激情| 伊人五月婷婷| 色www久视频| www,av好吊操| 激情网第九色| 婷婷激情五月视频| 香蕉久久国产AV一区二区| 丁香五月在线看| 182TV大香蕉| 天天干,天天日| 一区二区成人电影| 色婷婷影视99| 久久AAAA片一区二区| 人人人人人人人草| 天天日天天狠狠操| 免费播放片大片| 色婷婷激情| 久久 视频这里只有精总| 亚洲熟女乱色综合亚洲网站| 91啪啪视频| 激情五月狠狠| 婷婷丁香第一页| 91午夜婷婷狠狠久久综合9色| 日本天天色| 色综合久久88色综合天天人守婷| 99热最新| 欧洲亚洲午夜| 欲色人妻| 天天操婷婷| 99热欧| 婷婷五月激情五月丁香五月| www.玖玖九| 婷婷亚洲天堂| 最新久久网址| 99视频久久| 五月丁香激情五月天| 5月丁香美女影院| 97久久久| 狠狠久久婷五月| 婷婷丁香五| 婷婷六月久久| 天天色中文字幕女优AV| 怡红院AV亚洲一区二区三区H | 五月婷婷六月丁香| 99啪啪| 久久五月天激情| 2050人人操免费工开爱| 久久亚洲网| 色播五月天婷婷老师| 伊人丁香在线| 丁香婷婷五月激情四射网| 午夜色婷婷| 丁香六月啪| 草五月| 这里只有精品免费视频在线观看| www一区二区三区| 久操b网| 丁香五月激情棕合| 狠狠综合久久| 六月丁香啪| 久久久网站| 超碰不卡在线| 超碰在线9| 五月丁香综合成人社区| 九九碰九九爱97超| 99'无码| 26UUU一区二区| 综合激情在线视频| 五月丁香大香蕉| 激情文学第四色婷婷丁香五月| 六月丁香啪| 任我干视频在线观看| 麻豆AV一区二区三区| 97色婷| www.色五月| AV电影在线播放| 亚洲无码成人| 少妇综合网| 色色色色色色色色综合网| 婷婷五月天久久久| 国产69久久久欧美黑人A片| 无码少妇高潮喷水A片免费| 久久五月婷| 婷婷五月天丁香| 全部老头和老太XXXXX| 97色婷| 免费看欧美成人A片无码| 26uuu国产| 五月丁香网站| 丁香色影院| 欧美性猛交99久久久99| 久热这里只有精品在线观看| 激情五月www| 五月天国产婷婷精品视频在线| 五月人妻婷婷视频| 久久综合婷婷| 色色五月婷婷狠狠| 成人av在线网站| 五月婷免费视频| 五月天天综合| 久久五月丁香综合17C| 欧美va欧美va差| 五月精品| 五月丁香婷婷色啪| 六月婷久久| 人人亚洲| www夜夜| 九九自拍网| 色五月首页| 中文超碰视在线| 99超级碰碰| 久久99热这里只有精品首| 五月激情偷拍婷婷| 亚洲操逼网| 久久五月天激情| 97久久久免费福利网址| 免费久久这里只有精品99| 99 色色吧| 九九视频这里有精品| yellow视频在线观看91| www.久久五月天.com| 99九九久久| 成人做爰黄A片免费看直播室男男| 91九色 熟| 五月婷婷色色| 无码髙清| 亚洲操操| 超碰在线网站| 校园激情 亚洲| 91干在线| 五月狠狠| 欧美成人五月天| 开心五月深爱五月| 丁香五月手机在线| 天天天操天天天日| 91精品在线看| 国产综合81p| 五月综合婷婷网| www.色综合.com| 色九四色| 五月色婷婷激情| 91精品久久久久久综合五月天| 91a片爽| 婷婷六月丁香在线| 丁香六月综合激情| 欧美在线操| 五月丁香操亭亭网| 天天爽天天干| 久久综合激情| 久99久在线| 综合久久8| 日本五月丁香| 麻豆AV一区二区三区| 久久婷婷五月丁香网| 五月色天情| 精品一二三区久久AAA片| 操九色| 欧美成人五月天| 国产欧美日韩综合精品一区二区| 丁香六月婷婷五月天| 欧美性爱五月天| 色吧网综合| 开心五月丁香啪| 人人操AV| 99精品爱| 1级欧美日韩| 爱草视频在线观看| www,999日本色| 99高级会所久久| 99re8在这里只有精品| 色狠狠色综合久久久绯色AⅤ影视| 五月丁香AV在线| 日本黄 色 片| 激情综合激情五月一起草| 69凹凸成人综合网| 亚洲日韩欧美综合VA| www,setingting| 五月丁香啪啪综合网| 日日操夜夜擼| 五月天婷婷在线播放| 噜噜五月天综合| 五月天 另类图片| 亚洲人成网站999综合| 夜夜操天天爽| 欧美伊人9| 欧美大香蕉视频| 任你日视频| 亚洲五月婷| 激情五月综合网| www.色婷婷| 伊人六月丁香婷婷| 丁香五月天婷婷大香蕉| 激情床戏| 六月丁香婷婷色综合| 亚洲成人AV电影在线| 五月婷婷六月奇米网丁香| 亚洲永远av在线播放| 九九视频这里只有精品| 成人婷99最新| 国产亚洲在线观看| 色五月丁香婷婷综合| 丁香激情综合| 五月天婷婷基地综合网| 激情5月婷婷狠狠干| 成人在线视频网| 五月天伊人日日噜影片AV| 色婷婷丁香五月| 色婷婷五月天堂资源| 9|在线观看视频| 深爱五月天| 久久97| 久在线88综合| 色玖玖综合网| 婷婷色情小说| 色五月天丁香| 婷婷激情五月天桃花网| 五月丁香| 五月婷婷之综合激情| 色噜噜狠狠色综合成人99| 久久大香蕉| 99无吗| 亚洲综合在线伊人婷| 五月婷婷综合激情小说| 亚洲综合1024| 婷婷五月天综合小说网| 欧美成人Va| 69久久久| 天堂成人A片永久免费网站| 强伦轩人妻一区二区电影| 色综合色五月| 91精品国产综合久久蜜芽解析速度| 天天干天天色综合| 五月婷婷伊人久久| av大香蕉| 非洲一级AV| 人妻内射一区二区在线视频| 另类激情五月| 亚洲第一精品成人999久久精品| 一级黄色影片| 热99精品视频| 97五月综合网| 色五月婷婷91在线| 成人无码免费一区二区中文| 91狠狠色丁香婷婷综合久久精品| 91久久综合亚洲鲁鲁五月天| 激情五月小说婷婷| va亚洲中文在线| 98毛片| 99爽视频| 亚洲色五月婷婷| 欧美日韩AAAAA| 92久久| 色婷婷亚洲在线观看| 中文毛片无遮挡高潮免费| 综合99综合久久久久久久| 丁香五月激情无码视频| 激情丁香五月激情婷婷| 五月六月丁香婷婷在线观看| 99re熱| 五月婷婷与六月丁香图片激情| 九九色插| 色色图五月天| 色吊丝99| 狠狠色丁香久久婷婷综合五月| WWW丁香五月| 精品在线网站| 蜜桃婷婷狠狠久久| 久久人人九| 东京热人妻一区二区三区在线| 9久热精品在线视频| 激情丁香五月婷婷| 亚洲亚洲人成综合网络| 禁欲电影完整版在线播放| 激情五月六月婷婷| 五月天成人在线视频网站| 亚洲成人一区| 丁香桃色网| 99热这里只有是亚洲国产| 天天综合网亚洲综合网| 99热这里只有精品50| 婷婷激情六月综合| 伊人丁香花综合影院| 天天爽,天天操。| 2025最新亚洲激情在线| 欧美婷婷五月天综合| 激情五月天色爱| 国精产品久久| 99视频| 另类图片五月天| 五月丁香天堂网| 深爱激情丁香| 久久HD| 五月激情婷婷在线| 26uuu国产色| 色五月开心五月激情五月| 色五月亚洲五月天| 丁香激情婷婷网| 常久最新免费的色吊丝| 五月天伊人综合| 99无吗| 婷婷五月天综合网| 久久xx| 激情九月婷婷| www.cao.com久久| 狠狠se| 另类亚洲2| 桃色五月婷婷| 色综合色综合网| 思思 热 99| 丁香五月综合激情啪啪| 成人精品视频99在线观看免费| 国产真实乱对白精彩| 婷婷九月久久| AV在线资源| www.99热视频在线观看| 五月丁香六月在线| 99色在线视频| 激情婷| 99 r热| 色五月 激情婷婷 综合五月天| 香蕉AV777XXX色综合一区| 中文字幕在线免费| 热久久999| 国产熟女一区二区三区五月婷| 99超在线| 亚洲婷婷丁香| 婷婷五月丁香青青草在线| 男人的天堂五月丁香| 99热精品10| 婷婷免费视频| 777精品久无码人妻蜜桃| 日本99视频精品免费播放| Se.婷婷五月天| 婷婷五月视屏| 内射在线CHINESE| 亚洲网站999| 五月天婷婷色小说| 狠狠狠狠狠狠狠狠| 成人中文字幕在线| 99热无码首页| 极品人妻VIDEOSSS人妻| 97人人超| 五月久久婷婷天堂视频| 曰本久久女| 婷婷激情综合网| 99精品免费欧美小视频 | 丁香婷婷影院| 99综合自拍| 婷婷丁香人妻久久在线观看| 超碰人人在线| 久久九色| 站长推荐无码播放| 伊人五月天久久| 日本熟妇人妻在线| 天天天天干| 91ncom.色| 婷婷五月天综合在线| 另类在线免费视频| 婷婷伊人激情婷婷| 国产精品99久久久久久久女警| 色情婷婷。| 婷婷五月丁香手机在线视频| 婷久久高清| 热99久久这里只有精品| 开心五月婷婷| 包操45分钟网站| 99碰碰| 天堂综合久久| 色情婷婷五月天| 婷婷最新地址| 激情五月天免费视频| 色婷婷六月| 激情五月综合色| 久草大| 日韩成人电影在线播放| 成人综合视频在线| 中文精品在| 五月天婷婷綜合院| 日韩 中文 欧美| 伊人玖玖网| 亚洲色夜| 九九综合| 亚洲国产精品成人免费一区久久久在线观看AAAA| 色五月婷婷五月天| 日本啪啪天堂| 99操视频| 日韩久久这里只有精品| 婷婷天堂伊人| 激情五月天综合| 操婷婷基地| 天天色视频| 五月婷婷成人| 五月丁香啪啪综合| 99爱免费在线观看| 婷婷五月丁香第四色超碰在线| 激情五月婷婷中文字幕| 久久99免费视屏| 六月丁香啪啪啪| 婷婷五月大香蕉| 99热国产| 婷色成人| 日本久碰| 大香蕉伊人99| 婷婷五月天777| 影音先锋91网站在线观看| 草做免费在线观看| 五月天丁香成人社| 欧美在线视频99| 在线A色| 麻豆精品| 色色com| 操日本人妻视频| 五月综合激情网| 伊人玖玖婷婷| 欧美大奶熟女噜噜噜噜| 久久丁香网| 九九热视频99| 另类小说婷婷色| 成人免费网站免费看| 4399在线日本A片| 婷婷四月 成人 狠狠干| 就爱日五月天| 国产精品大香蕉| 天天综合天天玩夜夜玩天天玩夜夜玩 | 99热偷拍| 国模狼狼| 色综合com| 久久婷婷五月综合色播| 久久98热re| 嫩BBB槡BBBB搡BBBB| 狠狠草狠狠草| 色色色色色级无码| www.9797国产| 超碰在线日夜| 久草婷婷| 丁香六月婷婷色XXXXX| 99ri视频| 天堂在线婷婷| 成人无码精品1区2区3区免费看| 可以看的AV| 久月丁香爱婷婷综合| 久久久九九九 99| 99在线免费观看| 婷婷 伊人 久久| 激情狠狠丁香月| 超碰在线免费| 成年视频免费观看| 亚洲精品a成人在线播放| 9色在线视频| 婷婷色爱| 五月激情婷婷色| 丁香婷婷六月天| 丁香五月 性爱| 欧美成人精品A片免费一区99| 五月天丁香婷婷社区| 激情五月丁香激情综合网| 婷婷无码视频| 91精品久久久久久久久 | 97色热| 99ri6在线视频| 五月婷婷五月天| 六月丁香久久| 五月精品| 日日天天干| 成人国产欧美大片一区| 婷婷综合久久| 超碰97人人操| 色综合丁香婷婷| 久久99激情丁香婷婷小说网| WWW.夜夜| 天天狠狠色综合| 五月天自拍网| 婷婷瑟五月天久久综合| 亚洲精品欧洲精品| 丁香六月婷婷综合激情欧美| 激情五月天丁香| 综合色五月| 六月婷欧美| 天堂综合久| 国产4P视频精品五区| 日本狠狠网| 综合激情深爱| 色婷婷裸体色性在线| 精品一区二区三区木瓜| 丁香激激情网| av网站中文| 色婷婷丁香五月色综合网| 丁香五月婷婷六月婷| 色综久久久| 婷婷综合五月天激情| 五月丁香六月婷婷在线小说视频| 婷婷色天香| 影音先锋激情网| 五月天激情Av| 日韩操| 另类小说激情五月天| 欧美人妻一区二区| 亚洲 视频 导航 一区| 久婷婷色| 怡红院视频| 婷婷啪啪| 色九四色| 熟女啪啪视频| 91精品久久久久久| 五月丁香va| 天天操天爱综合| 久久激情五月婷婷| 色综合色五月| 天天干天天干天天干| 亚洲春色奇米影视| 激情超碰网| 天堂久久婷婷| 思思视频精品| 天天操狠狠操| 亚洲视频五区| 伊人激情AV一区二区三区| 九九婷婷热| 香蕉网久久| 婷婷激情五月天网站| 精品综合五月| 在线观看av网站| 欧美99热| 欧洲激情精品婷婷| 天天色视频| 日韩99无码| 丁香婷婷色色| 天天噪夜夜爽| 久久久久婷 | 九九青草热| 激情小说五月天| 色婷婷久久7777| 啊V视频在线观看| 另类图片 五月激情| 天天操天天操天天操天天操天天操| 久久久激情| 97超级碰人人| 五月色情婷婷| 曰日爽日日操| 久久99综合| 吾爱AV导航| 草操网| 五月天 婷 欧美亚洲| 俺去也婷婷| 九九久久高清| 丁香亚洲婷婷五月| 亚洲激情综合网| 日本在线观看99| 99热在线播放| 婷婷爱五月天| 精品一二三区久久AAA片| 婷婷少妇激情| 天天干天天干天天干天天干天| 桃色五月天| 99久久久久久www| 5月丁香综合网| 五月天丁香网站| 天天日P天天射P| 婷婷六月丁香色| 黄网在线免费观看| 久久玖玖综合| 99热只有精| 丁香五月激情综合| 草综合网| 色婷丁香| 五月天婷婷情色| 日日艹思思热| 国产五月视频| 九九视频精品这里只有| 五月丁香激情综合网| 狠狠干在线| 婷婷色基地| 伊人香大香蕉视频| 日日撸天天干| 国产熟妇的荡欲午夜视频| 婷婷色网| 色爱五月天| 伊人狠狠丁香婷婷综合尤物| 看片视频在线免费日产在线看| 激情五月四色| 欧美亚洲婷婷五月| 少妇人妻偷人精品无码视频新浪| site:jszngf.com| 97色婷婷| 热99国产精品| 尔尔AV一区| 亚洲综合九九| 99热精品在线观看| 999婷婷综合| 玖玖爱综合网| 一区二区三区视频| 美女五月天| 思思热天天看| 久久婷五月| 五月天亚洲最大成人| www99热| 777.色色| 人妻内射一区二区在线视频| 五月丁香六月激情狠狠| 久久五月婷婷综合网| 怡红院精品视频久久久久久久久| 伊人久久丁香狠狠婷婷综合香蕉| 嫩BBB槡BBBB搡BBBB视频| 婷婷99热| 精品无码久久久久久久久| 丁香激情网| 五月天堂色| 五月天激情国产综合婷婷| 婷婷五月大| 五月婷在线| 啄木鸟黑丝一区二区| 国产精品18久久久| 丁香五月停停av| www。五月,com| 五月婷婷丁香网| 激情文学第四色婷婷丁香五月| 97资源碰碰| 天天综合激情| 3p九色在线| 婷婷五月天视频免费在线观看| 五月天天堂久久| 五月婷视频| 五月天久久www| 伊人大香蕉综合在线| 久热一本| www.五月天性.com| 亚洲性爱AV| AV在线大香蕉| 丁香五月另类小说在线阅读| 一本狠婷婷综合| 久99久在线| 色五月在线| 综合99在线| 色五月综合激情| 就爱啪啪婷婷| 五月丁香在线观看99| 99人人干| 婷婷激情五月天激情| 97香蕉碰碰人妻国产欧美| 久久99国产综合精品免费| 丁香六月无码播放| 日本69日人视频| 欧美怡红院黄站| 狼人婷婷综合| 久久五月天激情视频| 懂色av蜜臀av粉嫩av永陈冠希| 久久激情网| 久久黄色片| 在线视频色五月| 97久久超视频| 五月丁香婷婷色| 亚洲精品大片| 色噜噜,噜噜色| 国产性爱一级| 大香蕉综合视频在线| 91热久久| 婷婷激情五月色综合| 丁香五月激情六月欧亚激情综合导航 | 第四色五月激情网| 视频久久9| 一本道在线电影| 92久久| www激情com| 99热 在线观看| 婷婷五月天久久综合88| 成 人片 黄 色 大 片| 久久3p| 色99欧洲色19| 538在线| 色5月婷婷色| 超极99精品| 天天爽天天| 99狠狠色| 野战毛片三一3| 五月天激情中文字幕| 色婷婷av在线观看| 天堂综合久| 婷婷综合久久综合| 成人无码精品1区2区3区免费看| 玖玖综合网| 亚洲综合五月天| 人人草人人爱手机视频看看| 狠狠婷婷爱| 激情婷婷五月天| 热久国产| 色婷婷天堂| 99ri国产精品| 亚洲日比视频| 五月J香蕉婷婷| 亚洲国产精品VA在线看黑人| 啊v视频在线观看| AV九九| 日本精品99| 91大屁股精品| 丁五月激情视频免费| 婷婷六月视频| 新激情五月天色播| 五月婷深深爱激情网| 停停色综合伊人| 思思99热在线| 丁香五月综合久久八| 六月婷婷天天操夜夜爽视频| 丁香六月婷婷综合| 九九热av| 五月丁香婷婷啪啪| 色色色色综合网| 色色免费网站| 婷婷综合网| 国产亚洲99久久精品| 激情久久久| 亚洲小视频免费看| 99精品视频在线免费观看| 丁香婷婷五月天色综合| 色黑鬼导航| 99久久这里只有精品免费官网| www。88热在线视频免费观看| 91精品熟女| 伊人日日干| 婷婷五月天成人综合网| 婷婷五月婷| 综合色播| 亚洲精品99| 激情欧美五月丁香| 久久婷婷五月天| 成人国产欧美大片一区| 欧美97超碰| 99热一本久道| 婷婷六月啪啪| 国产永久一二一起草| 激情婷婷亚洲五月| 婷婷丁香五月综合激情小说| 婷婷五月天开心网| 91婷婷色五月| 99色视频| 超碰九热| 婷婷丁香五月天影院 | www.婷婷,com| 色婷婷www| 亚洲V国产V欧美V久久久久久| 九九婷婷热| 大香AV| 色情五月天小说| 五月婷婷深爱六月| 99re6久热只有精品6在线直播| 五月丁香婷婷中文| 日本欧美成人片AAAA| 超碰自拍天堂| 99热日韩| 婷婷狠狠五月综合| 亚洲综合99| 色色com| 色情成人五月天| 丁香婷婷五月六月久久| 99热精品10| 激情五月天伊人影院| 五月丁香婷婷中文| 久久综合婷婷激情| 国产精品成人AV在线| 丁香伊人综合| 丁香狠狠色婷婷| 一点色成人网| 精品99视频| 六月丁香婷婷网| 亚洲成人中心| 一二线视频 另类| 亚洲网站999| 玖玖资源网站最新站| 久久玖玖综合| 超碰狠狠干99| 超碰成人电影| 亚洲色激情| 亚洲色综合| 伊人综合色干| 色婷五月| 色99色| 婷婷色色欧美| 色婷婷五月天成人网| 五月丁香六月香香蕉| 色亭亭丁香五月天| 乱女乱妇熟女熟妇综合网站| 激情网五月天| 丁香六月婷婷操逼网| 婷婷丁香五月天综合AV| 五月婷婷丁香五月天| 嫩草极品| 99综合视频在线| 无码99| 国产一级黄色影片,| 综合久久婷婷五月丁香| 五月丁香影院| 最新国产AV| 久久99激情| 亚洲操操| 黄色片精品| 婷婷色基地| 五月丁香婷婷色啪| 精品无码av丁香五月激情| 五月丁香六月激情综合| 超爽内射| 亚洲五月天婷婷在线| 激情五月婷| 丁香六月开心| 国产综合色婷婷精品久久| 久久精彩视频99| 狠狠草综合网| 国产精产国品一二三在观看| 日日天天天| 久久久久er热| 大香蕉婷婷五月天| 婷婷涩涩五月天| 伊人狠狠色婷婷综合丁香一区| 99r这里| 婷婷影视久久| 婷婷五月综合激情小说| 欧美日韩欧美| 成人视频九九| 日韩无码专区| 婷婷激情五月天网站| 激情六月综合| 狠狠色丁香| 亚洲最大视频| AV激情五月| 色情成人五月天| 婷婷第六色| 婷婷五月天伊人| 色色热99| 婷婷操逼| 婷婷五月深深的爱| 夜夜穞天天穞狠狠穞AV美女按摩| 婷婷五月综合色中文字幕| 日韩啪啪视频| 婷婷五月俺要去| 男男野外做爰全过程69| 99热这里只有精品33| 三级av在线| 日日夜夜小色哥| 久久六月综合| 五月婷婷六月丁香在线视频免费在线观看| 五月天大香蕉AV| 亚洲秘 无码一区二区三区妃光/1| 吊色AV男人的天堂| 婷婷五月综激情| 91精品久久久久久综合五月天| 丁香五月天啪啪| 九九爱这里只有精品| 中文成人在线| 色五月丁香六月婷婷| 日本在线视频看se99| 五月婷激情影院| 另类天堂| 桃色成人网| 亚洲色色香蕉| 91好好热日本在线| 婷婷色导航| 狠狠操天天操天天操| 日韩av在线播放综合网| 26uuu国产| 丁香婷婷黄网站| 丁香五月激情综合| 性日本精品| 91丨九色丨白浆秘| 激情丁香五月| 色丁香五月天婷婷| 五月 成人 婷婷| 91九色网| 色播激情五月天| www色五月| 99国产精品白浆在线观看免费| 婷婷网五月| 五月天婷婷社区久久综合| 色色色色色色网站| www色中色综合| 啪啪操超碰| 五月丁香六月激情综合| 老司机伊人| 67194国产| 91大操| 狠狠色婷婷777| 日本成人噜噜噜噜噜| 婷婷综合一二三| 久久综合九九| 色色亚洲视频| 99视频久久免费视频| 99热很操老逼| 日本狠狠干| 精品乱码久久久久| 77799热| 日本97久久久精品| 亚洲丁香花色| 九九热精品| 婷婷色五月亚洲| 欧美乱码国产一级A片| 丰满老熟妇BBBBB搡BBB | 97亚洲色 torrent magnet| 五月婷婷综合天天操| 夜夜干夜夜操| 丁香五月六月综合激情| 五月香蕉婷婷| www,色婷婷| 天天综合亚洲综合| 日韩黄黄| 色偷偷人人| 天天操天天插| 国産精品| 99精品小视频| 五月色欧洲| 亚洲色久| 婷婷丁香社区| 五月婷A V在线| 亚洲综合激情五月久久| 婷婷六月激情| 互月天综合| 97五月天婷婷午夜| 99色热视频| 成人免费视频一区| 丁香婷婷九月在线| 超碰AV在线| 操人91| 五月婷婷六月色| 综合五月激情网| 操操熟女| 91人久| 日韩无码专区| 欧美婷婷丁香五月社区| 丁香婷婷成人网| 国产精品久久久丁香五月八戒视频| 99色综合| 五月天堂色| 色婷婷激情四射视频| 五月天欧美激情| 六月激情婷婷综合| 无码地址| 五月色网| 91色综合网| a在线免费v| 91AV视频| 9色天堂| 伊人在线另类| 婷婷操无码| 久久色六月| 操操操97| 激情五月丁香五月色| 色五月激情五月| 欧美三级A做爰在线观看| 亚洲欧美成人在线| 日韩操人| 婷婷五月影院| 中文成人在线| 大地9中文在线观看免费高清| 97操操| 精品夜夜澡人妻无码AV| 国产小精品| 人与禽A片啪啪| 五月婷婷久久大片| 欧美精品狠狠色丁香婷婷| 色综合中文综合网| 亚洲视频1区| 成人网页在线观看| AV成人在线播放| 五月丁香激情四射综合| 99超级碰免费视频| 亚洲五月丁香综合网| 色情·com| 开心久久爱五月天| 开心五月婷婷在线| 日本五月婷| 97九色视频| 五月婷婷无码| 婷婷六月天| 爱久久小说下载网| 亚洲精品另类| 激情久久 婷婷| 亚洲欧美婷婷五月色综合| 国产99热在线看| 六月丁香婷婷尤物| 五月丁香六月婷婷国产视频| 99九九视频| 日本色五月| 丁香婷婷九月在线| 五月天丁香综合在线| 色玖玖综合网| 亚洲综合网激情小说| 五月深爱网| 91凹凸在线| 亚洲激情AV| 色婷婷狠狠禁久久| 久久99精品久久久久久噜噜| 欧美色图45678| 思思久久96热在精品国产,| 中文字幕乱轮| AV在线大香蕉| 99久久国产宗和精品1上映| 欧美日韩国产成人在线| 国产五月天婷婷| 丁香六月av| www.婷婷五月| 99爱在线免费视频| 超91热| 久久99久久99精品免观看粉| 五月丁香婷婷无码A∨| 丁香涩涩爱| 五月丁香婷婷色| 超碰在线50| 成人精品人妻| 五月激情婷婷色| 五月婷婷激情| 色插综合网| 丰满人妻一区二区三区| 啪啪综合网| 久久久婷婷色五月资源网| 久久婷婷五月综合97色一本| 婷婷五月天干干| 色五月婷婷亚洲| 综合九色| 婷婷五月欧美综合| 天天综合网站| http:色情日本com| 色狠狠999综合| 丁香欧美| 久久机热/这里只有精品| 91男人资源站| 久久婷婷五月国产激情综合片| 九九99视频| 777精品久无码人妻蜜桃| 丁香五月影视| 日本久久人人| 天天日,夜夜爽| 91偷拍视频| 五月婷婷久久网| 六月丁香基地| 色5月婷婷色| 婷婷五月综合社区在线| 久热视频A.| 色五月丁香婷婷久草| 五月婷三级片| 色五月开心婷婷| 99毛片| 久久婷婷五月综合网| 99在线爽| 99综合视频| www激情网站| 99热只有这里才是精品| 五月婷婷六月丁香| 在线另类视频| 亚洲成人婷婷| 久久九九激情五月天| 99热这里只有精品10| 五月天啪啪| 丁香 久久| 婷婷综合网| 精品自拍99| 天天日,夜夜爽| 99热这里都是精品| 婷婷月五天在线在线看| 婷婷射综合| 九九亚洲无码| 婷婷色导航| 超碰色人妾| 婷婷丁香人妻天天久久| 五月天丁香婷婷久久九| 无码G高清天| 天天综合色| 日本色噜| 丁香六月婷婷色XXXXX| 久久久香| 激情久久久久久| 骚五月婷婷| 五月丁香影院| 色婷婷综合影院| 热思思| 91综合色噜噜| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 色色色图| 色婷网| 99亚洲天堂| 伊人婷婷五月天| 国产激情久久久| 26uuu欧美日韩| 久久曰曰| 丁香五月天婷婷久久综合| 99国产精品久久久久久久久久久| 精品综合久久久久久五月天|