99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

在線拍賣系統(tǒng)架構(gòu)設(shè)計(jì):Node.js+Socket.IO+Redis高并發(fā)實(shí)踐

在線拍賣系統(tǒng)架構(gòu)設(shè)計(jì):Node.js+Socket.IO+Redis高并發(fā)實(shí)踐 1. 這個(gè)項(xiàng)目到底要解決什么問(wèn)題拍賣業(yè)務(wù)和普通電商的差距在哪先說(shuō)個(gè)實(shí)際場(chǎng)景。我見(jiàn)過(guò)不少同學(xué)拿到“在線拍賣系統(tǒng)”這個(gè)題目后第一反應(yīng)是照抄電商系統(tǒng)的商品模塊商品列表、購(gòu)物車、訂單、支付然后換了個(gè)殼子叫“拍賣”。答辯時(shí)被問(wèn)了一句“拍賣截止時(shí)間到了但有人正在輸入出價(jià)你怎么處理”就卡住了。說(shuō)實(shí)話這是做拍賣系統(tǒng)最典型的誤區(qū)——拍賣的核心從來(lái)不是“賣東西的流程”而是競(jìng)價(jià)規(guī)則本身。普通電商的訂單狀態(tài)是線性流轉(zhuǎn)下單、支付、發(fā)貨、收貨。買個(gè)東西你付了錢東西就是你的邏輯很直接。拍賣則完全不同它有幾個(gè)電商沒(méi)有的特殊問(wèn)題時(shí)間敏感每個(gè)拍賣品有明確的起止時(shí)間“最后幾秒”往往決定成敗系統(tǒng)必須在毫秒級(jí)處理出價(jià)請(qǐng)求。狀態(tài)競(jìng)爭(zhēng)同一個(gè)拍賣品同一時(shí)刻可能有幾十個(gè)用戶同時(shí)在出價(jià)但只有價(jià)格最高的那個(gè)人能勝出其他人的出價(jià)要被拒絕或立刻被超出的新價(jià)格作廢。結(jié)果裁定拍賣結(jié)束后系統(tǒng)要自動(dòng)判定贏家如果有人在最后幾秒出價(jià)是否順延拍賣時(shí)間這個(gè)規(guī)則必須在后端嚴(yán)格控制不能靠前端倒計(jì)時(shí)來(lái)約定。可見(jiàn)性競(jìng)拍過(guò)程本身就是一個(gè)“實(shí)時(shí)直播”所有參與者的客戶端必須看到最新的出價(jià)記錄、倒計(jì)時(shí)和領(lǐng)先者變化這顆不是“刷新一下頁(yè)面”那種體驗(yàn)而是服務(wù)端推動(dòng)的實(shí)時(shí)更新。我當(dāng)時(shí)拿到需求文檔之后第一件事不是選技術(shù)棧而是先把拍賣的規(guī)則細(xì)化成一張可執(zhí)行的邏輯表。比如“加價(jià)幅度不低于多少”“同一用戶不能連續(xù)自加價(jià)”“大促場(chǎng)景下五萬(wàn)人圍觀一個(gè)拍賣品的實(shí)時(shí)瀏覽怎么支撐”——這些才是決定架構(gòu)的核心約束。順便也明確一下這個(gè)系統(tǒng)的目標(biāo)用戶和形態(tài)這是一個(gè)面向Web端的在線拍賣平臺(tái)管理員可以發(fā)布拍賣品、設(shè)置起拍價(jià)和保證金規(guī)則用戶通過(guò)瀏覽器參與競(jìng)拍系統(tǒng)自動(dòng)記錄出價(jià)歷史、判定成交并處理保證金退還。它適合做課程設(shè)計(jì)、畢業(yè)設(shè)計(jì)也能作為企業(yè)內(nèi)部“內(nèi)部資產(chǎn)拍賣”或“二手設(shè)備競(jìng)價(jià)”的原型系統(tǒng)。2. 技術(shù)選型的真實(shí)理由為什么是Node.js不只是因?yàn)樗鼘懼?jiǎn)單確定了業(yè)務(wù)邊界后第二步是選技術(shù)棧。當(dāng)時(shí)我選的是Node.js Express Socket.IO Redis MongoDB這個(gè)組合放到今天依然很能打。下面按“為什么選它”而不是“它多流行”的方式拆一下。2.1 Node.js的擅長(zhǎng)區(qū)間正好卡在拍賣系統(tǒng)的點(diǎn)上拍賣系統(tǒng)是一個(gè)典型的I/O密集、短連接高頻請(qǐng)求、高并發(fā)讀寫場(chǎng)景。每個(gè)用戶的出價(jià)動(dòng)作本質(zhì)上是一次快速的事件提交而系統(tǒng)需要把這個(gè)事件廣播給所有正在圍觀這個(gè)拍品的人。Node.js的異步事件驅(qū)動(dòng)模型天生適合這種“小而快”的任務(wù)。有人可能擔(dān)心Node.js是單線程的會(huì)不會(huì)在高并發(fā)下?lián)尾蛔?。?shí)際上普通拍賣系統(tǒng)的真實(shí)瓶頸很少在CPU計(jì)算而在數(shù)據(jù)庫(kù)連接數(shù)、Redis讀寫能力和網(wǎng)絡(luò)帶寬。Node.js單線程負(fù)責(zé)調(diào)度阻塞操作都丟給底層線程池配合Cluster模塊起多個(gè)進(jìn)程單機(jī)扛住一兩千并發(fā)連接問(wèn)題不大。我做壓測(cè)時(shí)8核機(jī)器上跑4個(gè)Node進(jìn)程每個(gè)進(jìn)程保持1萬(wàn)個(gè)Socket連接整體狀態(tài)很穩(wěn)定。再說(shuō)維護(hù)成本。整個(gè)系統(tǒng)前后端都用JavaScript部署時(shí)不需要多個(gè)運(yùn)行時(shí)環(huán)境寫業(yè)務(wù)邏輯的思路也連貫。對(duì)我這種做全棧的人來(lái)說(shuō)一套語(yǔ)言打通確實(shí)省了不少事。2.2 Socket.IO做實(shí)時(shí)推送選擇它的關(guān)鍵原因是容錯(cuò)而不是炫技拍賣頁(yè)面的核心體驗(yàn)是當(dāng)前價(jià)變了、領(lǐng)先者變了、倒計(jì)時(shí)變了所有在線用戶都能立刻看到。用傳統(tǒng)的HTTP輪詢也行但一是浪費(fèi)請(qǐng)求二是延遲不穩(wěn)定。WebSocket是正確答案但直接裸用WebSocket要處理斷線重連、心跳、連接狀態(tài)同步這些臟活。Socket.IO在這方面幫了大忙。它底層自動(dòng)選擇WebSocket、輪詢或其他可用方式實(shí)測(cè)中某個(gè)用戶網(wǎng)絡(luò)差時(shí)自動(dòng)降級(jí)成HTTP長(zhǎng)輪詢體驗(yàn)不至于崩掉連接斷開(kāi)后會(huì)自動(dòng)重連配合房間里的事件廣播斷線幾秒再回來(lái)狀態(tài)還能對(duì)得上。異步任務(wù)的部分我用了Redis輔助這一點(diǎn)后面單獨(dú)講。這里先記住一個(gè)結(jié)論Socket.IO不是可有可無(wú)的“聊天室工具”它承擔(dān)了競(jìng)拍系統(tǒng)“現(xiàn)場(chǎng)直播感”的全部責(zé)任。2.3 Redis在系統(tǒng)里的三副面孔R(shí)edis在這個(gè)項(xiàng)目里不是可有可無(wú)的緩存層它承擔(dān)了三個(gè)職責(zé)實(shí)時(shí)數(shù)據(jù)的存儲(chǔ)當(dāng)前價(jià)格、當(dāng)前領(lǐng)先者、倒計(jì)時(shí)截止時(shí)間戳這些更新頻率高、數(shù)據(jù)量小的狀態(tài)放在Redis里避免每次都查MongoDB。分布式鎖解決“同一時(shí)間多個(gè)進(jìn)程處理同一個(gè)拍品的出價(jià)”時(shí)的并發(fā)沖突。Socket.IO的適配器后端讓多進(jìn)程之間能互相廣播事件確??蛻舳诉B在不同Node進(jìn)程上也能收到同一件拍品的出價(jià)提醒。只要系統(tǒng)會(huì)面臨拍賣高峰期Redis幾乎就是標(biāo)配不是可選項(xiàng)。2.4 數(shù)據(jù)庫(kù)選型MongoDB適合這種“敏捷演變”的數(shù)據(jù)結(jié)構(gòu)拍賣品、出價(jià)記錄、用戶信息這幾類數(shù)據(jù)天然是文檔結(jié)構(gòu)。每件拍品的參數(shù)字段可能不一樣字畫有作者、古董有年代、電子產(chǎn)品有型號(hào)關(guān)系型數(shù)據(jù)庫(kù)里要搞一堆“規(guī)格擴(kuò)展表”而MongoDB允許直接嵌入一個(gè)動(dòng)態(tài)的屬性對(duì)象開(kāi)發(fā)效率高很多。另外出價(jià)記錄是典型的追加型數(shù)據(jù)MongoDB的寫入性能也優(yōu)于傳統(tǒng)關(guān)系庫(kù)的常規(guī)配置。為了讓出價(jià)記錄查詢快我給collection加了聯(lián)合索引{auctionId: 1, price: -1}。為了讓拍賣中的拍品能快速篩選加了{(lán)status: 1, endTime: 1}的索引。這是設(shè)計(jì)初就規(guī)劃好的不是等數(shù)據(jù)量大了才想起來(lái)補(bǔ)。3. 第一個(gè)核心難點(diǎn)拍賣狀態(tài)機(jī)與延遲機(jī)制的完整實(shí)現(xiàn)進(jìn)到具體實(shí)現(xiàn)階段后最復(fù)雜的其實(shí)是“規(guī)則邏輯”而不是“增刪改查”。建議先畫一張狀態(tài)圖把拍品的生命周期理清楚再寫代碼不然很容易在幾個(gè)狀態(tài)的邊界上兜圈子。3.1 狀態(tài)機(jī)pending到running到ending的三態(tài)流轉(zhuǎn)我把拍品的狀態(tài)定義得非常明確pending未開(kāi)始管理員創(chuàng)建拍品后等待到達(dá)開(kāi)始時(shí)間。running進(jìn)行中開(kāi)始時(shí)間到達(dá)或管理員手動(dòng)上架用戶可出價(jià)。ended已結(jié)束到達(dá)結(jié)束時(shí)間且無(wú)延時(shí)時(shí)系統(tǒng)自動(dòng)裁定結(jié)果。settled已成交在ended基礎(chǔ)上完成支付/保證金退還等后續(xù)動(dòng)作。這個(gè)狀態(tài)流轉(zhuǎn)我完整寫在服務(wù)端禁止前端直接改狀態(tài)字段只允許通過(guò)服務(wù)端接口觸發(fā)。這里有一個(gè)關(guān)鍵設(shè)計(jì)容易被忽略狀態(tài)的變更必須帶時(shí)間戳和操作人。比如用戶出價(jià)時(shí)發(fā)現(xiàn)拍品已經(jīng)ended就要明確記下“誰(shuí)在什么時(shí)候試圖出價(jià)被拒”這在糾紛處理時(shí)要查得清楚。3.2 截止時(shí)間到底怎么定不可逆的時(shí)間戳原則前端展示的倒計(jì)時(shí)是從服務(wù)端取到的endTime字段計(jì)算出來(lái)的。任何客戶端本地時(shí)間都不參與“是否截止”的判定攻擊者改系統(tǒng)時(shí)鐘對(duì)服務(wù)端毫無(wú)影響。這里有個(gè)細(xì)節(jié)數(shù)據(jù)庫(kù)里存的是絕對(duì)時(shí)間戳epoch毫秒而不是“剩余秒數(shù)”。因?yàn)椤笆S嗝霐?shù)”是一種相對(duì)狀態(tài)會(huì)隨著計(jì)算時(shí)刻不同產(chǎn)生漂移絕對(duì)時(shí)間戳則無(wú)歧義。前端拿到endTime后通過(guò)const remain Math.max(0, Math.floor((endTime - Date.now()) / 1000))計(jì)算顯示。3.3 最后幾秒的規(guī)則延長(zhǎng)拍賣時(shí)間而非簡(jiǎn)單拒絕這是拍賣系統(tǒng)最出彩、也最容易出錯(cuò)的地方。規(guī)則是在剩余時(shí)間不足X秒如3秒時(shí)如有人出價(jià)則拍賣結(jié)束時(shí)間自動(dòng)延長(zhǎng)Y秒如5秒。這個(gè)機(jī)制通常稱為“自動(dòng)延長(zhǎng)時(shí)間”作用是防止最后時(shí)刻的網(wǎng)絡(luò)延遲導(dǎo)致真實(shí)買家無(wú)法完成出價(jià)。實(shí)現(xiàn)時(shí)不能用“前端倒計(jì)時(shí)到了就鎖死”的方案必須由后端原子操作判斷。我用Redis的WATCH/MULTI事務(wù)來(lái)處理// 判斷并延長(zhǎng)截止時(shí)間 const redisClient require(./redis).getClient(); async function tryExtendAuction(auctionId, latestBidTime) { const key auction:endTime:${auctionId}; const result await redisClient.watch(key); if (!result) return; const currentEnd await redisClient.get(key); const remain currentEnd - Date.now(); const multi redisClient.multi(); if (remain EXTEND_THRESHOLD_MS remain 0) { const newEnd Date.now() EXTEND_DURATION_MS; multi.set(key, newEnd); multi.set(auction:status:${auctionId}, running); } const execRes await multi.exec(); if (!execRes) { // 有其他請(qǐng)求并發(fā)修改重試 return tryExtendAuction(auctionId, latestBidTime); } }這樣寫的核心是REdis的watch機(jī)制監(jiān)聽(tīng)endTime如果在我讀取之后、事務(wù)執(zhí)行之前這個(gè)key被別的進(jìn)程改了整個(gè)事務(wù)就取消重試。這保證了多人同時(shí)出價(jià)時(shí)只會(huì)有一個(gè)人成功延長(zhǎng)而不會(huì)被覆蓋成亂七八糟的時(shí)間。3.4 定時(shí)任務(wù)的坑setTimeout不是用來(lái)做拍賣結(jié)算的一開(kāi)始很多人會(huì)用setTimeout來(lái)做“到點(diǎn)自動(dòng)結(jié)算”??雌饋?lái)簡(jiǎn)單但服務(wù)器重啟后內(nèi)存中的timer會(huì)全部丟失。更穩(wěn)妥的做法是每個(gè)拍品結(jié)束時(shí)先把狀態(tài)標(biāo)記為“待結(jié)算”并寫入結(jié)算時(shí)間。然后用一個(gè)獨(dú)立的輪詢?nèi)蝿?wù)去掃描所有“running且endTime已過(guò)”的拍品執(zhí)行結(jié)算。這個(gè)輪詢?nèi)蝿?wù)可以用node-cron實(shí)現(xiàn)每秒鐘掃一次const cron require(node-cron); cron.schedule(* * * * * *, async () { const expiredAuctions await Auction.find({ status: running, endTime: { $lte: new Date() } }); for (const auc of expiredAuctions) { await settleAuction(auc._id); } });掃描頻率是1秒一次粒度足夠了。即便定時(shí)任務(wù)有1秒延遲用戶也感知不到。不過(guò)千萬(wàn)注意掃描任務(wù)必須設(shè)計(jì)成可重入的。也就是說(shuō)同一件拍品不能在兩次掃描中被同時(shí)結(jié)算。我給處理過(guò)程加了一個(gè)狀態(tài)位開(kāi)始結(jié)算前用Redis setnx寫入一個(gè)lock key成功才繼續(xù)否則跳過(guò)本次。4. 第二個(gè)核心難點(diǎn)競(jìng)價(jià)高并發(fā)下的數(shù)據(jù)一致性出價(jià)是拍賣系統(tǒng)的核心操作比普通的“寫入一條記錄”復(fù)雜得多。每次出價(jià)必須同時(shí)滿足出價(jià)價(jià)格大于當(dāng)前最高價(jià)并且加價(jià)幅度合法。拍品狀態(tài)為running。當(dāng)前時(shí)間還沒(méi)到endTime。不能是領(lǐng)先者自己再次出價(jià)防止自己頂自己刷價(jià)。這幾個(gè)條件任何一個(gè)不滿足都要拒絕這次出價(jià)。但如果判斷完再寫入期間又有別的請(qǐng)求插進(jìn)來(lái)就可能出現(xiàn)“兩個(gè)人同時(shí)認(rèn)為自己出價(jià)成功”的競(jìng)態(tài)條件。解決這個(gè)問(wèn)題的典型方法有樂(lè)觀鎖和Redis原子操作我兩個(gè)都用過(guò)說(shuō)說(shuō)實(shí)際的取舍。4.1 方案對(duì)比樂(lè)觀鎖 vs Redis原子操作給MongoDB的拍賣品文檔加一個(gè)version字段遞交出價(jià)時(shí)帶上讀出時(shí)的版本號(hào)更新時(shí)用findOneAndUpdate帶條件version 讀取的版本號(hào)如果更新結(jié)果為空說(shuō)明版本沖突重新讀取再試。這種樂(lè)觀鎖簡(jiǎn)單可靠但問(wèn)題是在高并發(fā)情況下重試次數(shù)會(huì)很多不僅浪費(fèi)體驗(yàn)也不好。改進(jìn)后我采用的方式是把“當(dāng)前最高價(jià)”放在Redis里用Redis的原子自增/范圍操作來(lái)裁決出價(jià)。const Script if redis.call(exists, KEYS[1]) 0 then return -1 end local currentPrice tonumber(redis.call(get, KEYS[2])) local requiredStep tonumber(ARGV[2]) if tonumber(ARGV[1]) currentPrice requiredStep then return 0 end redis.call(set, KEYS[2], ARGV[1]) redis.call(set, KEYS[3], ARGV[3]) return 1 ; const result await redisClient.eval(Script, 3, auction:status:${auctionId}, auction:currentPrice:${auctionId}, auction:leader:${auctionId}, newPrice, minStep, userId );Lua腳本在Redis里是原子執(zhí)行的這行命令在整個(gè)執(zhí)行期間不會(huì)被其他命令插入所以并發(fā)判斷和寫入是安全無(wú)競(jìng)態(tài)的。出價(jià)成功后再把出價(jià)記錄異步寫入MongoDB。這里Redis不是緩存而是數(shù)據(jù)的“合法裁決點(diǎn)”。4.2 MongoDB里的出價(jià)記錄異步落庫(kù)與補(bǔ)償Redis負(fù)責(zé)裁決MongoDB負(fù)責(zé)持久化。把出價(jià)記錄異步落庫(kù)時(shí)有兩種方案監(jiān)聽(tīng)Redis的鍵變化事件觸發(fā)寫入。每個(gè)Node進(jìn)程在收到業(yè)務(wù)層“出價(jià)成功”信號(hào)后自行寫庫(kù)。方案2更直觀但需要小心如果某一臺(tái)Node進(jìn)程在寫入期間崩潰出價(jià)記錄就丟了。解決方法是引入一個(gè)簡(jiǎn)單的補(bǔ)償任務(wù)定每隔一段時(shí)間比如每分鐘比對(duì)Redis中的當(dāng)前狀態(tài)和MongoDB中記錄的最高價(jià)是否一致如果Redis中的價(jià)格高于數(shù)據(jù)庫(kù)記錄就補(bǔ)插一條記錄。看起來(lái)有點(diǎn)笨但拍賣場(chǎng)景下極少出現(xiàn)這個(gè)不一致而且補(bǔ)償對(duì)賬能保證賬目可靠。4.3 加價(jià)幅度的校驗(yàn)放在哪一層出價(jià)不是隨意數(shù)字系統(tǒng)規(guī)定加價(jià)幅度必須高于當(dāng)前價(jià)的某個(gè)比例例如5%或固定階梯值。這個(gè)校驗(yàn)務(wù)必放在服務(wù)端不能依賴前端禁用按鈕。理由是顯而易見(jiàn)的任何人都能直接偽造請(qǐng)求。前端可以輔助展示“最低可出價(jià)”后端則必須嚴(yán)格判斷if (bidPrice currentPrice minStep) { throw new BizError(BID_PRICE_TOO_LOW); }這個(gè)currentPrice從Redis里讀而不是從數(shù)據(jù)庫(kù)讀因?yàn)镽edis值實(shí)時(shí)滾動(dòng)的頻率遠(yuǎn)高于數(shù)據(jù)庫(kù)持久化頻率。前端顯示出現(xiàn)微小延遲沒(méi)關(guān)系但后端裁決必須使用最準(zhǔn)的數(shù)據(jù)。5. 前端實(shí)時(shí)交互那些容易被忽略的體驗(yàn)細(xì)節(jié)頁(yè)面實(shí)現(xiàn)上我用服務(wù)端渲染出基礎(chǔ)結(jié)構(gòu)再用Socket.IO負(fù)責(zé)動(dòng)態(tài)區(qū)域的實(shí)時(shí)更新。不是所有地方都要實(shí)時(shí)只有這幾個(gè)關(guān)鍵區(qū)域需要當(dāng)前最高價(jià)與領(lǐng)先者昵稱。最新出價(jià)記錄列表。距離截止的時(shí)間倒計(jì)時(shí)。狀態(tài)橫幅“已結(jié)束”“已成交”。5.1 房間設(shè)計(jì)io.to(auctionId)只推相關(guān)用戶Socket.IO提供了房間room)能力。用戶進(jìn)入拍賣詳情頁(yè)時(shí)前端發(fā)一個(gè)joinAuctionRoom事件后端把socket加入到auction_${auctionId}房間內(nèi)。這樣出價(jià)成功時(shí)只需io.to(auctionRoomId).emit(bid:update, data)所有在線用戶都能收到不在這個(gè)頁(yè)面的人則不會(huì)被廣播干擾。有幾百萬(wàn)人在線時(shí)全局廣播會(huì)造成巨大壓力。按房間推送能把消息量限制在真正關(guān)注當(dāng)前拍品的用戶范圍內(nèi)。5.2 斷線重連與狀態(tài)同步保住用戶的“現(xiàn)場(chǎng)感”網(wǎng)絡(luò)抖動(dòng)是常態(tài)用戶刷新頁(yè)面也會(huì)觸發(fā)socket重新連接。Socket.IO默認(rèn)會(huì)自動(dòng)重連但重連后前端頁(yè)面上的價(jià)格和倒計(jì)時(shí)可能已經(jīng)過(guò)期。我寫了一個(gè)reqState事件socket連接建立后前端主動(dòng)請(qǐng)求當(dāng)前拍品的完整快照當(dāng)前價(jià)、截止時(shí)間、領(lǐng)先者、最近的出價(jià)記錄服務(wù)端從Redis Mongo組裝返回。這樣用戶不管什么時(shí)候進(jìn)來(lái)看到的都是準(zhǔn)實(shí)時(shí)狀態(tài)不會(huì)顯示一個(gè)過(guò)期的死頁(yè)面。5.3 倒計(jì)時(shí)的前端算法不要依賴服務(wù)端的“剩余秒數(shù)”前面說(shuō)了服務(wù)端返回絕對(duì)時(shí)間戳。前端用一個(gè)統(tǒng)一的時(shí)間源來(lái)做倒計(jì)時(shí)更新function formatRemain(endTime) { const remain Math.max(0, Math.floor((endTime - Date.now()) / 1000)); const h Math.floor(remain / 3600); const m Math.floor((remain % 3600) / 60); const s remain % 60; return ${h}:${String(m).padStart(2, 0)}:${String(s).padStart(2, 0)}; }這里有一個(gè)細(xì)節(jié)如果用戶本地時(shí)鐘和服務(wù)端差了幾秒倒計(jì)時(shí)顯示會(huì)不準(zhǔn)確。雖然不是嚴(yán)重的問(wèn)題但競(jìng)拍最后幾秒用戶會(huì)很敏感。嚴(yán)謹(jǐn)?shù)淖龇ㄊ沁B接建立時(shí)服務(wù)端下發(fā)一個(gè)serverTime前端計(jì)算本地時(shí)鐘偏移量之后用Date.now() offset作為時(shí)間基準(zhǔn)。5.4 出價(jià)按鈕的防誤觸設(shè)計(jì)出價(jià)操作是不可撤銷的誤觸一次就可能花冤枉錢。前端在按鈕點(diǎn)擊后要加一個(gè)確認(rèn)彈窗顯示本次出價(jià)后的新價(jià)格。同時(shí)按鈕在收到“出價(jià)成功”或“出價(jià)過(guò)低”的socket響應(yīng)前應(yīng)處于loading狀態(tài)防止快速連點(diǎn)造成沖突。后端也不怕連點(diǎn)因?yàn)閮r(jià)格裁決在Redis的Lua里是原子操作。即便前端快速發(fā)了兩次相同價(jià)格的出價(jià)第二次會(huì)因?yàn)椤皟r(jià)格未高于當(dāng)前價(jià)”被自然拒絕。6. 數(shù)據(jù)庫(kù)模型設(shè)計(jì)寧可多寫一點(diǎn)也不要留模糊地帶6.1 拍賣品集合的核心字段{ _id: ObjectId, title: String, // 標(biāo)題 description: String, // 描述 coverImage: String, // 封面圖URL startPrice: Number, // 起拍價(jià)單位分 currentPrice: Number, // 當(dāng)前價(jià)實(shí)時(shí)取Redis冗余存儲(chǔ) minStep: Number, // 最小加價(jià)幅度 deposit: Number, // 保證金分 startTime: Date, // 開(kāi)始時(shí)間 endTime: Date, // 截止時(shí)間 status: String, // pending / running / ended / settled leaderId: ObjectId, // 當(dāng)前領(lǐng)先者 bidCount: Number, // 出價(jià)次數(shù)統(tǒng)計(jì)用 actualEndTime: Date, // 實(shí)際結(jié)束時(shí)間可能因延時(shí)而變化 createdAt: Date, updatedAt: Date }注意我用了“分”作為貨幣單位。浮點(diǎn)數(shù)算錢在JavaScript里是災(zāi)難雖然MongoDB支持Decimal128但單位換算成整數(shù)更省心顯示時(shí)再除以100。加價(jià)幅度、當(dāng)前價(jià)、起拍價(jià)全部存整數(shù)分。6.2 出價(jià)記錄集合{ _id: ObjectId, auctionId: ObjectId, userId: ObjectId, price: Number, // 本次出價(jià)分 createdAt: Date, isAuto: Boolean, // 是否系統(tǒng)自動(dòng)出價(jià)預(yù)留 ip: String, // 操作來(lái)源審計(jì)用 source: String, // web / admin }這個(gè)集合只做追加不修改不刪除。用戶可以在詳情頁(yè)看到所有歷史出價(jià)也是后期審計(jì)的憑證。索引{auctionId: 1, price: -1}可以讓“最近出價(jià)列表”查詢走索引。6.3 用戶與保證金保證金設(shè)計(jì)上為了簡(jiǎn)化流程我初期用一個(gè)userDeposits集合記錄用戶為某個(gè)拍品繳納的保證金狀態(tài){ _id: ObjectId, userId: ObjectId, auctionId: ObjectId, amount: Number, status: String, // paid / frozen / returned / deducted paidAt: Date, returnedAt: Date }拍賣結(jié)束時(shí)贏家需要完成付款保證金可抵扣貨款輸家的保證金自動(dòng)原路退回。這是業(yè)務(wù)上比較合理的閉環(huán)。如果沒(méi)有支付渠道可以做成“模擬支付”但數(shù)據(jù)結(jié)構(gòu)上必須有這條鏈路。7. 部署架構(gòu)與橫向擴(kuò)展從單機(jī)到多進(jìn)程的平滑演進(jìn)前面的內(nèi)容主要集中在代碼層面。這部分把真實(shí)部署時(shí)的架構(gòu)設(shè)計(jì)講清楚因?yàn)楹芏嗤瑢W(xué)做完功能后就停了忽略了“系統(tǒng)能面對(duì)多少真實(shí)用戶”這個(gè)問(wèn)題。7.1 單機(jī)起步的最小架構(gòu)初期單機(jī)方案如下一臺(tái)云主機(jī)4核8G以上。Nginx做反向代理靜態(tài)資源走緩存。Node.js起4個(gè)進(jìn)程Cluster模式監(jiān)聽(tīng)同一個(gè)端口。Redis和MongoDB部署在同一臺(tái)機(jī)器上或者單獨(dú)實(shí)例。這個(gè)配置大概能支撐幾百到上千的并發(fā)在線用戶對(duì)課程設(shè)計(jì)和中小型內(nèi)部系統(tǒng)完全夠用。7.2 Socket.IO的跨進(jìn)程通信Redis Adapter是關(guān)鍵單機(jī)起4個(gè)進(jìn)程之后馬上會(huì)遇到一個(gè)麻煩用戶A連的是進(jìn)程1用戶B連的是進(jìn)程2A出價(jià)后進(jìn)程1只能給本進(jìn)程內(nèi)的socket廣播進(jìn)程2里的用戶收不到更新。解決方法是給Socket.IO配上Redis Adapterconst { createAdapter } require(socket.io/redis-adapter); const { createClient } require(redis); const pubClient createClient({ url: redis://localhost:6379 }); const subClient pubClient.duplicate(); io.adapter(createAdapter(pubClient, subClient));配好之后每個(gè)進(jìn)程的Socket.IO實(shí)例通過(guò)Redis互相傳遞廣播消息room的概念也自動(dòng)變成全局的。這樣“房間內(nèi)廣播所有在線用戶”是基于全集群的而不只限于單個(gè)進(jìn)程。7.3 Nginx的升級(jí)策略與負(fù)載均衡當(dāng)在線用戶數(shù)增長(zhǎng)到幾千、上萬(wàn)時(shí)單機(jī)肯定不夠了。擴(kuò)展思路是Nginx轉(zhuǎn)發(fā)請(qǐng)求到多臺(tái)Node服務(wù)器。Socket.IO長(zhǎng)連接必須開(kāi)啟ip_hash負(fù)載均衡或者使用sticky sessions否則同一個(gè)用戶的多次長(zhǎng)連接可能被分配到不同服務(wù)器重連后房間信息可能丟失。雖然Redis Adapter能解決跨進(jìn)程廣播但從用戶角度一個(gè)固定的連接能被路由到同一個(gè)后端進(jìn)程重連開(kāi)銷最小。Nginx配置里upstream node_app { ip_hash; server 10.0.0.1:3000; server 10.0.0.2:3000; }一個(gè)完整的生產(chǎn)級(jí)部署會(huì)涉及CDN、靜態(tài)資源分離、MongoDB副本集、Redis哨兵等但核心架構(gòu)和單機(jī)版本一脈相承。真正的門檻在“編排和監(jiān)控”不在“功能開(kāi)發(fā)”。7.4 性能瓶頸與優(yōu)化連接數(shù)比CPU更先到達(dá)上限壓測(cè)時(shí)最容易遇到的坑是EADDRNOTAVAIL或者too many open files。Linux默認(rèn)單進(jìn)程文件描述符上限是1024對(duì)一個(gè)支持幾千長(zhǎng)連接的Node進(jìn)程來(lái)說(shuō)根本不夠。必須調(diào)大ulimit -n 65535另外Socket.IO的心跳配置也需要按實(shí)際網(wǎng)絡(luò)情況去調(diào)。默認(rèn)心跳間隔和超時(shí)時(shí)間對(duì)弱網(wǎng)用戶不太友好我調(diào)整成const io new Server(httpServer, { pingInterval: 25000, pingTimeout: 20000, cors: { origin: [https://yourdomain.com] } });這兩個(gè)參數(shù)的含義是每25秒服務(wù)端發(fā)一次心跳若20秒內(nèi)客戶端沒(méi)有響應(yīng)則判定斷開(kāi)。太頻繁會(huì)增加無(wú)謂流量太慢會(huì)導(dǎo)致“用戶已經(jīng)斷網(wǎng)但服務(wù)端還掛著一堆僵尸連接”。8. 踩坑實(shí)錄那些文檔里不會(huì)寫的教訓(xùn)這個(gè)系統(tǒng)前前后后寫了兩三個(gè)版本踩過(guò)不少坑。挑幾個(gè)有代表性的分享出來(lái)。8.1 并發(fā)用戶出價(jià)后數(shù)據(jù)庫(kù)里的currentPrice和Redis不一致一開(kāi)始我把currentPrice放在Redis里做實(shí)時(shí)裁決但落庫(kù)時(shí)用的是Auction.updateOne({ _id }, { $set: { currentPrice: newPrice } })沒(méi)加版本控制。壓測(cè)時(shí)發(fā)現(xiàn)某個(gè)時(shí)刻數(shù)據(jù)庫(kù)里的價(jià)格低于Redis里的價(jià)格。原因很簡(jiǎn)單兩次并發(fā)更新在不同的進(jìn)程里執(zhí)行后到的寫庫(kù)請(qǐng)求可能讀到一個(gè)舊的Redis值把數(shù)據(jù)庫(kù)覆蓋成更低的價(jià)。我的修復(fù)方案是把MongoDB更新也改成條件更新只有當(dāng)傳入的新價(jià)格大于當(dāng)前數(shù)據(jù)庫(kù)價(jià)格時(shí)才更新const updateRes await Auction.updateOne( { _id: auctionId, currentPrice: { $lt: newPrice } }, { $set: { currentPrice: newPrice, leaderId: userId, updatedAt: new Date() } } );數(shù)據(jù)庫(kù)里的值就永遠(yuǎn)不會(huì)被低價(jià)格覆蓋。即便Redis和數(shù)據(jù)庫(kù)偶爾不一致數(shù)據(jù)庫(kù)對(duì)賬任務(wù)也能最終修正。8.2 服務(wù)器時(shí)鐘漂移導(dǎo)致倒計(jì)時(shí)提前清零我一開(kāi)始認(rèn)為服務(wù)器時(shí)間絕對(duì)準(zhǔn)確后來(lái)發(fā)現(xiàn)云服務(wù)器啟用NTP對(duì)時(shí)后極小概率會(huì)出現(xiàn)幾秒的時(shí)鐘跳動(dòng)。當(dāng)時(shí)有一場(chǎng)拍賣明明還有10秒前端倒計(jì)時(shí)直接歸零了。排查半天發(fā)現(xiàn)問(wèn)題出在“本地服務(wù)器時(shí)間和NTP校時(shí)瞬間跳變”上。這種偶發(fā)問(wèn)題很難復(fù)現(xiàn)但拍賣系統(tǒng)對(duì)時(shí)間極度敏感。我的做法是服務(wù)端多維護(hù)一個(gè)serverTimeOffset字段校時(shí)跳變時(shí)做平滑校正不讓倒計(jì)時(shí)顯示瞬間突變。8.3 Socket.IO的內(nèi)存泄漏分清日志級(jí)別的作用有段時(shí)間線上運(yùn)行幾天后內(nèi)存占用持續(xù)上升堆快照后發(fā)現(xiàn)是console.log在打印大對(duì)象??雌饋?lái)是個(gè)小事但生產(chǎn)環(huán)境每秒鐘幾百次出價(jià)廣播每次都打一大坨JSON日志系統(tǒng)自身就會(huì)成為性能瓶頸。優(yōu)化方案是log級(jí)別區(qū)分debug級(jí)別開(kāi)發(fā)環(huán)境打印完整對(duì)象。info級(jí)別生產(chǎn)環(huán)境只打印簡(jiǎn)要信息auctionId、price、userId、耗時(shí)。warn/error級(jí)別打印完整錯(cuò)誤堆棧。做技術(shù)的人容易忽視日志但日志其實(shí)是排障時(shí)的第一救命稻草。8.4 出價(jià)記錄查詢慢看懂explain()比瞎加索引管用有一個(gè)列表頁(yè)要顯示某件拍品的出價(jià)記錄數(shù)據(jù)量到了十萬(wàn)條后查詢?cè)絹?lái)越慢??磮?zhí)行計(jì)劃發(fā)現(xiàn)查詢走了全表掃描。加了聯(lián)合索引{auctionId:1, createdAt:-1}后速度從幾百毫秒降到個(gè)位數(shù)毫秒。這種問(wèn)題其實(shí)很基礎(chǔ)但真遇到了才知道索引設(shè)計(jì)不能靠直覺(jué)。9. 最后還想再聊幾句這個(gè)項(xiàng)目我從頭到尾做下來(lái)最大的感受是拍賣系統(tǒng)表面上是“一個(gè)帶倒計(jì)時(shí)的商品頁(yè)面”實(shí)際上是一套包含并發(fā)控制、實(shí)時(shí)通信、狀態(tài)機(jī)、資金流轉(zhuǎn)的完整業(yè)務(wù)系統(tǒng)。每個(gè)細(xì)節(jié)背后都有真實(shí)場(chǎng)景在推動(dòng)不是硬湊出來(lái)的功能。如果你想在這個(gè)項(xiàng)目基礎(chǔ)上繼續(xù)擴(kuò)展可以考慮這幾個(gè)方向增加代理出價(jià)功能——用戶設(shè)定最高預(yù)算系統(tǒng)代替自動(dòng)加價(jià)增加拍賣直播——把出價(jià)事件流和視頻流組合起來(lái)增加多幣種支持——后臺(tái)統(tǒng)一按分存儲(chǔ)前端按區(qū)域顯示。這些都是很自然的業(yè)務(wù)延伸。最后分享一個(gè)我做壓測(cè)時(shí)用的腳本思路不要只測(cè)“每秒能處理多少出價(jià)”更要測(cè)“最后10秒高并發(fā)下系統(tǒng)的數(shù)據(jù)一致性是否依然正確”。因?yàn)檎G闆r下可能只有幾十個(gè)請(qǐng)求但壓測(cè)如果只有高峰值的1/10很多并發(fā)問(wèn)題根本暴露不出來(lái)。每輪測(cè)試結(jié)束后跑一次對(duì)賬腳本對(duì)比Redis和MongoDB里的最終數(shù)據(jù)這樣測(cè)試的意義才完整。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
综合久久99| 亚洲婷婷五月天| 久久五月天精品视频| 爱草视频在线观看| 97久久超视频| 色狠狠色噜噜AV天堂五区| 五月六月丁香激情| 欧美色小说婷婷| 欧美日韩成人在线网站| 国产九月婷婷| 国产欧美精品AAAAAA片| 亚洲激情婷婷| 成人丁香五月| 综合五月激情网| 日本在线视频www色| 丰满老熟妇BBBBB搡BBB| 99久久综合网| 这里只有精品视频| 激情深爱五月| 99色最新在线视频网站| 婷婷五月天堂网| 丁香五月婷婷综合激情啪啪啪| 97精品欧美91久久久久久久| 丁香五月婷婷香| 五月情综合| 伊人大香蕉在线视频| 久久人妻视频| 丁香六月激情综合| 久操操| 五月婷av| 五月久久亚洲| 九九九九九九九热| 五月天婷婷乱| 五月婷婷丁香五月婷婷| 色婷五月| 天天操,夜夜骑| 婷婷日| 亚洲第一黄网| 婷婷五月激情四月综合| 狠狠干天天内射| 丁香久久综合| 激情性爱五月天| 久久婷婷东京热大香樵| 97香蕉人人在线观看| 日韩性爱AV| 日日日日日| 色狠久| 米奇激情婷婷| 99热的无码| 五月天婷婷色播综合在线| 七七九色| 激情九月综合| 青青草原中文字幕| xx综合网| 色高清无码视频| 久久视这里只有精品| 国产精品视频免费看| 91jiuseshunv| 丁香五月婷婷偷拍| 五月婷婷干干干| 久9热视频在线观看| 丁香五月WWW| 超级碰碰一区| 国产婷婷五月天| 国产精品视频网| 久久电影五月天丁香电影| 成人片黄网站色大片免费毛片| 99这里只有精| 国产婷婷色综合AV蜜臀AV | 亚洲色婷婷五月天| 91九色最新视频| 亚洲视频在线观看| 另类丁香综合| 中文字幕在线观看视频www| 日本久久天堂| 五月婷婷免费| 激情五月天婷婷五月天| 久久视频婷婷视频| 丁香婷婷久久| 中文字幕欧美日韩VA免费视频| 丁香六月激情| 婷婷9月天| 久久区区一二三av| 国产韩日亚洲美州欧亚综合在线| 欧洲综合色| www,婷婷| 五月婷婷中文字幕| 99re欧美精品| 伊人久久大香蕉网| 一本道综合网| 久色大| 中文无码婷婷| 五月丁香色停停啪啪啪| www999日韩精品| 一级片sese片.COM| 99热只有这里才是精品| 在线中文字幕视频| 一级片操逼视频| 99五丁香月| 五月婷综合激情| 色婷婷777狠狠| 亚洲永久四色| 超碰熟女拍拍| 五月婷丁香| 蜜臀久久99精品久久久久久酒店| 欧美啪啪9| 久草A片| 亚洲热视频在线| 青青草国产亚洲精品久久| 91人人人人人| 色噜噜狠狠色综| 久久亚洲婷婷综合色五月| 久久草婷婷丁香网站| 色婷婷狠狠18| 国产乱人偷精品人妻A片| 9久热精品在线视频| 色欧美日| 欧美五月丁香在线观看| 久操综合| 色九月综合网| 影音先锋 91工厂| 丁香色婷婷五月天| 欧美性色A片免费免费观看的 | 婷婷五月色播放| 97色色视频| 七七久久综合| 开心五激情网| 久久99网| 丁香五月自拍| 五月丁香啪| www.丁香五月| 中文激情网| 99热色在线精品| 操碰99| 亚洲综合色成丁香五月色| 91九色大屁股| 六月合五月婷| 激情五月天。| 五月开心六月婷婷在线播放网站| www激情| 超碰在线94| 一区二区中文字幕| 五月天六月色| AA丁香综合激情| 亚洲成人婷婷| 色在线免费观看| 五月丁香爱婷婷深深| 五月亭亭直播| 39视频第二区| 黄色激情五月天| CHINESE熟女老女人HD视频 | 99热综合| 丁香激情五月少妇| 色99网站| 日笨久久网| 人人舔人人色人人高潮| 天天日天天操心| 久久综合干| 五月天啪啪| 野战J办公桌椅H| 久久99久久久久久| 成人亚洲精品| 久99热| 大香蕉久久婷婷| 激情五月少妇| 欧美电影在线观看| 亚洲十月婷婷综合| 婷婷色五月大香蕉在线| 五月丁香六月情婷婷久久| 97色在线| 丝袜激情网| 激情五月天 婷婷| 1024AV视频| 99热这里只有精品50| 五月婷婷综合在线| 综合丁香婷婷五月天| 日韩另类| 色久播播| 天海翼中文字幕高| 婷婷五月天激情丁香| 中文字幕精品无码一区二区| 狠狠五月天婷婷激情网。| 少妇伦子伦精品无吗| 亚洲色人妻| 可以看的av网站| 五月丁香色色色| 五月丁香花免费视频| www。久久久久一b。Cc| 婷婷五月天激情综合网| 一区二区传媒视频| 丁香五月播播| 999婷婷综合| 九九激情| 久久99热这里只频精品6学生| 秋霞成人毛片一级A片| 久综合| 日韩AV片| 这里只有精品1| 婷婷五月播| 丁香婷婷色五月激情综合| 丁香五月婷婷Av| 九九无码| 婷婷五月成年人| 婷婷香五月天| xfplayav在线| 六月婷婷综合久久| 色综合色综合网| 98毛片| 思思re最新视频| 丁香婷婷激情网站| 自拍偷窥99热| 中文字幕有多少字| 超碰猛烈的性猛交| 99ri在线视频| 色九四色| 婷婷五月电影院| 九九九精品视频免费观看| 婷婷色在线| 五月天激情小说| 99国产精品久久久久久久久久久| 狠狠干夜夜干| 激情com| 成人无码免费一区二区中文| 夜色综合网| 996热| 激情久久久| 五月亭亭综合五码| 久热成人| 人人超碰99| 色婷婷www| 第2色五月婷| 婷婷色基地| 九热免费视频| 丁香五月很很肏| 天天摸天天肏| 996日日爱| WWW,五月| 婷婷酒色网| 人妻激情在线| 五月综合缴情网| 久久久久久久久久91| 色色五月婷| 丁香五月激情综合啪啪| 欧美欧盟性爱网| 丁香婷婷激情四射五月| 99啪啪网| 5月丁香啪啪啪| 五月天丁香六月综合| 综合色色五月| 91狠狠综合久久| 天天插天天爽| 日日艹思思热| 婷婷综合五月激情| 六月婷婷成人| 97自拍视频在线| 五月天激情图片网| xxxx五月天色色| 国产99久久久国产精品免费看| 丝袜人妻| 超碰不卡在线| 99色性爰网络| 亚洲精品性色| 色综合中文色综合网| 少妇高潮呻吟A片免费看软件| 九九性爱网| 激情五月天色婷婷综合| 大香蕉av在线| 婷婷伊人网| 激情婷婷综合网| 777影视理论片大全在线观看| 亚洲免费99| 五月婷在线播放| 亚洲精品网站色视频| 婷婷五月天第三页| 99精色| oVV4WIB3vFi8D| 91爱啪啪| 91超级碰| 婷婷综合一二三| aaa久久久| 色五月激情| 五月丁香龟婷婷| 久久这里只有精品网| 电影蜘蛛女| 开心久久五月天| 9|无码久久久久久| 亚洲综合成人网| 久久久久久99精品无码| 婷婷午夜精品久久久| 激情图片久久| 狠狠操综合| 六月丁香久久| 这里只有视频精品| 色婷婷六月精品| 岛国av网站| 嫩草视频观看| 人人操91| 99re6久热只有精品6在线直播| 婷婷色基地在线看| 天天色视频| 五月丁香婷婷激情久久| 色色色色色色五月婷婷| www.婷婷| 99视频在线| 狠狠综合久久| 大香蕉在线99热| 日日操天天操| 激情婷婷综合| 99精品97| 欧美亚洲色色色色| 激情综合网址| 五月开心激情网| 婷婷久久内射| www,黄色在线,con| 色欲天天综合网| 激情的五月| 五月天激情图片网| 日本乱子人伦在线视频| 五月天婷婷成人网| 丁香六月 人妻| 美女伊人久久| 亚洲色无码A片一区二区麻豆| 精品无吗va视频免费观看| 9色在线| 日本波多野结衣视频| 狼人婷婷久久| av操B网站| 香蕉国产2013| 99av视频| 午夜 外网 精品 在线| 9精品一区| 99久久这里只有精品| 99精品免费欧美小视频| 五月婷婷天天色| 超碰成人AV| 欧美槡BBBB槡BBB少妇| 天天日夜夜曹| 狠狠狠狠操| 少妇高潮一区二区三区99欧美| 九色成人AV在线| 国产在线中文字幕| 婷婷五月天基地| 五月天亚洲最大成人| 色婷婷五月影院| 国产偷人爽久久久久久老妇APP| 丁香五月天.com| 五月丁香好婷婷A片网| 狼人婷婷久久| 色五月婷婷影视| 国产亚洲99久久精品| 久久综合影院| 亚洲欧美国产高清vA在线播放| 色噜噜狠狠色综合伊人| 色婷婷婷婷| 五月婷婷亚洲综合在线 | av五月天婷婷丁香| 99在线视频在线观看| 婷婷五月天成人| 五月天色色色色色| 9久热在线精品| 白人荫道BBWBBB大荫道| 另类小说五月天| 日本3级片一区2区| 99久久网站| 丁香五月亚洲婷婷| 国产精品久久久丁香五月八戒视频| 色婷婷丁香五月| 91九色欧美| 偷偷操九九| 欧美性生交XXXXX无码小说| 五月天婷婷社区| 99九九综合久久九九| 六月丁香激情网| 六月婷婷色宗合| 深情六月婷婷综合久久| 综合五月天亚洲婷婷| 色婷婷九月| 九九热在线99| 亚洲色图45p| 丁香色影院| 亚洲99一级无嗎特制在线| 欧美特大片黄| 播丁香五月婷婷欧美| 成人综合网站| 色伦专区97中文字幕| 99亚洲天堂| www.五月.com| 天天综合精品| 精品一区二区三区四区五区六区| 婷色五月| 亚洲精品V天堂中文字幕| 婷婷午夜| 人妻丰满精品一区二区A片| 这里只有精品视频在线| 疯狂做受XXXX高潮A片动画| 久久曰曰| 亚洲V国产V欧美V久久久久久| 五月丁香婷婷综合| 亚洲熟妇AV乱码在线观看| 婷婷五月在线视频| 嫩BBB槡BBBB搡BBBB| 五月天婷婷久久| 天天插天天射| 五月婷婷六月激情| 玖玖玖婷婷婷| 97极品在线| 五月丁香六月成人| 色,激情五月天| 天天做天天爱天天日| 成人精品一区二区三区四区五区| 丁香桃色综合网| 五月婷婷久久内射| 狠狠五月综合在线| 色欲五月婷婷| 五月婷婷啪啪| 美女婷婷激情亚洲| 亚洲有码在线视频| 久久99网站| 色久播播| 欧美性爱5月天天天看| 99热这里只有精品 搜| 五月天综合激情网| 久久精品4| 99久久6| 天天爽天天操| 久久久久视剧HD| 小泽玛利亚视频一区二区| 玖玖在线视| 天天骑日日爽| 国产另类综合| 综合色五月| 日日夜夜天天| 四色五月婷婷| 99re热在线视频| Av性爱网| 综合久久五月天| 无码人妻电影| 亚洲网站观看视频| 精典久久| 丁香五月天五码婷婷| 六月丁香社区| 狠狠草在线观看| 九九9久九9国产视频| 东京热人妻一区二区三区在线| 国产操B视频| 再次出发二| www.99成人视频| 日本啪啪天堂| seuuu婷婷| 丁香婷婷综合激情五月色| 婷婷丁香色五月亚洲| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 天天综合91入口| 97色在线| 丁香桃色网| 99久久久| 成人无码中文| 开心婷婷五月激情网小说| 亚洲va在线| 超碰免费99| 中文字幕免费高清电视剧| 久热久re| 天色综合网站| 高清视频一区| 激情婷婷护士激情| 五月天国产成人| 99热这里只有精品4| 99久热| .comwww在线观看免费操| 亚洲国产精品成人免费一区久久久在线观看AAAA | 国产日批视频免费播放| 色五月婷婷色五月婷婷色五月婷婷| 色五月激情五月天| 人妻中文字幕网| 久er7久热| 天天操综合网| 操日本99| 丁香六月婷婷缴情欧美| 97干婷婷| 色五月色开心开心五月| 再次出发二| 另类视在线| 婷婷丁香18| 99色视频| 亚洲成人av在线| 九色成人AV在线| 欧美天天草人人草| 98永久精品| 99热草草| 丁香婷婷六月激情| 亚洲综合激情五月久久| 伊人玖玖婷婷| www99热| .精品久久久麻豆国产精品| 日韩操逼大片| 99热思思| 99精品丰满| 激情综合五月.....| 五月丁香久久综合| 99日逼视频| 26uuu另类亚洲欧美日本一| 婷婷色播婷婷| 丁香六月婷婷久久综合| 美欧日韩国产成人在战| WWW·色色色·COM| AAAA网站| 9精品国产在热久久| 婷婷五月精品在线| 亚洲精品V天堂中文字幕| 亚洲久热| 涩涩涩五月天| 色九九综合| 91婷婷丁香五月| 欧美人人超级碰| 婷婷综合六月| 欧美天堂婷婷日韩| 激情综合另类| 五月婷婷久久大片| 无码婷婷五月天| 国产亚洲色婷婷久久99精品91| 婷婷五月综合在线| 色综合久久久久| 久久总和99| 开心激情站| 狠狠草网| 99∨VTV| 六月婷婷最新网址| 色色a| 五月婷婷丁香网| 99视频在线精品免费观看2| 黄色片avv| 伊人午夜综合色啪| 九九久久久综合| 79色色色色| 熟妇国产| 五月天色丁香| 超碰无码318604| 婷婷色综合| 日韩美女羞羞网站在线观看| 午夜婷婷久久 | 日韩精品电影| 人人爱摸视频| 曰曰久久| 色播五月天激情| 欧美大奶熟女噜噜噜噜| 中国女人做爰A片| 日本五月丁香| 99热99精品在线观看| 久色国产| 成人短视频在线免费观看| 狠狠干在线| 97人人做| 色综合五月| 欧洲亚洲免费视频9| 欧美三级巜人妻互换| 狠狠干 狠狠操| 蜜乳AV成人| 激情五月婷婷五月| 天天摸天天肏| 国产亚洲精品久久久久久牛牛| 天天干天天干天天干天天干天天干天天 | 五月色婷婷综合| 男人的天堂五月丁香| www色婷婷| 色之综合网| 丰满人妻妇伦又伦精品国产| 激情综合色播| 超碰大香蕉网| 丰满少妇猛烈A片免费看观看| 热99这里只有精品视频| 丁香九月激情久久| 久久九九热视频| 五月激情视频网| 久久免费干| 国产97色在线| 熟女重口味αV| 丁香五月天AV在线 | 97在线99| 丁香五月天婷婷中文字幕| 超碰人人色| 嫩草AV久久伊人妇女超级A| 2025天天操| 91视频一起草| 麻豆AV一区二区三区| 色五月婷婷影院| 丁香九月婷婷综合| 亚洲中文字幕AV在线| 26uuu成人网| 97色色-99久久| 色综合视频在线| 婷婷久久精品| www.91有码.com| 婷婷狠狠狠爱| 六月丁香网| 精品国产va久久久| 99精品激情| 美女被操一区二区| 涩五月婷婷| 五月婷婷婷自由综合| 黄色一级影片| 超碰人妻公开在线| 亚洲午夜av| 射久久丁香五月| 激情性爱五月天| 色五月婷婷在线观看第一页舔| 国产三级片91| 五月花亭亭| 人人操91| 四川操逼站| 亚洲人妻AV| 激情婷婷啪啪| 亚洲第一色网站| 99色日本| 激情AV综合| 婷婷五月色| 亚洲色情网站| 日日操,日日爽| 青996青| 婷婷在线中文字幕| 99色色视频| 久久精品人妻| 这里只有精彩视| 婷婷五月天美女| 大香蕉人人人| 狠狠CAO日日穞夜夜穞AV| 五月婷婷人人人操| 五月婷婷激情综合网| 伦乱美欧| 亚洲色色色色色色色色色| 色五月婷婷伊人| 九七色色六月丁香| 99免费视频| 中文字幕AV网址| 五月天激情av| 操逼123网| 激情综合网五月在线播放| 五月婷婷色白丝| 一级黄在线| 超碰久热| 激情五月婷婷网| 九九热re99re6在线精品| 婷婷综合色五月天| 天天添天天摸天天天天做| 亚洲日韩国产黑丝黑丝AVAV一区二区三区| 色婷婷影| 日韩 mm 不卡| 狠狠色噜噜色狠狠狠综合色| 欧美婷婷丁香社区在线播放| 精品一区二区三区免费毛片爱| 色五月激情综合网| www.五月天婷婷| 亚洲精品国产精品乱码视99| 五月婷导航| 丁香五月婷婷亚洲另类| 五月天开心成人网| 这里只精品| 99热这里是精品| 97香蕉久久超级碰碰高清版| 六月激情婷婷综合| 日韩一级网站| 色综合久久88| A1片久久| 大天天伊人| 色五月婷婷影视| 51精品国内探花| 九月色婷婷综合亚洲| 激情五月黄色| 91色五月在线观看| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 久久多色| 欧美日韩成人在线| 五月天亚洲图片婷婷| 欧美久热| 天天日天天插天天操| 免费视频无码| 可以免费观看的av| 国产成人精品亚洲线观看| 天天日天天色| 性做爰A片免费视频A片直播| 黄网在线免费观| 色网五月婷婷| 超碰一区二区| 成人在线观看一区| 超碰三级片| 色婷婷丁香综合中文字幕| 九色91视频| 五月激情综合网| 五月天婷婷基地| 俺来也综合网精品一区| 婷婷激情综合无月| 青青草婷婷综合五月| 新精品99| 五月天天综合| 色婷婷五月在线| 91碰碰碰| 久综合4| 91久草五月天婷婷| 久热黄色| 五月婷婷六月丁| 六月天六月婷| 日本五月婷| 久热99热| 五月丁香婷婷啪啪| 丁香五月激情图片婷婷| 婷婷综合日本| 这里只有精品视频视频在线观看| AV 3P| 亚艹艹| 色色狼人综合| 久久婷婷五月综合| 久久性都花花世界成人免费视频 | 性一交一乱一交A片久久四色| 精品久久99码| 五月丁香本色在线观看| 亚洲午夜Av| 这里只有精品偷拍| 激情综合亚洲色婷婷五月| 五月亭亭直播| 五月天精品视频| 色五月激情五月| 九九热99久久99| 日本三级大片| 337午夜福利| 九色91视频| 久久精品99国产精品日本| 伊人九九九久| 婷婷她六月天| 99热在线成人网站| 99热在线播放| 五月婷婷婷色| 人人爽天天莫| 婷婷五月天在线观看第二页| 日韩999| 色欲色欲久久宗合网| 欧美三级黄色片久久| 开心五月丁香综合久久| 色婷婷六月| 欧美激情五月天| yellow视频在线观看91| 亚洲精品又粗又大又爽A片| 第五婷婷伊人丁香| 性婷婷| 91久久电影| 免费看欧美成人A片无码| 日韩高清久久| 国产五月婷| 内射综合网| 久草x色在线观看99| 成人在线网| 久久免费婷婷视频| 亚洲综合婷婷| 日本色色网站| 青草热视频这里只有精品| 亚洲人妻AV| 久久精品日| 久久亚洲色导航| 大香线蕉伊人| 665566 无码| 婷婷五月激情的图片| 色婷婷丁香五月天在线观看| 夜精品无码A片一区二区蜜桃| 天天操天天曰天天射| 五月天婷婷色播在线网| 久久亚洲激情五码| 艹天天射| aaa日韩| 深爱激情五月天| 色色五月天网站| 99re鈥哸鈥唙| 亚洲日韩操B| 人妻狠狠操| 99re在线视频| 综合九九日本| 天天久久综合| www.夜夜| 91久久1118| 天天干天天干天天| 丁香五月激情五月色综合| 天天婷婷天天| 五月天国产| 99九九综合久久九九| 婷婷综合五月天亚洲综合| 精品欧美一区二区三区久久久| 九九综合久久| 色吧婷婷| 综合色吧| 五月综合婷婷五月| 思思干精品| 日韩六六久久电影| 777精品久无码人妻蜜桃| 婷婷亚洲色| 大香蕉伊人99| 99ri精品在线| 六月婷婷激情| 97久久超视频| 五月天综合婷婷| 8050一级网| 亚洲AAA| 少妇人妻人伦A片| 五月开心婷婷中文字幕| 六月丁香婷| 中文字幕在线免费| 91婷婷搞| 99欧州偷拍视频| www.99热在线观看| 182TV亚洲| 成人AV免费观看| www.精品99| 久久久性爱视频| 久青操| 激情99| 五月丁香激情婷婷| BT综合在线视频观看| 五月婷婷丁香啪啪| 99久久www| www.久久爱.com| 91九色中文字幕女在线观看| 五月天丁香综合久久国产| 五月天婷婷社区久久综合| 天天色天天操天天射| 海外网站专业操老外| www婷婷| 婷婷色在线播放| 亚州操操| 激情五月丁香五月| 亚洲色另类| 99热这只有| 精品夜夜澡人妻无码AV| 丁香婷五月| wuyuedingxiang| 99免费在线| 日韩精品一品二区三区的使用体验| 五月色综合| 99久在线观看| 久久婷婷色| 色播五月丁香婷婷| 1级欧美日韩| 亚洲色网络| 婷婷激情人妻| 120分钟婬片免费看| 九九精品在线视频观看| 五月激情啪啪| 五月天激情小说婷婷基地| 99re久热| 人人爱摸视频| 婷婷在线精品| 性爱久久| 久久视频在线| 国内一级精品| www.夜夜操.com| 26uuu欧美亚洲日韩| 91啦丨九色丨刺激中文| 欧美 日韩 成人| 色欲天天综合网| 国产精品人人做人人爽人人添| 俺去也在线www色官网| 任你干嘛免费视频播放| 色色吧综合| 婷婷五月免费观看| 婷婷综合干| 天天操无码| 开心五月婷婷六月丁香| 六月丁香开心婷婷欧美| www色五月| 天天草婷婷五月| 午夜九九九九九九| 97天堂| 婷婷五月天激情视频| 99在线一区| 一级黄色影片| 可以免费看的av网站| 日本黄色在线观看| 9久热| se影音资源在线观看| 在线99热| 九九九干精品| 99re视频在线播放| 亚洲综合色丁香五月天| 丁香五月婷久久| A A色色| 91人操| 国产伦亲子伦亲子视频观看| 无码色| site:esunnet.com| 超碰精品国产首页| 99色婷婷| 婷婷在线激情| 丁香五月瑟瑟| 99亚洲视频| 日本熟妇乱妇熟色A片蜜桃| 五月婷婷丁香五月| 久久性爱视频免费| 五月丁香综合成人社区| 久久精品99国产精品日本| 色丁香五月婷婷| 丁香六月视频| 午夜爱爱网站| 日本婷婷激情四射中文字幕在线观看| 婷婷五月天激情综合| 天天cha成人综合网| 激情久久久久久| 亚洲正能量欧美| 久久久这里有精品| 狠狠干在线| 日本五月婷婷久久久六月丁香| 草草影院爱爱| 91se精品国产| 精品久久久人妻| 深爱五月激情| 婷婷激情六月中文| 操B五月天| 久久五月天丁香花| 成人免费120分钟啪啪| A在线观看| 五月婷婷久草在线视频综合| 夜夜躁狠狠| 久久丁香五月| 久久无意婷婷| 国精产品一区一区三区免费视频| 久热九九| www色五月| 久热这里精品免费| 成人五月天综合网| 超碰不卡在线| 99热人人艹| 五月丁香啪啪| 久久久97| 婷婷六月色开| 九九久久综合网站| 欧洲亚洲免费视频区| 欧美97色| 激情五月色综合网| 天天视频精品9| 香蕉人妻AV久久久久天天| 久久视频这里有精品99| 成人av在线网址| 激情五月丁香五月| 五月丁香婷在线| 六月伊人婷婷| 人人玩人人橾| 久99| 97视频久久| 五月99久久| 五月天婷婷激情四射综合| www.91av.com| 噼里啪啦在线观看免费完整版视频| 色色丁香| 99久久婷| 五月丁香成人| 日本欧美成人片AAAA| 九九激情视频| 99视频这里有精品免费观看| 俺去也在线www色官网| 五月亭亭激情综合| 婷婷五月天无码熟女| 婷婷五月激情热播| 日日噜人人人做人| 91九九| 五夜婷婷| 婷婷九月丁香| 91九色视频| 日本一道久久| 天堂A∨在线| 91久久久久久久久18| 丁香五月婷婷啪| 久久婷婷伊人| 99ri在线视频| 久久久五月天| 久热无码| 欧美成人精品三区综合A片| 99熟女| 大学生高潮无套内谢视频| 五月丁香综合网| 九九综合| 国产无遮挡又黄又爽免费网站| 国产69久久久欧美黑人A片| 国产精品18久久久| 欧美性色A片免费免费观看的| 欧洲第一无人区观看| 国产全是老熟女太爽了| 精品成人无码A片观看香草视频| 777米奇影视第四色| 久久99热网| 亚洲久久天堂| 久久九九囯产| 国产免费av在线| 人人综合久| 日日噜狠狠| 亚洲中文丁香| 337p午夜影院| 亚洲 五月 婷婷 成人| 九九无码视屏| 狠狠干五月天| 日日干天天射| 可以免费观看的AV| 成 人片 黄 色 大 片| 人人色人人弄人人操| 久热精品9999| 99热丁香| 99ri视频| 欧美综合丁香网| 五月天俺去也| 97超碰在线免费观看| 开心五月婷婷在线| 国产无套精品一区二区| 超碰人人操| 99无码视频| 大香蕉啪啪啪| 九九九九热99超碰| 99久在线精品99re5热视频| 97干欧美| 久久精品国产色| 五月婷婷丁香狠狠撸久久| 九九热最新| 五月婷婷之综合激情| 少妇AB又爽又紧无码网站| 人妻有码乱操| 香蕉婷婷色五月| 色五月丁香五月五月婷婷| 天天擼久久擼在线| 久久丁香综合| 久久这里只有精品99| 丁香婷婷狠狠97| 婷婷伊人75| 五月丁香色婷婷婷基地| 色婷婷九月| 91操片| 国产精自产拍久久久久久蜜| 殴美97色| 欧美内射AA| 五月丁香婷中文字幕| 99亚洲视频| 99热这里是精品| 操b视频在线观看一区二区| 中文无码婷婷| 丁香五月激情六月综合| 免费视频无码| 五月婷婷激情| 少妇婷婷五月天| 五月天快乐开心激情网| 久久久久久性爱视频| 欧洲亚洲精品| 色婷婷久久7777| 国产伦理精品高清在线观看网站一区二区 | 97色婷婷五月天| 99色热视频| 色九月婷婷综合| 麻豆AV一区二区三区| 六月丁香色色色| 午夜青草资源| www.久久爱.com| 精品久久久91久久影视网| 国内久久亭亭| 就爱啪啪婷婷| 九色91视频| 亚洲欧美综合7777色亭亭| 久久婷婷五月天蜜桃| 99视频在线观看欧| 日韩在线视频网站| 五月天丁香久久综合| www.99久| se99视频| 成人做爰A片免费看视频| 日本3级片一区2区| 五月丁香伊人网| 日韩性视频| 亚洲视频另类| 亚洲久久视频| 亚洲99综合| 一级视频网址| 丁香色六月婷婷| 大香蕉中文| 日韩一级| 亚洲亚洲激情| 色婷婷操逼| 天色色综合网| 色综合色欲综合天天免费| 国产激情AV| 亚洲无码AV片| 六月婷婷狠狠做| 五月婷婷激情网| 色丁香五月婷婷| 激情婷婷99| 久久久婷丁香五月| 五月丁香六月婷婷网| 亚洲综合另类| 人人爽亚洲| 日本人妻伦在线中文字幕| 久99久视频| 五月丁香综合激情| 教师性爱毛片| 婷婷五月丁香基| 99视频在线精品| 久久99久久99精品免观看粉嫩| 婷婷丁香色无五月| 字幕网AV中文字幕| 色激情综合狠狠婷婷| 欧美精品999| 97se视频在线| 婷婷性爱五月天| 黄色av网站在线免费播放| 五月激激网w'w'w| 五月开心久久| www.99久| 天堂色婷婷| 性爱激情小说AV五月丁香花| 播五月丁香六月| 国产AV影片| 色婷婷深爱五月| 九九亚洲视频| 色色综合色视频| 97自拍视频在线| 九洲一级A片| 激情五月色婷婷| 538任你爽视频不一样的| 夜夜夜夜夜骑撸| 婷婷五月天丁香综合网| 九九热这里只有国产精品| 少妇被躁爽到高潮无码文| 丁香六月 婷婷六月| 婷婷五月天色播| 99操99| 久久九九色| 66精品国产成人| 日日天天干| 六月99天天婷婷激情综合| 丁香五月色| 九九色婷婷| 五月天综合婷婷| 美日韩成人| 思思久久99| 99在线精品视频观看免费下载| 久久大香蕉| 无码四色色色| 91日本在线观看| WWW.激情| 国产精品久久欧美久久一区| 天天草狠狠擦| 51精品国自产在线| 久久网思思| 操逼电影免费看| 这里只有免费精品| 1024你懂的欧美曰韩| 婷婷五月激情小说| 大香蕉中文| 少妇高潮一区二区三区99欧美| 超碰在线99| 99视频在线| 日日婷婷不卡| 亚洲精品一二三| 丁香五月五月婷婷五月天激情四射| 国产欧美大香蕉一区| 五月婷婷丁香婷婷| 七七九色| 九九视频在线观看| 十月丁香婷婷| 另类五月激情| 婷婷五月花西瓜| 激情久久 婷婷| 婷婷天堂综合| 丁香六月色婷婷欧美| 国产XXXX搡XXXXX搡麻豆| 天天摸天天高潮天天爽| 欧美一级毛卡片无码| 五月婷婷五月天在线 | 色综合大香蕉| 色狠狠五月天| 极品人妻VIDEOSSS人妻| 青草激情在线| 9久久精品视频| 色婷婷狠狠18禁| 免费日韩99| 婷婷久久色五月婷婷久久久| 六月合五月婷| 五月丁香色| 亚洲精品又粗又大又爽A片 | 五月天色色网站| 亚洲精品一区中文字幕乱码| 丁香六月视频免费观看| 五月丁香综合中文| 激情色色色| 五月丁香成人版| 久久一品区| 开心激情综合| 99爱免费视频在线观看| 色色色色色五月| 久色视频首页| 日本97在线看片| 久热 91| www.夜夜操.con| 日本色超碰| 欧美在线干| 色五月丁香激情| 婷婷黄色五月| 伊人在线视频| 色丁香婷婷| 97干在线视频| 久cao香蕉影院| 色玖玖综合网| 丁香久久五月天视频在线观看| 97人人看一| 丁香五月成人| 五月婷婷中文| 色婷婷丁香五月| 五月婷婷欲色| 丁香激情网| 亚洲激情四谢| 99人碰碰碰| 六月丁香婷婷在线波多| 97黑人精品区| 亚洲亚洲人成综合网络| 五月天国产| www.精品99| 久久免费丁香| 国产午夜精品一区二区三区四区| 可以免费观看的AV| 色久婷婷网| 97干综合网| 一级AV片| 欧美日朝成人| 天天色,天天日,天天做| 婷婷五月天国产精品| 在线免费观看激情视频| 九九热这里| 99色网站| 五月丁香六月婷婷综合网| 成人在线综合| 婷婷99综合| www久久99| 欧洲激情精品婷婷| 激情99。| 爆乳熟妇一区二区三区爆乳照片| 熟妇高潮一区av| 久久99网| 激情综合五月婷婷| 五月激情婷婷播播网| 成片免费播放| 丁香五月手机视频| 中文字幕日产A片在线看| 婷婷黄色| xxx.色婷婷| 99亚洲欧洲| 丁香六月开心| 久久激情五月网| 色欲AVV| 五月婷婷激情| 情色婷婷五月天| 另类综合婷婷五月天欧美视频| VA国产在线综合网站| 黄网免费观看| 五月丿香啪啪| 超碰成人黄色网| 五月天另类激情在线| 看全色黄大色大片| 午夜丁香五月天综合| www.五月激情.com| 丁香婷婷网| 九草性爱| YW无码| 99燥99日| 综合五月天| 99精品热| 久久五月综合| www.日本91| 久久这里有精品| 丁香九月婷婷色|