如果你維護過一個日活幾十萬的客服系統(tǒng)八成會遇到這種怪事業(yè)務邏輯明明很輕消息在系統(tǒng)里轉一圈卻要幾十毫秒流量稍微起來一點整個分發(fā)鏈路就像被什么東西卡住一樣。我們當時把代碼翻了好幾遍最后發(fā)現(xiàn)瓶頸根本不在那幾十萬條消息本身而在于“讓線程去等消息”的那一小段邏輯。這篇文章想聊的就是怎么用 SpinWait 這個自旋等待結構體在高頻消息分發(fā)路徑上把等待開銷壓下去把吞吐抬上來。注意我不會做那種“把全部鎖換成自旋鎖就完事”的粗暴方案。這類方案在低負載下可能有效流量一上來反而更容易爆。我要講的是客服系統(tǒng)高頻消息分發(fā)到底把時間耗在哪了SpinWait 為什么比 Sleep 輪詢更適合短等待怎么在真實分發(fā)器里落地以及哪些位置千萬別用自旋。整個過程會給出可復現(xiàn)代碼、壓測數(shù)據(jù)和我們踩過的坑。1. 客服系統(tǒng)為什么會在消息分發(fā)這一層卡脖子1.1 一條消息從訪客到坐席的完整鏈路一個典型的客服系統(tǒng)在線消息鏈路大致是這樣訪客在客戶端輸入一句話消息先到接入網(wǎng)關然后進入消息總線隨后由路由分發(fā)器決定這條消息應該進入哪個會話窗口再交給對應的會話處理器最終通過推送服務下發(fā)到坐席工作臺。整個鏈路上最容易出問題的位置不是網(wǎng)關也不是推送服務而是中間的路由分發(fā)器。原因是它要做的事情很雜解析會話 ID、查當前坐席在線狀態(tài)、更新會話綁定關系、決定消息進哪個發(fā)送隊列。每個操作單看都很快都是字典查找、計數(shù)增減、隊列進出而已。但問題是消息量特別大峰值時每秒幾萬條進來這些“很快”的操作就會累積成非?？捎^的耗時。我們當時壓測時發(fā)現(xiàn)一個現(xiàn)象在一次會話高峰期單條消息從進入到完成分發(fā)的平均耗時只有不到 2 毫秒但 P99 卻經(jīng)常沖到 80 毫秒以上。多出來的這部分時間到底去哪了用 profile 工具往下鉆發(fā)現(xiàn)它們幾乎全部集中在“等待”上——等鎖、等隊列有空間、等下一個事件信號。1.2 分發(fā)器真正的開銷不在業(yè)務代碼在線程等待很多人有個誤解覺得系統(tǒng)慢是因為業(yè)務邏輯太重。但客服分發(fā)場景里業(yè)務邏輯往往輕得可憐真正的開銷在線程的等待與切換上。這里有一個并不復雜但容易忽略的事實線程從運行態(tài)切換到阻塞態(tài)再被喚醒回到運行態(tài)這個上下文切換過程在現(xiàn)代操作系統(tǒng)里大約需要 0.5 到 20 微秒具體看硬件和負載。單次上下文切換看起來毫不起眼但消息分發(fā)是高頻率操作每次線程被阻塞又喚醒代價就會被放大十倍百倍。更糟的是大量線程同時阻塞會讓 CPU 的緩存幾乎全部失效。線程下次運行時要重新加載數(shù)據(jù)到高速緩存這個冷啟動成本有時比切換本身還高。我們曾經(jīng)統(tǒng)計過一個典型分發(fā)器的線程狀態(tài)分布在壓測的 10 分鐘里分發(fā)線程有將近 70% 的時間處于 Waiting/Suspend 狀態(tài)真正執(zhí)行代碼的時間不到 30%。也就是說十臺機器里七臺的計算能力都耗在了“等著被叫醒”上。這就是標題里說的“高頻消息分發(fā)性能問題”的核心來源——業(yè)務太重只是假象線程空等才是真兇。1.3 用 profile 數(shù)據(jù)證實把等待時間按來源拆開如果你遇到類似問題我建議先別急著優(yōu)化先做一件事用 perfview、dotnet-trace 或 Concurrency Visualizer 抓一張線程狀態(tài)圖把所有線程的等待原因分類統(tǒng)計。我們的做法是把等待來源拆成三類第一類是鎖等待比如 Monitor.Enter 或者 ConcurrentDictionary 在極端競爭下的內(nèi)部自旋。這類等待通常很短但頻率極高第二類是隊列等待消費者線程發(fā)現(xiàn)隊列為空進入事件等待第三類是 IO 等待比如寫日志、寫數(shù)據(jù)庫?？头职l(fā)場景下IO 等待占比一般不高前面兩類才是大頭。拆完之后結論就很清楚了如果隊列空轉的等待從“睡 1 毫秒再起來看”改成“短自旋輪詢”同時把鎖競爭最激烈的短臨界區(qū)換成自旋鎖剩余時間可以被壓縮到一個很可觀的量級。這就是 SpinWait 在整件事里的位置——它不是銀彈但它專門解決“短等待 高頻發(fā)生”這個組合。2. SpinWait 自旋等待結構體的工作原理從純自旋到內(nèi)核讓步的階梯2.1 SpinOnce 不是簡單死循環(huán)它按階段降級先糾正一個常見錯誤SpinWait 不等于while(true)死循環(huán)。裸自旋會一直占住 CPU 的一個核哪怕你等的事情其實要幾十毫秒后才發(fā)生它也不會主動退讓。而 SpinWait 內(nèi)部是一套階梯式降級策略核心方法就是SpinOnce()每一次調用會推進一個階段。大致的降級階梯是這樣的不同 .NET 版本的具體閾值略有差異但總體趨勢一致階段自旋次數(shù)大約行為效果第一階段0 到 10 次純用戶態(tài)自旋本質上是一系列 pause 指令幾納秒到幾十納秒不切換線程不進入內(nèi)核最快路徑第二階段10 到 20 次開始混入 Thread.Yield讓出當前線程給同優(yōu)先級線程降低對單個核的霸占同時延遲仍在微秒級第三階段20 次以后切換到 Thread.Sleep(0) 或者 Thread.Sleep(1)進入內(nèi)核態(tài)等待不再燒 CPU但喚醒延遲會變成毫秒級這套設計的精妙之處在于它能根據(jù)“你已經(jīng)等了多久”自動調整策略。如果條件在極短時間內(nèi)滿足前幾個階段就命中了整個過程沒有一次線程切換效率極高。如果條件遲遲不滿足它也不會死磕到底而是慢慢退讓最終變成普通睡眠避免把 CPU 吃死。我在項目中強烈建議使用這個結構體而不是自己寫while (true) { if (flag) break; }還有一個隱藏原因裸自旋循環(huán)在 .NET 內(nèi)存模型下可能讀到過期的緩存值。SpinWait 在迭代過程中會提供內(nèi)存柵欄語義讓跨線程寫入的值在合適時機對當前線程可見。這屬于那種“不讀源碼永遠不知道為什么”的坑。2.2 為什么必須用結構體而不是類標題里特意強調“結構體”這絕對不是炫技。SpinWait 在 System.Threading 命名空間下定義是public struct SpinWait。它被設計成結構體有三個直接原因。第一結構體是值類型局部變量直接分配在線程棧上或者被 JIT 優(yōu)化到寄存器里。高頻分發(fā)循環(huán)里如果自旋等待對象是類每一次new都會產(chǎn)生堆分配最終給 GC 制造壓力。你是來降延遲的結果反而增加了 GC 暫停這不是自找麻煩嗎第二結構體對 JIT 更友好非虛方法調用更容易被內(nèi)聯(lián)。SpinOnce 本身是一個很短的操作內(nèi)聯(lián)之后可能只有幾條機器指令這正好符合高頻短等待場景的需求。如果是類哪怕不是虛方法也可能因為間接引用而無法被充分優(yōu)化。第三值語義意味著拷貝成本可以忽略不計你可以把它放在局部變量里用完即棄。這個特性在后面的“等待狀態(tài)重置”中特別重要很多人不知道SpinWait沒有公開的 Reset 方法真正用的重置方式就是重新賦值一個結構體實例這個操作極便宜完全不會拖累性能。2.3 SpinWait、SpinLock、Monitor、事件信號之間的邊界很多人分不清 SpinWait、SpinLock、Monitor、ManualResetEventSlim 到底該用哪個。我自己的選擇規(guī)則是這樣的如果等待時間預期極短可能在幾微秒到幾十微秒內(nèi)結束用 SpinWait 做條件等待。比如消費者發(fā)現(xiàn)隊列暫時為空但生產(chǎn)者馬上就會投遞消息這種“我知道它快來了”的場景SpinWait 幾乎是最優(yōu)解。如果是一個臨界區(qū)本身很短的鎖比如只是往字典里寫一個鍵值對用 SpinLock。它不是用來“等待條件”的而是用來保護共享數(shù)據(jù)的只是它的互斥機制基于自旋。如果臨界區(qū)可能有操作會阻塞比如調用 IO、觸發(fā)事件、調用其他未知代碼老老實實用 Monitor 或鎖對象。SpinLock 在臨界區(qū)里一旦阻塞所有持鎖等待的線程都會瘋狂空轉效果比死鎖還可怕。如果等待時間可能很長比如會話被關閉、推送通道斷開、后臺任務要等一個低頻事件不要用自旋用自動重置事件或信號量。長等待用自旋等于拿一個核熬夜值班成本完全不成比例。用一句話概括SpinWait 解決的是“資源暫不可用但馬上就會可用”的等待SpinLock 解決的是“臨界區(qū)極短不值得進內(nèi)核”的互斥事件信號解決的是“時間未知可能很久”的等待。三者場景不同可以組合不能互相替代。2.4 高頻輪詢的真正敵人緩存行與偽共享這個點我在標題里沒提但它才是“高頻”兩個字背后最隱蔽的殺手?，F(xiàn)代 CPU 每個核都有自己的 L1/L2 緩存緩存一致性協(xié)議保證不同核看到同一塊內(nèi)存的最終值一致。但一致性是有代價的當一個核修改某個內(nèi)存地址所在的緩存行其他持有同一緩存行副本的核必須作廢并重新拉取。問題來了如果你有兩個變量_head和_tail在內(nèi)存中恰好位于同一個 64 字節(jié)緩存行內(nèi)一個線程只寫_head另一個線程只寫_tail從邏輯上它們井水不犯河水。但在物理上每次任意一方寫入都會讓對方核上的緩存行失效。兩邊高頻寫入的結果就是一次邏輯寫入變成了兩次跨核緩存同步速度可能直接腰斬。這就是著名的偽共享。在 SPSC 環(huán)形隊列里_head和_tail恰恰最容易相鄰分配因此高頻分發(fā)時幾乎必踩。解決辦法也很直白在_head和_tail之間或者在每個變量兩側填充足夠的空閑字節(jié)讓它們落在不同的緩存行里。下文會有具體代碼。這里我想強調的是如果只改 SpinWait 而忽略偽共享你看到的性能提升會很有限只有把這兩個結合起來效果才稱得上顯著。3. 在消息分發(fā)器里落地三種可行的 SpinWait 用法3.1 用法一消費者空轉循環(huán)關鍵在重置自旋階梯最常見的落地場景是消費者循環(huán)不斷嘗試從隊列里取消息取不到就 SpinWait 一會兒再試。很多人一開始會寫成這樣private readonly ConcurrentQueueInboundMessage _queue new(); private volatile bool _running true; public void ProcessLoop() { var spin new SpinWait(); while (_running) { if (_queue.TryDequeue(out var msg)) { DispatchCore(msg); } else { spin.SpinOnce(); } } }這個寫法有個隱蔽問題spin是一個外部創(chuàng)建的實例消息來的時候你確實處理了但spin的計數(shù)已經(jīng)是幾十甚至幾百。下一輪隊列空了再調用SpinOnce()會直接跳到較后的降級階段甚至直接進入 Sleep(1)延遲瞬間變成毫秒級。正確姿勢是在成功取到消息后重置自旋狀態(tài)private readonly ConcurrentQueueInboundMessage _queue new(); private volatile bool _running true; public void ProcessLoop() { while (_running) { var spin new SpinWait(); while (_running) { if (_queue.TryDequeue(out var msg)) { DispatchCore(msg); // 關鍵重置自旋階梯不要讓計數(shù)累積到降級階段 spin new SpinWait(); continue; } spin.SpinOnce(); } } }SpinWait沒有公開的 Reset 方法想讓它重新從純自旋階段開始最自然的做法就是重新賦值一個新的結構體實例。由于結構體分配在棧上這個操作開銷極低完全不需要擔心性能。我在實際項目里就是用這個模式替換了一組事件信號量等待P99 延遲肉眼可見地降了下來。3.2 用法二SPSC 環(huán)形緩沖 緩存行隔離的尾部輪詢客服系統(tǒng)里很多場景是“單一會話對應單一隊列”典型的多讀單寫甚至單讀單寫。這種場景用無鎖的 SPSC 環(huán)形緩沖非常合適然后用 SpinWait 讓消費者等待生產(chǎn)者推進尾部索引。先看一個不帶任何優(yōu)化、最樸素的結構public sealed class RingBufferT where T : class { private const int Capacity 1024; private static readonly int Mask Capacity - 1; private readonly T?[] _slots new T?[Capacity]; private long _head; private long _tail; // 生產(chǎn)者在尾部寫入并推進 public void TryEnqueue(T item) { // ... 省略 CAS 邏輯 _slots[_tail Mask] item; Interlocked.Increment(ref _tail); } // 消費端輪詢等待新數(shù)據(jù) public T? WaitForNext() { var spin new SpinWait(); while (true) { long currentTail Interlocked.Read(ref _tail); long currentHead Interlocked.Read(ref _head); if (currentTail ! currentHead) { var item Volatile.Read(ref _slots[currentHead Mask]); Interlocked.Increment(ref _head); return item; } spin.SpinOnce(); } } }這個版本能跑但偽共享隱患很大_head和_tail極可能落在同一個緩存行里。生產(chǎn)者和消費者在兩個核上高頻交錯推進每次推進都會觸發(fā)跨核緩存失效。更好的做法是把它們隔離到至少 64 字節(jié)的獨立緩存行[StructLayout(LayoutKind.Explicit, Size 64)] private struct PaddedCounter { [FieldOffset(0)] public long Value; } private PaddedCounter _head; private PaddedCounter _tail;這樣_head獨占一條緩存行_tail獨占一條緩存行生產(chǎn)者寫_tail不會讓消費者核上的_head緩存行失效。這個細節(jié)一分錢不花但對高頻分發(fā)性能的影響可能是倍數(shù)級的。后面壓測數(shù)據(jù)會有體現(xiàn)。3.3 用法三用 SpinLock 保護“短到極致”的分發(fā)狀態(tài)表第三種用法是保護高頻更新的短臨界區(qū)?？头职l(fā)器里面通常有一張在線狀態(tài)表坐席上線、離線、置忙、置閑都要更新。在 Monitor 鎖場景下每一次進入和退出鎖都會涉及到內(nèi)核同步原語的一部分開銷頻率一高就成了明顯的熱路徑。我用的模式是這樣private readonly SpinLock _sessionLock; private readonly Dictionarylong, SessionState _sessions new(); public void UpdateSession(long sessionId, SessionState state) { bool lockTaken false; try { _sessionLock.Enter(ref lockTaken); _sessions[sessionId] state; } finally { if (lockTaken) { _sessionLock.Exit(); } } }這里要特別提醒SpinLock 臨界區(qū)必須是極短且不帶任何阻塞操作的。我們的名字規(guī)范就直接不說話臨界區(qū)里只允許“讀一個字段、寫一個字段、做一次不超過十次的循環(huán)”。一旦你往里塞了 IO、事件等待、甚至只是 print 日志整個系統(tǒng)會被拖垮。另一個硬性要求是必須在 finally 中釋放鎖因為 SpinLock 沒有自動釋放的保護機制臨界區(qū)里拋異常會導致鎖永遠不被釋放。3.4 三種用法的選擇條件與組合方式這三種模式不是三選一而經(jīng)常是組合使用的。我們的客服分發(fā)器里外層用 ConcurrentQueue SpinWait 做通用分發(fā)核心會話隊列改成 SPSC RingBuffer SpinWait 緩存行隔離在線狀態(tài)表則交給 SpinLock 保護。它們的適用條件大致如下模式適用前提退出條件ConcurrentQueue SpinWait多生產(chǎn)者多消費者消息量中等等待極短隊列非空或停止信號SPSC RingBuffer SpinWait單一消費者、單一生產(chǎn)者消息量極大尾部索引變化或停止信號SpinLock臨界區(qū)極短無任何阻塞操作確保 finally 釋放有一個原則我反復強調無鎖隊列只是“沒有內(nèi)核鎖”不等于“什么都不等”。只要消費者跑得比生產(chǎn)者快就一定有空轉等待的時候。這時 SpinWait 的價值立刻體現(xiàn)出來——它把“睡一覺等通知”變成“睜著眼等兩三微秒”換來的延遲壓縮非常明顯。4. 壓測數(shù)據(jù)與調優(yōu)吞吐、P99、CPU 的真實取舍4.1 我們怎么測的環(huán)境、場景和對照組講完代碼聊聊實測。測試環(huán)境是一臺 8 核 16 線程的物理機32GB 內(nèi)存Release 發(fā)布沒有掛調試器。模擬場景是客服網(wǎng)關隨機產(chǎn)生 1KB 左右的 JSON 消息進入 8 個分發(fā)線程再投遞到 256 個會話窗口。壓測持續(xù) 10 分鐘記錄吞吐量、P99 延遲和 CPU 占用率。我們做了三組對照第一組是原始實現(xiàn)用 ConcurrentQueue 加事件信號量等待也就是隊列為空時WaitOne(1)第二組只是把等待換成 SpinWait第三組進一步把通用隊列改成 SPSC RingBuffer并做了緩存行隔離。注意這里的限制條件是單臺機器的數(shù)據(jù)只能當量級參考不要對著 GPU 或者專用硬件照搬結論。壓測結果出來后整體趨勢符合預期但兩個數(shù)字讓我印象很深P99 的變化比吞吐更夸張以及 CPU 變化并不像想象中那樣可怕。4.2 各組別的實測結果對比方案吞吐msg/sP99msCPU 占用率ConcurrentQueue Event 等待82003822%ConcurrentQueue SpinWait316004.748%SPSC RingBuffer SpinWait Padding524001.261%第一組是“等得起”的典型CPU 占用不高但吞吐上限很低P99 高達 38 毫秒。主要原因是大量線程阻塞在事件等待上生產(chǎn)消費節(jié)奏一旦出現(xiàn)抖動喚醒延遲立刻暴露在尾延遲里。第二組換成 SpinWait 之后吞吐翻了接近四倍P99 掉了將近 90%。這個提升幾乎全部來自“取消上下文切換”。自旋等待期間線程始終處于運行態(tài)雖然占著核但省下了進入內(nèi)核再回來的成本。CPU 從 22% 漲到 48%屬于用 CPU 換時延的典型交易。第三組把隊列換成 SPSC 并加上緩存行隔離吞吐繼續(xù)提高P99 壓到 1.2 毫秒。這里最值的部分是緩存行隔離它讓生產(chǎn)者和消費者在不同核上運行時的緩存失效率大幅下降高頻率的 head/tail 推進終于不再互相拖后腿。4.3 參數(shù)怎么調自旋階段上限、批處理、核綁定如果你準備在自己的項目里復現(xiàn)這套方案有幾個調參點值得先摸清楚。第一個是自旋階段上限。SpinWait 的SpinOnce(int sleep1Threshold)重載允許你指定從哪個階段開始進入 Thread.Sleep(1)。比如spin.SpinOnce(20)表示前 20 次走自旋和 Yield之后才開始睡眠。這個閾值要根據(jù)消息間隔來調如果生產(chǎn)者通常幾百微秒內(nèi)就會投遞閾值可以調高如果突刺性強間隔不穩(wěn)定建議把閾值調低一些避免線程長時間干燒。第二個是批處理。很多隊列消費者一次只取一條消息這在低吞吐下無所謂但高頻分發(fā)時“進入循環(huán)—取一條—再進入循環(huán)”的循環(huán)是額外成本。我們后來改成每次取出一個批量比如一次取 32 條把分發(fā)核心邏輯放進內(nèi)層循環(huán)空轉檢查放外層。同樣的自旋次數(shù)下有效工作時間占比高了很多。第三個是核綁定和線程優(yōu)先級。CPU 親和性對自旋場景影響很大因為自旋依賴緩存熱度和核間同步。條件允許時可以把生產(chǎn)者和消費者綁到不同的物理核上并且避免它們頻繁遷移線程。注意這里不是讓你盲目綁定所有線程而是針對最核心的那兩組——SPSC 生產(chǎn)者和消費者——做綁定。我們壓測中把兩個關鍵線程固定到不同核后P99 又降了大概 0.3 毫秒。4.4 一次典型的失效案例偽共享讓自旋變“空轉”第三組方案剛跑通的時候表現(xiàn)并沒有上面表格里那么好吞吐一直在 22k 左右徘徊CPU 已經(jīng)去了 55%但延遲就是不降。當時還以為是 SpinWait 的自旋階段設置有問題后來用性能分析工具看了緩存失效率才發(fā)現(xiàn)問題出在偽共享上。當時的 RingBuffer 定義里_head和_tail是非常普通的兩個 long 字段緊挨著。生產(chǎn)者在核 0 高頻寫_tail消費者在核 1 高頻讀_head和_tail。每當生產(chǎn)者推進_tail核 1 上包含_head的緩存行也可能失效導致消費者下一次讀取_head時要重新從內(nèi)存拉取。一次跨核同步不算什么每秒幾萬次就是災難。加了 Padding 并讓_head和_tail各自單獨占滿一個緩存行之后直接飆到 52k。如果你也遇到“自旋明明改了性能卻不提升”的情況第一反應不要繼續(xù)調 SpinWait 參數(shù)先去查你的共享變量有沒有偽共享。用一句話說自旋只是讓你不睡但緩存一致性才會決定你醒來后腦子清不清楚。5. 自旋等待的邊界踩過的坑與兜底降級方案5.1 CPU 會說話自旋不是免費的要設降級閾值SpinWait 最大的代價就是 CPU。自旋期間線程沒有進入睡眠它頂著一個核的空轉指令。如果一個消費者線程每秒鐘自旋幾十萬次哪怕有降級階梯它還是會吃掉可觀的計算資源。我們在另一個項目里一臺宿主機上容器部署了幾個客服實例每個實例啟了 8 個消費者線程。這 8 個線程消息高峰時都在自旋結果把宿主機整體 CPU 打滿其他業(yè)務的請求也跟著抖。后面加的兜底策略是如果 SpinWait 已經(jīng)降級到NextSpinWillYield true說明當前等待已經(jīng)超過自旋預算立即重置并轉成事件等待一小段時間。這樣可以在“隊列一直空”的場景下把 CPU 讓出來。var spin new SpinWait(); while (_running) { if (_queue.TryDequeue(out var msg)) { DispatchCore(msg); spin new SpinWait(); continue; } if (spin.NextSpinWillYield) { // 自旋預算耗盡轉短事件等待釋放 CPU spin new SpinWait(); _signal.WaitOne(1); continue; } spin.SpinOnce(); }這里的關鍵判斷是NextSpinWillYield。它為 true 時說明下一次調用 SpinOnce 會讓出 CPU剛剛好是切換到低功耗等待的時機。這個模式我后面統(tǒng)一叫“短自旋 長事件等待”的混合兜底實測非常穩(wěn)。5.2 與線程池/異步鏈路混用時容易線程饑餓第二個坑必須單獨說自旋等待會長期占用線程池線程?？头到y(tǒng)的網(wǎng)關接入層通常是異步模型大量會話處理會放到線程池或者 Task 里執(zhí)行。如果你在異步任務里加一個 SpinWait 循環(huán)這個線程池線程就一直在“忙等”既不能處理其他請求又制造額外的線程池饑餓風險。最典型的事故是一個開發(fā)者把上百個會話 Worker 全部用 SpinWait 空轉等待隊列數(shù)據(jù)線程池線程被大量自旋線程占住后續(xù)新請求根本沒有可用線程消息延遲瞬間暴漲。當時看起來像死鎖其實是線程池被自旋耗干。我的建議是經(jīng)常長時間空轉的消費者一定要放長駐線程并且用專用線程池不要混在通用線程池里?；蛘吒苯右稽c把“長時間空轉”單獨拎出來走事件等待只在判斷條件即將滿足的短窗口內(nèi)進入自旋。5.3 自旋條件必須能被可靠終止自旋最忌諱的寫法是條件永遠不能變成 false那線程會一直燒 CPU 直到進程退出。注意這里說的“條件”不只是“隊列有沒有消息”還包括“系統(tǒng)是否正在關閉”。我們所有網(wǎng)上線流程里消費者循環(huán)都必須檢查一個停止信號。如果是.NET環(huán)境可以用CancellationToken。每輪檢查一次 cancel代價極低var spin new SpinWait(); while (!token.IsCancellationRequested) { if (_queue.TryDequeue(out var msg)) { DispatchCore(msg); spin new SpinWait(); continue; } spin.SpinOnce(); }另一個容易忽略的點自旋中的線程在收到關閉信號后要盡可能快地退出不能讓線程池長時間等待。如果你在關停階段發(fā)現(xiàn)系統(tǒng)要等好幾秒才能結束多半是有自旋循環(huán)沒有及時檢查退出條件。給循環(huán)綁上停止信號之后關停時間通常能壓縮到百毫秒級。5.4 “短自旋 長事件等待”的混合兜底策略綜合前面的坑我們在最終版本里并沒有“一條路走到黑”而是做了一套策略選擇。規(guī)則的實質很簡單給每次條件等待設定一個自旋預算預算用完就切換到事件等待事件被觸發(fā)后再重新進入短輪詢。這么做的好處非常明顯。消息連續(xù)到達時大部分等待用自旋命中延遲低消息稀稀拉拉時CPU 不會因為空自旋而燒掉等的時間越久越省資源。它本質上是在“低延遲”和“低占用”之間按需切換而不是賭一邊。落實到代碼核心就是判斷NextSpinWillYield和重置 SpinWait這一點我在 5.1 已經(jīng)給出。如果你現(xiàn)在正維護一個客服系統(tǒng)或者任何類似的高頻消息分發(fā)模塊我強烈建議先把你每個“等隊列”的地方找出來逐一標注清楚等待預期時間再決定哪些用純自旋、哪些用混合兜底。不要全盤自旋也不要因為怕 CPU 飆升而回到 Sleep 輪詢那是把自己重新扔回上下文切換的坑里。我們最后線上保留的結構是面向一般業(yè)務隊列用混合兜底策略面向核心會話分發(fā)用 SPSC SpinWait 緩存行隔離面向在線狀態(tài)熱表用 SpinLock。這套組合在穩(wěn)定運行很長時間后吞吐和延遲表現(xiàn)都遠遠好于最初的事件信號量方案。我自己印象最深的是把第一條隊列從事件等待換成 SpinWait 的那個晚上——本來 P99 在 40ms 附近跳動改完后直接壓到 5ms 以內(nèi)整個群都安靜了。但我也要坦白地說如果當時沒有 profile 數(shù)據(jù)證明等待占比 70%沒有人會相信一個結構體能帶來這樣的提升。所以如果你正打算動這一塊第一步永遠是先量一量你的等待時間到底有多長再把 SpinWait 放進去。