這次我們不看新框架而是回到一個(gè)很“硬”的問題如果把人的大腦看作一臺(tái)計(jì)算機(jī)它的算力上限到底是多少很多人第一時(shí)間會(huì)想到神經(jīng)元數(shù)量、突觸連接規(guī)模但 Ralph Merkle 在 1989 年給出了一條更物理的思考路徑——用能量消耗來限制大腦的計(jì)算能力。這篇論文的標(biāo)題就叫Energy Limits to the Computational Power of the Human Brain作者正是提出 Merkle 樹、參與公鑰密碼學(xué)奠基的 Ralph Merkle。這可能是你第一次意識(shí)到計(jì)算不僅受晶體管數(shù)量和算法約束還受熱力學(xué)約束。一臺(tái)計(jì)算機(jī)要完成信息處理就必須付出最小能量代價(jià)。大腦只有 20 瓦左右的功耗卻要維持千億級(jí)神經(jīng)元的協(xié)同工作。那么這 20 瓦到底能換來多少次基本運(yùn)算遠(yuǎn)高于現(xiàn)在的超算還是低到令人失望本文會(huì)拆解這篇論文的核心思想然后用 Python 實(shí)際估算“大腦算力上限”最后討論它對(duì)今天 AI、芯片設(shè)計(jì)、神經(jīng)形態(tài)計(jì)算的啟示。如果你關(guān)心計(jì)算極限、能效比、物理信息論或者好奇“大腦和 GPU 到底誰(shuí)更高效”這篇文章可以直接收藏。1. 核心能力速覽這篇論文在講什么先給一個(gè)快速信息表讓你在繼續(xù)往下讀之前就能判斷這篇文章是否值得看。項(xiàng)目?jī)?nèi)容論文標(biāo)題Energy Limits to the Computational Power of the Human Brain作者Ralph Merkle發(fā)表時(shí)間1989研究問題人腦作為物理系統(tǒng)其計(jì)算能力受能量限制的上限是多少理論基礎(chǔ)熱力學(xué)、信息論、Landauer 原理關(guān)鍵對(duì)象大腦功耗、神經(jīng)元計(jì)算、每比特操作最小能量核心思路用功耗除以每次基本操作的最小能量估算每秒最大操作數(shù)典型數(shù)值室溫下 kT ln2 ≈ 2.87×10?21 J大腦功耗約 20 W這是通用物理常數(shù)和常識(shí)估算對(duì)今天的啟示能效比、物理極限、神經(jīng)形態(tài)計(jì)算、AI 算力評(píng)估適合讀者計(jì)算理論、計(jì)算機(jī)體系結(jié)構(gòu)、AI、神經(jīng)科學(xué)、物理信息學(xué)方向的開發(fā)者與研究者可以明確說這并不是一篇教你部署什么工具的教程而是一篇“計(jì)算哲學(xué) 物理信息論”的經(jīng)典文獻(xiàn)。但它對(duì)現(xiàn)代計(jì)算技術(shù)的啟發(fā)非常直接所有計(jì)算設(shè)備包括 GPU、NPU、類腦芯片物理上都要為每一步信息操作消耗能量。理解這個(gè)極限再回看綠色計(jì)算、低功耗 AI、邊緣推理感受會(huì)完全不同。2. 適用場(chǎng)景與使用邊界這篇論文適合誰(shuí)正在做低功耗 AI 推理、端側(cè)模型部署的人能從物理層面理解為什么不能無(wú)限堆算力。關(guān)注類腦計(jì)算、神經(jīng)形態(tài)芯片的人能看到“大腦不是數(shù)字計(jì)算機(jī)”這一觀點(diǎn)的最早系統(tǒng)化表達(dá)之一。做算法復(fù)雜度和性能優(yōu)化的人能學(xué)會(huì)用一種“能耗預(yù)算”視角評(píng)估算法是否劃算。對(duì)科學(xué)史、計(jì)算理論感興趣的讀者能看到 1989 年的科學(xué)家如何用熱力學(xué)來框定生物計(jì)算的上限。它不適合誰(shuí)想找現(xiàn)成 Python 庫(kù)或部署包的人這篇論文不提供代碼。想獲得大腦具象計(jì)算精度報(bào)告的人論文不會(huì)告訴你大腦是否“等效于多少 PFLOPs”。喜歡明確結(jié)論多于思想框架的人可能會(huì)覺得論文更像一個(gè)思維實(shí)驗(yàn)。使用邊界方面要提醒三件事論文中的計(jì)算是高度理想化的模型不能直接等同于真實(shí)神經(jīng)元的信息處理效率。大腦是模擬、化學(xué)、多模態(tài)并行的系統(tǒng)用數(shù)字計(jì)算機(jī)的“比特操作”框架去套會(huì)丟失大量生物學(xué)細(xì)節(jié)。任何關(guān)于“大腦算力”的估算都應(yīng)該被理解為一種物理上界而不是實(shí)際算力。實(shí)際算力要低很多。3. 熱力學(xué)極限為什么能限制計(jì)算要理解這篇論文先要理解 Landauer 原理在常溫常壓下計(jì)算機(jī)擦除一位信息至少需要消耗 (k_B T \ln 2) 的能量。這里的 (k_B) 是玻爾茲曼常數(shù)(T) 是絕對(duì)溫度。這個(gè)原理說明信息不是抽象的它一定要有物理載體而物理載體就不能擺脫熱力學(xué)約束。Landauer 原理最重要的推論是如果一臺(tái)計(jì)算機(jī)只做可逆運(yùn)算理論上可以無(wú)限接近零能耗但只要涉及不可逆操作比如丟棄信息、重置寄存器、分支跳轉(zhuǎn)產(chǎn)生的狀態(tài)清理就必須消耗最少能量?，F(xiàn)代 CPU 和 GPU 之所以功耗巨大正是因?yàn)樗鼈兇罅繄?zhí)行不可逆邏輯運(yùn)算而且每個(gè)晶體管開關(guān)都在不可逆地耗散熱量。在上世紀(jì) 80 年代計(jì)算機(jī)界剛開始意識(shí)到能耗墻問題。Merkle 的貢獻(xiàn)在于把這個(gè)原理平移到了生物系統(tǒng)。神經(jīng)元傳遞信號(hào)、突觸釋放神經(jīng)遞質(zhì)、離子通道打開關(guān)閉都是物理過程。如果大腦進(jìn)行計(jì)算那么它的總功耗就決定了它在給定時(shí)間內(nèi)最多能完成多少次“類信息操作”。用公式表示就是[ \text{每秒最大操作數(shù)} \le \frac{\text{功耗}}{\text{每次操作最小能量}} ]這個(gè)式子看起來簡(jiǎn)單卻非常有力。它把神經(jīng)科學(xué)和熱力學(xué)連在了一起讓我們可以不用搞清所有神經(jīng)元細(xì)節(jié)先給出一個(gè)物理上絕對(duì)無(wú)法突破的區(qū)域。4. 把人腦看作一臺(tái)熱力學(xué)計(jì)算機(jī)大腦是一個(gè)功耗極低但規(guī)模極大的系統(tǒng)。人體休息時(shí)大腦功耗大約為 20 瓦只占全身能耗的 20% 左右。但這個(gè) 20 瓦里塞進(jìn)了約 860 億個(gè)神經(jīng)元每個(gè)神經(jīng)元平均約一千到一萬(wàn)個(gè)突觸連接。如果完全按照數(shù)字電路模型理解這是一個(gè)龐大到難以想象的狀態(tài)空間。從熱力學(xué)角度看問題我們要問的不是“大腦有多少參數(shù)”而是“20 瓦能在每秒內(nèi)支撐多少次基礎(chǔ)狀態(tài)改變”。按室溫 300K 下的 Landauer 極限每個(gè)比特操作的最小能量約是 (2.87 \times 10^{-21} J)。用 20 瓦直接去除可以得到一個(gè)數(shù)量級(jí)為 (10^{21}) 次每秒的比特操作上限。這個(gè)數(shù)字遠(yuǎn)遠(yuǎn)超過地球上任何一臺(tái)超級(jí)計(jì)算機(jī)的每秒浮點(diǎn)運(yùn)算量。但這里有個(gè)關(guān)鍵點(diǎn)這個(gè) (10^{21}) 是理論上限不是大腦實(shí)際表現(xiàn)。真實(shí)神經(jīng)元單次動(dòng)作電位消耗的能量比 Landauer 極限高出多個(gè)數(shù)量級(jí)。一個(gè)神經(jīng)元發(fā)放一次動(dòng)作電位涉及的離子泵消耗大約在 (10^{-15}) J 級(jí)別。如果按這個(gè)實(shí)際能耗反推860 億個(gè)神經(jīng)元平均每秒總共能完成的動(dòng)作電位次數(shù)就在 (10^{14}) 到 (10^{16}) 次量級(jí)。這樣看大腦的“實(shí)際計(jì)算速度”遠(yuǎn)低于物理極限中間有巨大的優(yōu)化空間。Merkle 論文的價(jià)值就在于指出這個(gè)“巨大的差距”。它說明大腦并沒有被能量極限逼到墻角相反它是在耗能冗余的情況下運(yùn)行的。真正限制大腦能力的可能是連接結(jié)構(gòu)、分子擴(kuò)散噪聲、信息編碼方式和發(fā)育機(jī)制而不是簡(jiǎn)單的功耗上限。5. 用 Python 估算大腦的理論算力上限這一節(jié)我們直接用 Python 做數(shù)量級(jí)估算。首先從熱力學(xué)極限開始然后逐步加進(jìn)更實(shí)際的神經(jīng)元能耗假設(shè)最后再和現(xiàn)代 GPU 的能效做對(duì)比。5.1 按 Landauer 極限估算import math # 玻爾茲曼常數(shù) J/K k_B 1.380649e-23 # 室溫 300K 或體溫 310K T_room 300 T_body 310 # Landauer 極限每比特最低能耗 J e_room k_B * T_room * math.log(2) e_body k_B * T_body * math.log(2) # 大腦功耗 power_brain 20 # 瓦 max_ops_room power_brain / e_room max_ops_body power_brain / e_body print(f室溫 300K 下每比特最小能耗: {e_room:.3e} J) print(f體溫 310K 下每比特最小能耗: {e_body:.3e} J) print(f20W 功率按 Landauer 極限每秒最多操作 ({T_room}K): {max_ops_room:.3e}) print(f20W 功率按 Landauer 極限每秒最多操作 ({T_body}K): {max_ops_body:.3e})這段代碼的輸出會(huì)告訴你大腦的理論比特操作上限在 (10^{21}) 量級(jí)。這里沒有編造任何論文數(shù)據(jù)就是直接用物理常數(shù)和功耗常識(shí)算出來的數(shù)量級(jí)。5.2 按神經(jīng)元?jiǎng)幼麟娢荒芎墓浪悻F(xiàn)實(shí)中神經(jīng)元遠(yuǎn)遠(yuǎn)達(dá)不到 Landauer 極限所以我們?cè)僮鲆粋€(gè)更保守的估算。單次動(dòng)作電位耗能大約在 (10^{-16}) 到 (10^{-14}) J 之間我們?nèi)∫粋€(gè)中間值。# 單次動(dòng)作電位能耗單位 J spike_energy_min 1e-16 spike_energy_mid 1e-15 spike_energy_max 1e-14 power_brain 20 # 瓦 ops_min power_brain / spike_energy_max # 能耗高次數(shù)少 ops_mid power_brain / spike_energy_mid ops_max power_brain / spike_energy_min # 能耗低次數(shù)多 print(f若每次動(dòng)作電位耗能 1e-14 J每秒最多: {ops_min:.3e} 次) print(f若每次動(dòng)作電位耗能 1e-15 J每秒最多: {ops_mid:.3e} 次) print(f若每次動(dòng)作電位耗能 1e-16 J每秒最多: {ops_max:.3e} 次)這個(gè)結(jié)果通常在 (10^{15}) 到 (10^{18}) 次每秒之間。也就是說真實(shí)神經(jīng)元庫(kù)的效率比熱力學(xué)極限低了一百到十萬(wàn)倍。這個(gè)差距解釋了為什么大腦能耗雖低但仍不能直接等效為一個(gè)“完美熱力學(xué)計(jì)算機(jī)”。5.3 與 GPU 能效對(duì)比現(xiàn)代 GPU 在深度學(xué)習(xí)推理時(shí)的能效大約在每瓦每秒 (10^{12}) 到 (10^{14}) 次浮點(diǎn)運(yùn)算之間。注意浮點(diǎn)運(yùn)算和“比特操作”不是一回事但我們可以做一個(gè)粗粒度感受。# 假設(shè) GPU 功耗 300W算力 50 TFLOPS gpu_power 300 gpu_flops 50e12 # 50 TFLOPS 作為示例 gpu_eff gpu_flops / gpu_power print(f示例 GPU 能效: {gpu_eff:.2e} FLOPS/W) # 假設(shè)大腦每個(gè)動(dòng)作電位對(duì)應(yīng)一次非線性運(yùn)算 brain_ops 20 / 1e-15 brain_eff brain_ops / 20 # 每瓦每秒操作數(shù) print(f按 1e-15 J 每次操作估算每瓦每秒操作數(shù): {brain_eff:.2e})雖然這里量綱不完全一致但至少能看出大腦每瓦能完成的“類事件處理”數(shù)量遠(yuǎn)超傳統(tǒng) GPU。這也是神經(jīng)形態(tài)芯片想追趕的目標(biāo)。6. 論文的結(jié)論與影響Merkle 論文并沒有給出一個(gè)“大腦等于多少 PFLOPs”的簡(jiǎn)單結(jié)論。它的意義在于把“計(jì)算能力”和“物理極限”綁定起來形成了一套可推導(dǎo)的框架。從后續(xù)研究和學(xué)術(shù)討論來看以下三點(diǎn)是公認(rèn)的啟發(fā)。第一能量并不是限制大腦計(jì)算能力的唯一因素。按熱力學(xué)極限20 瓦能支撐極高的理論算力。換句話說如果大腦真的是以 Landauer 極限運(yùn)行它早就不是現(xiàn)在這個(gè)算力水平了。現(xiàn)實(shí)的大腦只是用了非常稀疏、低速率、大規(guī)模并行的方式工作。第二生物計(jì)算更可能在“信息編碼效率”和“連接結(jié)構(gòu)”上勝出。神經(jīng)元并不是每毫秒都在放電很多神經(jīng)元處于稀疏激活狀態(tài)。這種事件驅(qū)動(dòng)、稀疏計(jì)算的方式大幅降低了平均能耗同時(shí)保留了高動(dòng)態(tài)范圍。這給深度學(xué)習(xí)“稀疏化”提供了一個(gè)物理層面的合理性解釋。第三論文對(duì)后來類腦計(jì)算和低功耗算力路線圖有前瞻意義。當(dāng)我們需要在邊緣設(shè)備上部署模型時(shí)不可能無(wú)限制增加功耗。一條可行的路線就是模仿大腦的“低功耗、稀疏、異步”模式而不是單純堆晶體管。7. 常見理解誤區(qū)與排查方法關(guān)于“大腦算力能量極限”這個(gè)題目很多人會(huì)踩坑。整理成表格方便快速自查。問題現(xiàn)象常見誤解準(zhǔn)確解釋排查與理解方式“大腦 20 瓦算力應(yīng)該很低”把 Landauer 極限估算當(dāng)成實(shí)際算力20W / kTln2 ≈ 1021 次每秒物理上限極高先區(qū)分“理論極限”和“實(shí)際表現(xiàn)”“熱力學(xué)極限說明大腦效率很高”以為大腦接近極限效率真實(shí)神經(jīng)元能耗遠(yuǎn)高于 Landauer 極限效率差距大對(duì)比動(dòng)作電位能耗與 kTln2 數(shù)量級(jí)“大腦是臺(tái)超級(jí)計(jì)算機(jī)”完全用數(shù)字計(jì)算機(jī)模型套生物系統(tǒng)大腦更多是模擬、化學(xué)、異步、事件驅(qū)動(dòng)系統(tǒng)讀神經(jīng)形態(tài)計(jì)算文獻(xiàn)理解膜電位積分過程“算力能直接換算成智能水平”只看算力忽略算法和結(jié)構(gòu)人腦參數(shù)巨大但運(yùn)行速度低算法與連接結(jié)構(gòu)同樣關(guān)鍵關(guān)注稀疏計(jì)算、注意力機(jī)制、圖網(wǎng)絡(luò)“降低功耗就是逼近 Landauer 極限”以為芯片可以無(wú)限逼近物理極限可逆計(jì)算在工程實(shí)現(xiàn)上極難噪聲與錯(cuò)誤開銷巨大了解可逆邏輯和量子計(jì)算約束這些誤區(qū)之所以常見往往是因?yàn)榘褦?shù)量級(jí)估算混同為工程實(shí)測(cè)。我們要做的是明確邊界物理極限回答的是“絕對(duì)不可能超過多少”而不是“系統(tǒng)實(shí)際能達(dá)到多少”。8. 對(duì)當(dāng)代 AI 與芯片設(shè)計(jì)的啟示回到 2025 年的技術(shù)語(yǔ)境這篇 36 年前的論文依然有很強(qiáng)參考價(jià)值。當(dāng)前大模型訓(xùn)練和推理的算力需求爆炸式增長(zhǎng)功耗已經(jīng)成為關(guān)鍵約束。英偉達(dá)新一代 GPU 性能提升的同時(shí)功耗也隨之升高。數(shù)據(jù)中心的散熱壓力、電費(fèi)成本、碳排放都指向同一個(gè)問題我們需要在能耗約束下尋找新的計(jì)算范式。從大腦的“20 瓦奇跡”里現(xiàn)代體系結(jié)構(gòu)研究者至少可以提取出三條可落地的設(shè)計(jì)思路。第一稀疏計(jì)算。大腦是典型的稀疏系統(tǒng)。不是所有神經(jīng)元每時(shí)每刻都在放電而是只有一小部分被激活。對(duì)應(yīng)到神經(jīng)網(wǎng)絡(luò)推理中剪枝、稀疏矩陣運(yùn)算、動(dòng)態(tài)路由都能有效降低乘加次數(shù)從而降低動(dòng)態(tài)功耗?，F(xiàn)在很多大模型推理框架落地 Mamba、混合專家模型本質(zhì)上就是在模擬“按需激活”的稀疏大腦結(jié)構(gòu)。第二事件驅(qū)動(dòng)計(jì)算。傳統(tǒng) GPU 是同步時(shí)鐘驅(qū)動(dòng)所有單元按節(jié)拍計(jì)算。大腦卻是異步的只有當(dāng)輸入刺激達(dá)到閾值時(shí)才產(chǎn)生動(dòng)作電位。這啟發(fā)了事件相機(jī)、脈沖神經(jīng)網(wǎng)絡(luò)、神經(jīng)形態(tài)芯片。這類硬件用事件驅(qū)動(dòng)代替輪詢掃描能在視頻處理、實(shí)時(shí)傳感器數(shù)據(jù)處理中大幅降低功耗。第三存算一體與模擬計(jì)算。大腦的突觸權(quán)重和膜電位都是物理量記憶和計(jì)算并行發(fā)生不需要反復(fù)從外部存儲(chǔ)器搬運(yùn)數(shù)據(jù)。存內(nèi)計(jì)算芯片把權(quán)重存儲(chǔ)在閃存或新型存儲(chǔ)器件中直接在存儲(chǔ)陣列內(nèi)完成乘累加運(yùn)算避免了馮·諾依曼架構(gòu)的“內(nèi)存墻”和“功耗墻”。這類方案嚴(yán)格說不等于模擬大腦但方向是一致的讓物理過程本身參與計(jì)算減少無(wú)效搬移。從算法層面看能量極限提醒我們不能只看模型的參數(shù)量和 FLOPs還要看“達(dá)到某一準(zhǔn)確率需要多少能量”。未來 AI 評(píng)估標(biāo)準(zhǔn)里很有可能會(huì)像芯片評(píng)測(cè)一樣增加“每瓦推理吞吐量”和“能量成本曲線”。這個(gè)指標(biāo)在邊緣設(shè)備、機(jī)器人、自動(dòng)駕駛領(lǐng)域已經(jīng)非?，F(xiàn)實(shí)。9. 延伸閱讀與進(jìn)一步探索如果你想進(jìn)一步深挖建議按如下順序閱讀先讀 Landauer 1961 年的論文Irreversibility and Heat Generation in the Computing Process理解信息擦除與能量耗散的關(guān)系。再看 Bennett、Fredkin、Toffoli 等人關(guān)于可逆計(jì)算的研究知道理想計(jì)算機(jī)為什么可以接近零能耗。然后回到 Merkle 1989 年的原文看作者如何從熱力學(xué)跳到大腦。接著讀神經(jīng)科學(xué)中關(guān)于大腦能量代謝的綜述了解 20 瓦功率、860 億神經(jīng)元、動(dòng)作電位能耗等數(shù)據(jù)來源。最后接觸神經(jīng)形態(tài)工程方向比如 TrueNorth、Loihi 芯片的論文看工程上如何借鑒大腦的低功耗策略。如果想從信源上找原文可以通過 Google Scholar 搜索標(biāo)題Energy Limits to the Computational Power of the Human Brain或搜索機(jī)構(gòu)知識(shí)庫(kù)存檔。作者 Ralph Merkle 在納米科技、分子制造方面也有公開課件可以交叉閱讀理解他對(duì)“物理系統(tǒng)邊界”一類問題的整體思路。10. 總結(jié)與下一步Ralph Merkle 1989 年的這篇論文最大的價(jià)值不是給出一個(gè)“大腦算力多少”的最終數(shù)字而是提供了一種用能量來約束計(jì)算能力的方法。這種思維方式今天依然適用任何計(jì)算設(shè)備不管用硅還是生物材料都必須遵守?zé)崃W(xué)約束。 20 瓦大腦能夠支撐的物理操作上限極高但真實(shí)神經(jīng)元運(yùn)行效率遠(yuǎn)低于理論極限。真正讓人腦強(qiáng)大的是稀疏激活、大規(guī)模并行、模擬化學(xué)計(jì)算和高度優(yōu)化的連接結(jié)構(gòu)。如果你要做點(diǎn)什么建議先從 5.2 節(jié)的 Python 腳本開始改一改功率和單次動(dòng)作電位能耗參數(shù)感受數(shù)量級(jí)差距帶來的沖擊。然后挑一個(gè)現(xiàn)代 GPU 的功耗與 FLOPs對(duì)比一下每瓦能效看看離人腦的“物理冗余”到底差多遠(yuǎn)。下一個(gè)值得關(guān)注的方向是在單位功耗受限的系統(tǒng)中我們應(yīng)該優(yōu)先優(yōu)化算法稀疏性、數(shù)據(jù)搬移量還是追求逼近物理極限的可逆計(jì)算這個(gè)問題如果能在工程實(shí)踐中想明白未來十年低功耗 AI 的路徑會(huì)清晰很多。建議收藏這篇當(dāng)作一個(gè)物理信息論方向的起點(diǎn)。