你有沒有想過這樣一件事現(xiàn)在市面上那些能寫代碼、能玩游戲、能完成復(fù)雜任務(wù)的AI智能體它們的大腦也就是那個(gè)語言模型本身其實(shí)一直沒變變的是什么變的是穿在大腦外面的那層衣服。這層衣服有個(gè)專業(yè)名字叫做harness**harness智能體執(zhí)行框架/harness**包裹在語言模型外面的一整套可執(zhí)行腳手架包括提示詞、工具調(diào)用邏輯、記憶管理、驗(yàn)證機(jī)制等負(fù)責(zé)把模型的想法轉(zhuǎn)化成能在真實(shí)環(huán)境里執(zhí)行的動(dòng)作。你可以把語言模型想象成一個(gè)非常聰明但沒有手腳的大腦而harness就是給這個(gè)大腦裝上的四肢、工具箱和操作手冊(cè)。同一個(gè)大腦穿上不同的工裝干活的效率能差出一大截。這不是夸張后面你會(huì)看到同一個(gè)模型光是換個(gè)harness成績(jī)能從18.9分跳到41.4分翻了一倍還多。問題來了現(xiàn)在市面上大部分做法是工程師手動(dòng)去調(diào)這套工裝。模型升級(jí)了工裝往往還是老樣子被當(dāng)成一次性用完就擱在那里的固定資產(chǎn)。有沒有可能讓AI自己去改造這套工裝越用越順手這正是這篇來自香港科技大學(xué)的論文要回答的問題。作者提出了一個(gè)叫做**HSIHierarchical Self-Improvement分層自我改進(jìn)**的框架讓一個(gè)參數(shù)完全凍結(jié)、不做任何訓(xùn)練更新的語言模型通過不斷重寫自己的harness來實(shí)現(xiàn)性能提升。這件事到底難在哪在講HSI具體怎么做之前得先說清楚這條路上已經(jīng)有誰在走走到哪兒卡住了。第一條路叫做**Godel式自我改進(jìn)Godel-style self-improvement****Godel Machine哥德爾機(jī)**2003年由Jürgen Schmidhuber提出的理論構(gòu)想指一個(gè)能夠修改自己程序包括修改未來修改機(jī)制本身的系統(tǒng)前提是每次修改都能被證明會(huì)帶來性能提升。這個(gè)想法后來被一批工作實(shí)現(xiàn)成了真實(shí)系統(tǒng)比如Darwin Godel MachineDGM、Huxley-Godel MachineHGM等等。它們讓AI去改自己的決策代碼取得了不錯(cuò)的效果比如DGM在SWE-bench編程測(cè)試上把成績(jī)從20%提到了50%。但這些工作動(dòng)的是模型每一步怎么想的決策邏輯而不是整個(gè)執(zhí)行框架。第二條路叫做**harness工程harness engineering**這條路上的代表作是Meta-Harness它把harness優(yōu)化當(dāng)成一個(gè)外層搜索問題讓一個(gè)更強(qiáng)的設(shè)計(jì)師模型比如Claude Opus這種頂級(jí)模型去幫一個(gè)較弱的模型優(yōu)化工裝。效果確實(shí)好但問題也很明顯你永遠(yuǎn)需要一個(gè)更強(qiáng)的外部大腦來幫你改造這不算真正的自己動(dòng)手。第三個(gè)問題更麻煩**大家發(fā)現(xiàn)很多號(hào)稱AI自我進(jìn)化的成果可能只是測(cè)試時(shí)算力堆出來的假象**有一篇批判性研究Wang et al., 2026b做了嚴(yán)格對(duì)照實(shí)驗(yàn)發(fā)現(xiàn)如果不控制反饋預(yù)算harness進(jìn)化的效果甚至不如簡(jiǎn)單地讓模型多試幾次、多采樣幾遍。換句話說很多進(jìn)化其實(shí)是多花錢多試偽裝出來的進(jìn)步一旦挪到?jīng)]見過的新任務(wù)上提升幅度只有0.6個(gè)百分點(diǎn)幾乎等于沒進(jìn)步。這就像一個(gè)學(xué)生考前瘋狂刷了一套題的原題考試成績(jī)確實(shí)高了但換一套新題立刻現(xiàn)原形這不叫學(xué)會(huì)了叫背答案。所以真正的難題是能不能讓一個(gè)凍結(jié)的模型靠自己的力量真正學(xué)會(huì)改造自己的作戰(zhàn)工裝而且這種改造是能遷移到?jīng)]見過的新任務(wù)上的不是死記硬背HSI是怎么設(shè)計(jì)的三層套娃結(jié)構(gòu)HSI的核心想法可以用一句話概括把干活的和改造干活方式的分成不同的層級(jí)層層嵌套但最外層永遠(yuǎn)鎖死不動(dòng)。具體來說同一個(gè)凍結(jié)的語言模型M在三個(gè)不同的層級(jí)上工作。**任務(wù)harness層Task Harness H**直接執(zhí)行任務(wù)的那套工裝包含提示詞、工具、記憶管理等是與環(huán)境實(shí)際打交道的那一層。**進(jìn)化器層Evolver**負(fù)責(zé)重寫任務(wù)harness H的那套策略它會(huì)選種子、生成候選修改方案、挑選提交版本。**元進(jìn)化器層Meta-Evolver**比進(jìn)化器還高一層它負(fù)責(zé)修改進(jìn)化器怎么進(jìn)化這套策略本身但它自己的執(zhí)行邏輯是寫死的不能再往上改。為什么要設(shè)計(jì)成這樣三層而不是讓模型直接無限制地改自己這里就要說到一個(gè)很現(xiàn)實(shí)的顧慮**無限制的自我修改是危險(xiǎn)的**想象一個(gè)員工被授權(quán)可以修改公司所有規(guī)章制度包括修改誰有權(quán)修改規(guī)章制度這條規(guī)則本身。如果沒有任何邊界這個(gè)員工理論上可以把自己變成不受任何約束的獨(dú)裁者公司徹底失控。HSI的解法是設(shè)一道防火墻員工進(jìn)化器可以改具體的工作流程任務(wù)harness上級(jí)元進(jìn)化器可以改員工的工作方法論但公司的憲法元進(jìn)化器自己的執(zhí)行邏輯是刻在石頭上的誰都動(dòng)不了。這就是論文里說的frozen outer anchor凍結(jié)的外層錨點(diǎn)。如果沒有這道錨點(diǎn)自我修改就可能陷入無限遞歸的失控狀態(tài)你永遠(yuǎn)不知道系統(tǒng)下一步會(huì)把自己改成什么樣子。三層結(jié)構(gòu)定下來之后整個(gè)進(jìn)化流程被拆成五個(gè)階段一圈一圈循環(huán)。第一階段是**種子選擇Seed Selection**系統(tǒng)會(huì)維護(hù)一張不斷累積的進(jìn)化圖譜圖上每個(gè)節(jié)點(diǎn)是一個(gè)提交過的harness歷史版本標(biāo)注著它拿到的獎(jiǎng)勵(lì)分?jǐn)?shù)。種子選擇這一步就是從這張圖里挑一個(gè)祖先版本圍繞它生成一個(gè)結(jié)構(gòu)化的假設(shè)包括為什么選它、期望往哪個(gè)方向改進(jìn)、以及一個(gè)可以驗(yàn)證對(duì)錯(cuò)的標(biāo)準(zhǔn)。這一步的巧妙之處在于它把進(jìn)化從瞎改亂試變成了帶著假設(shè)去驗(yàn)證。你可以類比成一個(gè)科學(xué)家做實(shí)驗(yàn)不是隨便調(diào)參數(shù)看運(yùn)氣而是先說清楚我猜提高這個(gè)參數(shù)會(huì)讓反應(yīng)更快如果實(shí)驗(yàn)結(jié)果沒變快說明我這個(gè)假設(shè)是錯(cuò)的。如果沒有這個(gè)假設(shè)生成的步驟進(jìn)化過程很容易陷入盲目試錯(cuò)浪費(fèi)大量計(jì)算資源在沒有方向感的修改上。第二階段是**主進(jìn)化Main Evolution**這一步就是真刀真槍去改代碼了。模型會(huì)讀取、編輯harness里的提示詞、工具、內(nèi)存管理等各個(gè)組件生成若干個(gè)候選版本。這里有一條鐵律必須守住叫做**任務(wù)注入接口task-injection interface**不管harness內(nèi)部怎么改它和外部任務(wù)對(duì)接的那個(gè)接口必須保持不變。這就好比換手機(jī)殼不管殼子的花紋、材質(zhì)怎么變手機(jī)殼和手機(jī)之間的卡扣尺寸必須固定否則殼子和手機(jī)裝不到一起去了。有了這個(gè)固定接口不同版本之間才能被公平地放在同一條起跑線上比較進(jìn)化版本才能做到熱插拔隨用隨換。第三階段是**提交選擇Commit Selection**這里有個(gè)反直覺的設(shè)計(jì)系統(tǒng)不是只留下分?jǐn)?shù)最高的那一個(gè)候選而是刻意保留一個(gè)多樣化的提交池把好幾個(gè)不同方向的嘗試都存下來哪怕它們暫時(shí)分?jǐn)?shù)不是最高的。原因很簡(jiǎn)單如果只認(rèn)死理只留最優(yōu)解一旦這個(gè)方向后期走進(jìn)死胡同系統(tǒng)就沒有回頭路可走了。這跟投資組合分散風(fēng)險(xiǎn)是一個(gè)道理你不會(huì)把所有錢壓在一支股票上哪怕它現(xiàn)在漲得最猛因?yàn)槟悴恢烂魈焖鼤?huì)不會(huì)跌。第四階段是**元進(jìn)化Meta-Evolution**這是HSI真正區(qū)別于以往工作的地方。前三步一直在改的是具體怎么打這場(chǎng)仗元進(jìn)化改的是怎么打仗的方法論。比如進(jìn)化器學(xué)到一條經(jīng)驗(yàn)優(yōu)先暴露隱藏的游戲反饋信號(hào)比盲目改提示詞更有效這條經(jīng)驗(yàn)會(huì)被寫進(jìn)策略里成為后面所有輪次都能繼承的公共知識(shí)而不是每次進(jìn)化都從零開始摸索。第五階段是**最終版本選擇Best-Version Selection**前面幾輪進(jìn)化追求的是多樣性和探索最后這一步反過來專門挑泛化能力最強(qiáng)、在驗(yàn)證集上表現(xiàn)最穩(wěn)的那個(gè)版本導(dǎo)出去做真正的部署評(píng)測(cè)。實(shí)驗(yàn)怎么驗(yàn)證這套體系真的有用光有設(shè)計(jì)思路不夠得看真刀真槍的實(shí)驗(yàn)數(shù)據(jù)。研究者選擇了一個(gè)叫做**BALROG**的基準(zhǔn)測(cè)試平臺(tái)。**BALROG**一套專門用來測(cè)試AI智能體在長(zhǎng)周期文字交互游戲中表現(xiàn)的基準(zhǔn)測(cè)試集包含BabyAI、BabaIsAI、Crafter、TextWorld、MiniHack、NLE六個(gè)環(huán)境難度呈現(xiàn)一個(gè)由易到難的自然梯度能測(cè)試規(guī)劃、記憶、探索、工具使用等多種能力。為什么選這個(gè)平臺(tái)做實(shí)驗(yàn)場(chǎng)因?yàn)樗烊桓采w了不同難度的任務(wù)而且這些任務(wù)需要智能體持續(xù)維持狀態(tài)、執(zhí)行多步驟推理、通過和環(huán)境交互獲得反饋來調(diào)整行為。這就像考駕照科目一是筆試送分題科目三是路考真本事如果只在筆試上測(cè)你永遠(yuǎn)不知道這個(gè)人到底能不能真正上路開車。BALROG提供了從送分題到高難度路考的全譜系可以清楚看出harness進(jìn)化到底在哪個(gè)難度區(qū)間是有效的、又是在哪個(gè)區(qū)間失效的。實(shí)驗(yàn)用的骨干模型是DeepSeek-V4-Flash全程凍結(jié)參數(shù)不動(dòng)。這里有個(gè)很講究的設(shè)計(jì)叫做**thinking-on/off推理開關(guān)切換**設(shè)計(jì)在真正執(zhí)行任務(wù)的時(shí)候系統(tǒng)關(guān)閉模型的深度推理能力只在做harness自我修改的時(shí)候打開推理。為什么要這么反著來設(shè)計(jì)因?yàn)槿绻蝿?wù)執(zhí)行時(shí)也開著推理你沒辦法判斷最后的性能提升到底是harness改得好還是僅僅因?yàn)槟Ｐ瓦@次多想了幾步。這個(gè)設(shè)計(jì)其實(shí)是在做一個(gè)嚴(yán)格的對(duì)照實(shí)驗(yàn)把多花算力多想這個(gè)變量死死摁住只讓harness的結(jié)構(gòu)變化來決定成績(jī)差異。這就好比測(cè)試一輛車換了新輪胎之后跑得快不快你必須保證發(fā)動(dòng)機(jī)功率不能中途偷偷加大否則你測(cè)出來的提速到底是輪胎的功勞還是發(fā)動(dòng)機(jī)的功勞根本說不清楚。實(shí)驗(yàn)結(jié)果表格如下重點(diǎn)數(shù)字用加粗標(biāo)出| 模型 | BabyAI | Crafter | TextWorld | MiniHack | NLE | 平均 ||---|---|---|---|---|---|---|| DS-V4-Flash初始harness | 42.0 | 11.6 | 40.0 | 0.8 | 0.0 | 18.9 || DS-V4-Flash HSI元進(jìn)化關(guān)閉 | 77.3 | 36.4 | 46.0 | 5.8 | 0.0 | 33.1 || **DS-V4-Flash HSI元進(jìn)化開啟** | **81.3** | **44.6** | **65.0** | **15.8** | 0.2 | **41.4** |數(shù)字背后是什么意思BabyAI這個(gè)環(huán)境初始harness只能拿42分經(jīng)過HSI進(jìn)化之后沖到81.3分接近翻倍。Crafter從11.6分漲到44.6分漲了近4倍。TextWorld從40分漲到65分這個(gè)成績(jī)甚至超過了Grok-462.9分和Claude-Opus-4.5-Thinking59.0分這些頂級(jí)商用模型在原生配置下的表現(xiàn)。請(qǐng)注意參與對(duì)比的這些頂級(jí)模型是在自己完整的推理能力、原生配置下跑出來的成績(jī)而HSI這邊的骨干模型是一個(gè)在執(zhí)行階段被關(guān)閉了深度推理的降智版本。一個(gè)被削弱了推理能力的模型光靠改造外面的工裝居然能追上甚至反超那些開著全部推理能力的頂級(jí)模型這說明harness這層衣服對(duì)最終表現(xiàn)的影響被嚴(yán)重低估了。但NLE這一行的數(shù)字很扎眼無論怎么進(jìn)化成績(jī)都停留在0到0.2分幾乎紋絲不動(dòng)。這是本文最重要的發(fā)現(xiàn)之一后面會(huì)專門展開講。元進(jìn)化到底有沒有用拆開看前面表格里那兩行元進(jìn)化關(guān)閉和元進(jìn)化開啟的對(duì)比其實(shí)是一次專門為了檢驗(yàn)元進(jìn)化器價(jià)值而做的消融實(shí)驗(yàn)。去掉元進(jìn)化器之后各項(xiàng)成績(jī)都在下滑BabyAI從81.3掉到77.3Crafter從44.6掉到36.4TextWorld從65.0掉到46.0掉了整整19分MiniHack從15.8掉到5.8掉了10分。有意思的是掉幅的分布規(guī)律**TextWorld和MiniHack這兩個(gè)harness搜索空間更復(fù)雜的任務(wù)掉幅最大**這說明了一件事當(dāng)問題簡(jiǎn)單的時(shí)候隨便試試就能碰上不錯(cuò)的解法元進(jìn)化器錦上添花的作用有限但當(dāng)問題變復(fù)雜、搜索空間變大的時(shí)候?qū)W會(huì)怎么更好地去搜索這件事本身的價(jià)值就凸顯出來了。這就像下棋簡(jiǎn)單的殘局你隨便走兩步可能就贏了但復(fù)雜的中盤搏殺光靠臨場(chǎng)直覺不夠你需要一套成體系的戰(zhàn)術(shù)思維來指導(dǎo)每一步棋該往哪個(gè)方向想這套戰(zhàn)術(shù)思維就相當(dāng)于元進(jìn)化器學(xué)到的東西。更硬核的考驗(yàn)換到?jīng)]見過的新題上還行不行前面說的都是同一批題型里抽到不同的具體題目能不能考好這屬于比較寬松的測(cè)試。真正嚴(yán)格的測(cè)試是完全沒見過的新題型能不能靠已經(jīng)學(xué)到的解題思路蒙對(duì)。論文設(shè)計(jì)了第二套評(píng)測(cè)協(xié)議專門在BabaIsAI這個(gè)子任務(wù)集合上做**held-out留出測(cè)試**具體做法是把BreakStop、GoTo、Make這幾個(gè)任務(wù)家族各自切出20%的任務(wù)藏起來進(jìn)化過程全程看不到這部分?jǐn)?shù)據(jù)只用剩下80%去訓(xùn)練harness最后拿藏起來的這20%去檢驗(yàn)真本事。結(jié)果表格如下| 子任務(wù) | 初始harness | 開發(fā)集最佳 | 測(cè)試集最佳元進(jìn)化開 | 測(cè)試集最佳元進(jìn)化關(guān) ||---|---|---|---|---|| BreakStop | 0.033 | 1.000 | **0.980** | 1.000 || GoTo | 0.182 | 1.000 | **1.000** | 0.964 || Make | 0.000 | 0.556 | 0.363 | 0.338 |BreakStop和GoTo這兩個(gè)偏向?qū)Ш筋惖娜蝿?wù)測(cè)試集成績(jī)幾乎和開發(fā)集打平說明harness里學(xué)到的東西是真本事不是死記硬背。而Make這個(gè)涉及多步驟合成制造的任務(wù)成績(jī)明顯掉了一截只有0.36左右。這個(gè)對(duì)比暴露出一個(gè)很樸素但很重要的規(guī)律**導(dǎo)航這類相對(duì)結(jié)構(gòu)化、規(guī)則清晰的任務(wù)學(xué)到的技巧容易被總結(jié)成通用規(guī)則能遷移而多步驟制造這種需要長(zhǎng)鏈條規(guī)劃的復(fù)雜任務(wù)學(xué)到的技巧更容易和具體場(chǎng)景綁死遷移能力就弱一些。**這就好比學(xué)開車和學(xué)做菜的區(qū)別。學(xué)會(huì)了怎么在小區(qū)里倒車入庫(kù)換到另一個(gè)陌生小區(qū)的車位大概率還是能停進(jìn)去因?yàn)榈管囘@件事的核心規(guī)律打方向盤的時(shí)機(jī)、后視鏡觀察角度是普適的。但學(xué)會(huì)了做一道特定的菜換一種沒做過的食材很多細(xì)節(jié)判斷火候、下料順序就沒法直接套用了因?yàn)檫@道菜的經(jīng)驗(yàn)里混雜了太多針對(duì)這種食材才有效的具體竅門。那道過不去的坎NLE到底怎么回事前面提到NLE環(huán)境上harness進(jìn)化幾乎完全沒起作用得分一直在0附近打轉(zhuǎn)。這不是bug這是這篇論文最誠(chéng)實(shí)也最有價(jià)值的一個(gè)發(fā)現(xiàn)。論文里給出的解釋是兩條**邊界bound****反饋保真度邊界feedback-fidelity bound**進(jìn)化這件事本質(zhì)上是一個(gè)不斷試錯(cuò)、根據(jù)反饋調(diào)整方向的過程如果環(huán)境給出的反饋信號(hào)本身就極其稀疏、模糊、沒什么區(qū)分度進(jìn)化就沒有可以依靠的信號(hào)來判斷哪個(gè)方向是對(duì)的。**骨干能力邊界backbone capability bound**不管你怎么給模型換外面的工裝模型本身的推理能力上限擺在那里工裝再怎么優(yōu)化也沒法讓一個(gè)想不明白復(fù)雜決策的大腦突然想明白。NLE這個(gè)環(huán)境本身就是一個(gè)極其復(fù)雜的roguelike游戲狀態(tài)空間龐大反饋稀疏連初始harness下模型的表現(xiàn)都接近0分。這時(shí)候不管怎么改harness模型都沒法從環(huán)境里獲得有意義的成功經(jīng)驗(yàn)去總結(jié)規(guī)律自然也就無從進(jìn)化。這就像給一個(gè)完全不識(shí)字的人配一套最先進(jìn)的讀書筆記軟件不管這套軟件的排版、檢索、標(biāo)注功能做得多么精妙這個(gè)人依然讀不懂書里寫的是什么。工具再好也彌補(bǔ)不了識(shí)字這個(gè)前置能力的缺失。這也是為什么這篇論文反復(fù)強(qiáng)調(diào)harness進(jìn)化的價(jià)值是放大和重組已有能力而不是無中生有創(chuàng)造能力。**如果不承認(rèn)這個(gè)邊界會(huì)讓人誤以為自我改進(jìn)可以無限逼近完美但實(shí)驗(yàn)數(shù)據(jù)明確告訴我們事情不是這樣的。**順帶一提這個(gè)發(fā)現(xiàn)和另一篇獨(dú)立研究Lin et al., 2026b《Harness Updating Is Not Harness Benefit》的結(jié)論高度吻合。那篇研究發(fā)現(xiàn)harness的更新能力和從更新中獲益的能力其實(shí)是兩回事中等水平的模型從harness優(yōu)化里獲益最大提升可達(dá)19.3個(gè)百分點(diǎn)而能力特別弱的模型反而獲益最小因?yàn)樗B按照新harness里的指導(dǎo)去執(zhí)行這件事本身都做不好。這不是巧合兩篇論文各自獨(dú)立地摸到了同一堵墻。進(jìn)化過程里到底發(fā)生了什么看兩個(gè)真實(shí)軌跡論文里放了兩張進(jìn)化軌跡圖一張是Crafter這種同分布進(jìn)化的例子一張是BabaIsAI-Make這種留出集進(jìn)化的例子讀起來很有畫面感。Crafter那張圖顯示第一輪進(jìn)化主要是把游戲里原本藏起來的信息暴露出來比如把隱藏的獎(jiǎng)勵(lì)信號(hào)、庫(kù)存狀態(tài)結(jié)構(gòu)化地?cái)[到模型面前。這一步帶來了單輪最大的一次跳躍開發(fā)集獎(jiǎng)勵(lì)從0.166直接跳到0.430漲幅接近2.6倍。到了第三、四輪進(jìn)化方向變得更精細(xì)開始嘗試規(guī)則建議和安全約束這類更專門化的機(jī)制第四輪達(dá)到最高點(diǎn)0.578成為最終導(dǎo)出的最佳版本。但第五輪出現(xiàn)了回退說明進(jìn)化不是單調(diào)向上的而是在一個(gè)非凸的設(shè)計(jì)空間里來回摸索有的分支走對(duì)了有的分支走岔了。BabaIsAI-Make那張圖更有意思開發(fā)集獎(jiǎng)勵(lì)從0.222一路漲到0.556途中經(jīng)歷了單步執(zhí)行改成計(jì)劃追蹤、構(gòu)建空間地圖、加入BFS路徑規(guī)劃算法、加入自動(dòng)推動(dòng)機(jī)制、最后加入跨房間導(dǎo)航能力這五個(gè)階段。這里最值得一提的是元進(jìn)化器把LLM負(fù)責(zé)定目標(biāo)BFS負(fù)責(zé)導(dǎo)航這條模式總結(jié)了下來寫進(jìn)了策略里讓后續(xù)的迭代能直接繼承這個(gè)分工思路而不需要每次都重新摸索。這個(gè)細(xì)節(jié)其實(shí)很耐人尋味**模型自己發(fā)現(xiàn)讓語言模型去做它擅長(zhǎng)的高層判斷把具體的路徑搜索這種確定性計(jì)算任務(wù)交給傳統(tǒng)算法BFS廣度優(yōu)先搜索效率比讓語言模型逐字逐句推理每一步路徑要高得多。**這個(gè)發(fā)現(xiàn)本身沒有被人明確教給模型是它在不斷試錯(cuò)的過程中自己摸索出來的分工方式。這有點(diǎn)像一個(gè)剛上任的項(xiàng)目經(jīng)理一開始事事親力親為后來慢慢發(fā)現(xiàn)有些機(jī)械性、規(guī)則明確的活兒丟給專門的工具去做更靠譜自己應(yīng)該把精力放在拿主意、定方向上這種角色認(rèn)知的轉(zhuǎn)變往往是團(tuán)隊(duì)效率突然提升的轉(zhuǎn)折點(diǎn)。這篇論文站在誰的肩膀上又指向了哪里這項(xiàng)工作并非憑空出現(xiàn)它站在兩條已經(jīng)走了一段路的研究脈絡(luò)的交匯點(diǎn)上。在Godel式自我改進(jìn)這條線上2003年Schmidhuber提出的Godel Machine理論構(gòu)想到了2025到2026年被一批工作真正實(shí)現(xiàn)出來比如2026年的Darwin Godel Machine把自我修改的對(duì)象擴(kuò)展到整個(gè)代碼庫(kù)用一套基于歸檔的開放式探索機(jī)制把編程測(cè)試成績(jī)從20%提升到50%同年的Huxley-Godel Machine則解決了一個(gè)更細(xì)的問題就是怎么判斷一個(gè)中間版本到底有沒有繼續(xù)進(jìn)化下去的潛力而不只是看它當(dāng)前分?jǐn)?shù)高不高。在harness工程這條線上2026年的Meta-Harness第一次把harness優(yōu)化當(dāng)作一個(gè)可以嚴(yán)格搜索的問題來做但它依賴一個(gè)更強(qiáng)的外部模型來當(dāng)設(shè)計(jì)師同年的Self-Harness則往前邁了一步讓模型自己給自己改harness不需要借助外部更強(qiáng)模型的幫助。HSI的位置正好卡在這兩條路的交界處它既不像Godel系工作那樣只改模型的決策代碼把范圍局限在小圈子里也不像Meta-Harness那樣依賴外部更強(qiáng)模型而是讓同一個(gè)凍結(jié)的模型橫跨執(zhí)行、進(jìn)化、元進(jìn)化三個(gè)層級(jí)去自己改自己還專門設(shè)計(jì)了留出集測(cè)試來驗(yàn)證這不是在作弊。寫在后面讀完這篇論文最觸動(dòng)我的其實(shí)不是那些分?jǐn)?shù)上漲的曲線而是NLE那一行怎么改都是0的數(shù)字。很多講AI自我進(jìn)化的文章都傾向于渲染一種越進(jìn)化越強(qiáng)、無所不能的敘事但這篇論文很誠(chéng)實(shí)地把那道墻擺出來了反饋信號(hào)不夠好或者模型本身能力不到位harness再怎么折騰也沒用。這種承認(rèn)邊界的態(tài)度反而比一味鼓吹突破更讓人信服。另一個(gè)值得琢磨的細(xì)節(jié)是那個(gè)BFS路徑規(guī)劃的自發(fā)涌現(xiàn)。模型在沒人明確教它復(fù)雜計(jì)算交給傳統(tǒng)算法這條原則的情況下自己在試錯(cuò)里摸出了這套分工方式。這讓我想到也許所謂的智能進(jìn)化很多時(shí)候不是學(xué)會(huì)了什么全新的知識(shí)而是學(xué)會(huì)了什么時(shí)候該用什么工具包括什么時(shí)候該承認(rèn)自己不擅長(zhǎng)、該把活兒交出去。這種元層面的判斷力可能比具體某個(gè)技巧本身更值錢。如果harness的進(jìn)化真的只能在骨干模型能力范圍內(nèi)打轉(zhuǎn)那未來會(huì)不會(huì)出現(xiàn)一種局面不同任務(wù)家族各自養(yǎng)著一套專屬的進(jìn)化harness而真正決定天花板的始終是那個(gè)被凍結(jié)著不動(dòng)的大腦QAQ1HSI框架是什么AHSIHierarchical Self-Improvement分層自我改進(jìn)是一個(gè)讓凍結(jié)不變的語言模型自己重寫執(zhí)行框架harness來提升性能的框架包含任務(wù)harness層、進(jìn)化器層、元進(jìn)化器層三層結(jié)構(gòu)最外層執(zhí)行邏輯始終鎖死不變。Q2HSI在哪些任務(wù)上效果最好哪些任務(wù)上沒效果A在BabyAI、Crafter、TextWorld這類中等難度任務(wù)上提升明顯比如BabyAI從42分漲到81.3分但在NLE這種反饋極稀疏、任務(wù)極復(fù)雜的環(huán)境里幾乎沒有提升說明harness進(jìn)化受限于反饋質(zhì)量和模型自身能力上限。Q3HSI進(jìn)化出來的harness能不能用到?jīng)]見過的新任務(wù)上A在BabaIsAI的BreakStop和GoTo這類導(dǎo)航型任務(wù)上留出測(cè)試集成績(jī)接近滿分說明學(xué)到的是可遷移的通用技巧但在Make這種多步驟合成任務(wù)上遷移效果明顯較弱只有0.36左右。