1. 從“智能”到“超級(jí)智能”我們到底在談?wù)撌裁醋罱麯eepMind那篇關(guān)于AI發(fā)展路徑的論文在圈內(nèi)引發(fā)了不小的討論。說(shuō)實(shí)話每次看到“AGI”通用人工智能和“ASI”人工超級(jí)智能這些詞被頻繁提及我總有種既興奮又警惕的感覺(jué)。興奮在于我們正站在一個(gè)可能重塑文明的技術(shù)奇點(diǎn)邊緣警惕則在于這些宏大敘事背后往往隱藏著對(duì)技術(shù)細(xì)節(jié)和現(xiàn)實(shí)路徑的模糊化處理。這篇論文的價(jià)值不在于給出了一個(gè)確切的“終局”預(yù)言——那是不可能的——而在于它嘗試用一種相對(duì)結(jié)構(gòu)化的方式梳理了從我們當(dāng)前所處的“狹義AI”邁向更高級(jí)智能形態(tài)的可能路徑與關(guān)鍵障礙。這就像在探索一片未知海域時(shí)有人畫出了一張標(biāo)注了不同航線與潛在暗礁的地圖雖然目的地依然朦朧但至少我們知道了有哪些路可以走以及路上可能會(huì)遇到什么。AGI和ASI這兩個(gè)詞經(jīng)常被混用但內(nèi)核截然不同。AGI或者說(shuō)通用人工智能指的是一個(gè)系統(tǒng)能夠理解、學(xué)習(xí)并應(yīng)用其智能去解決任何人類能夠解決的認(rèn)知性任務(wù)。它不局限于下圍棋、識(shí)別圖像或生成文本而是具備跨領(lǐng)域的適應(yīng)性和學(xué)習(xí)能力就像一個(gè)擁有博士級(jí)學(xué)習(xí)能力的“通才”。而ASI則是在此基礎(chǔ)上更進(jìn)一步指在幾乎所有領(lǐng)域都遠(yuǎn)超最聰明人類大腦的智能水平。這里的“超級(jí)”不僅體現(xiàn)在速度更快、知識(shí)更廣更可能體現(xiàn)在我們無(wú)法理解的認(rèn)知維度、問(wèn)題解決策略和創(chuàng)造力上。當(dāng)前我們引以為傲的大語(yǔ)言模型LLM無(wú)論參數(shù)多大本質(zhì)上仍是“狹義AI”——它們?cè)谔囟Ｊ饺缯Z(yǔ)言模式上表現(xiàn)出色但缺乏真正的理解、推理和跨領(lǐng)域遷移能力。DeepMind這篇論文的核心正是探討如何跨越這道看似遙不可及的鴻溝。2. 通往超級(jí)智能的四條可能路徑不只是“大力出奇跡”論文中梳理的四條路徑并非憑空想象而是基于當(dāng)前技術(shù)趨勢(shì)和理論推演得出的。每一條路都代表了一種不同的技術(shù)哲學(xué)和研發(fā)范式也各自面臨著獨(dú)特的挑戰(zhàn)。2.1 路徑一規(guī)模擴(kuò)展之路Scaling這是目前最主流、最直觀也是投入資源最多的路徑。其核心假設(shè)是智能是計(jì)算規(guī)模、數(shù)據(jù)規(guī)模和模型規(guī)模的函數(shù)。只要我們持續(xù)增加算力更多的GPU/TPU、收集更多高質(zhì)量數(shù)據(jù)、構(gòu)建更大參數(shù)量的模型智能就會(huì)“涌現(xiàn)”出來(lái)。GPT系列模型的演進(jìn)就是這條路徑的典型代表。背后的邏輯這條路徑依賴于“縮放定律”Scaling Laws的發(fā)現(xiàn)。研究人員觀察到模型的性能如預(yù)測(cè)下一個(gè)詞的準(zhǔn)確率與計(jì)算量、數(shù)據(jù)量和模型大小之間存在可預(yù)測(cè)的冪律關(guān)系。這給了人們一個(gè)看似清晰的路線圖投入更多資源就能獲得更強(qiáng)大的能力。當(dāng)前的瓶頸與質(zhì)疑數(shù)據(jù)墻互聯(lián)網(wǎng)上高質(zhì)量、結(jié)構(gòu)化的文本數(shù)據(jù)即將耗盡。單純堆砌低質(zhì)量數(shù)據(jù)或重復(fù)數(shù)據(jù)對(duì)性能的提升邊際效應(yīng)遞減甚至可能引入偏見(jiàn)和錯(cuò)誤。能耗與成本模型訓(xùn)練和推理的能耗呈指數(shù)級(jí)增長(zhǎng)無(wú)論是經(jīng)濟(jì)成本還是環(huán)境成本都變得難以承受。這不僅是商業(yè)問(wèn)題更是物理世界的硬約束。能力天花板有觀點(diǎn)認(rèn)為單純依靠自回歸的下一詞預(yù)測(cè)無(wú)論模型多大都無(wú)法真正產(chǎn)生理解、規(guī)劃和復(fù)雜推理能力。它可能永遠(yuǎn)是一個(gè)“高級(jí)鸚鵡”而非“思想家”。實(shí)操思考對(duì)于從業(yè)者而言這條路徑意味著對(duì)基礎(chǔ)設(shè)施如分布式訓(xùn)練框架、高效推理引擎和數(shù)據(jù)處理流水線的極致優(yōu)化。同時(shí)也需要思考如何突破當(dāng)前數(shù)據(jù)瓶頸例如通過(guò)合成數(shù)據(jù)生成、多模態(tài)數(shù)據(jù)融合等方式。2.2 路徑二算法革新之路Algorithmic Breakthroughs這條路徑認(rèn)為光靠堆資源是不夠的我們需要在算法和架構(gòu)層面取得根本性突破。就像從卷積神經(jīng)網(wǎng)絡(luò)CNN到Transformer的轉(zhuǎn)變帶來(lái)了質(zhì)的飛躍。核心方向新的學(xué)習(xí)范式超越當(dāng)前的監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。例如更高效的元學(xué)習(xí)學(xué)會(huì)學(xué)習(xí)、小樣本學(xué)習(xí)、因果推理框架等。新的模型架構(gòu)尋找比Transformer更高效、更能捕捉長(zhǎng)期依賴和復(fù)雜關(guān)系的架構(gòu)。一些研究正在探索基于狀態(tài)空間模型如Mamba、神經(jīng)微分方程或更接近生物神經(jīng)網(wǎng)絡(luò)靈感的架構(gòu)。神經(jīng)符號(hào)結(jié)合將深度學(xué)習(xí)的數(shù)據(jù)驅(qū)動(dòng)能力與符號(hào)AI的邏輯推理、可解釋性結(jié)合起來(lái)讓AI不僅會(huì)“感覺(jué)”還會(huì)“思考”。為什么重要算法突破往往能以更少的資源實(shí)現(xiàn)更強(qiáng)的性能甚至解鎖全新的能力。它可能為我們提供一把打開(kāi)AGI大門的“新鑰匙”而不是一味地用“蠻力”去撞門。面臨的挑戰(zhàn)基礎(chǔ)理論的突破具有高度不確定性和偶然性難以規(guī)劃和預(yù)測(cè)。它更像是一場(chǎng)需要天才靈感和長(zhǎng)期投入的“賭博”。2.3 路徑三具身與交互之路Embodiment and Interaction這條路徑強(qiáng)調(diào)真正的通用智能不可能在真空中誕生。智能體必須通過(guò)與物理世界或復(fù)雜模擬環(huán)境的持續(xù)交互來(lái)學(xué)習(xí)和進(jìn)化。這借鑒了發(fā)展心理學(xué)中兒童通過(guò)感知和行動(dòng)認(rèn)識(shí)世界的理念。核心理念“智能”是在與環(huán)境的互動(dòng)中涌現(xiàn)出來(lái)的屬性。一個(gè)機(jī)器人需要通過(guò)抓取、移動(dòng)來(lái)理解物體的物理特性一個(gè)AI助手需要通過(guò)多輪對(duì)話和任務(wù)執(zhí)行來(lái)理解用戶的真實(shí)意圖和上下文。技術(shù)載體機(jī)器人學(xué)讓AI控制實(shí)體機(jī)器人在真實(shí)世界中執(zhí)行任務(wù)。復(fù)雜游戲與模擬環(huán)境如《我的世界》、星際爭(zhēng)霸等提供了豐富、可控的交互平臺(tái)。多模態(tài)交互融合視覺(jué)、聽(tīng)覺(jué)、觸覺(jué)等多感官輸入形成對(duì)世界的統(tǒng)一理解。實(shí)操難點(diǎn)構(gòu)建安全、高效、可擴(kuò)展的交互環(huán)境成本極高。真實(shí)世界的試錯(cuò)代價(jià)巨大而模擬環(huán)境與真實(shí)世界存在“現(xiàn)實(shí)鴻溝”。如何設(shè)計(jì)能讓智能體高效探索和學(xué)習(xí)的獎(jiǎng)勵(lì)機(jī)制也是一個(gè)巨大挑戰(zhàn)。2.4 路徑四集體與分布式智能之路Collective Intelligence這條路徑認(rèn)為超級(jí)智能未必是一個(gè)單一的、龐大的系統(tǒng)而可能是一個(gè)由大量異質(zhì)智能體可以是AI也可以是AI與人類通過(guò)高效協(xié)作形成的“集體”。蟻群、蜂群和人類社會(huì)的協(xié)作都展現(xiàn)了集體智能的威力。運(yùn)作模式多個(gè)具備不同專長(zhǎng)和視角的AI智能體通過(guò)通信、協(xié)商、競(jìng)爭(zhēng)與合作共同解決復(fù)雜問(wèn)題。這類似于一個(gè)高度專業(yè)化和自動(dòng)化的“虛擬團(tuán)隊(duì)”。潛在優(yōu)勢(shì)魯棒性單一智能體的失敗不會(huì)導(dǎo)致整個(gè)系統(tǒng)崩潰。專業(yè)化不同智能體可以深耕不同領(lǐng)域形成互補(bǔ)。涌現(xiàn)性簡(jiǎn)單的交互規(guī)則可能產(chǎn)生個(gè)體不具備的復(fù)雜群體行為和新穎解決方案。關(guān)鍵挑戰(zhàn)如何設(shè)計(jì)有效的通信協(xié)議、協(xié)調(diào)機(jī)制和信用分配系統(tǒng)如何避免群體思維或陷入低效的博弈如何確保集體目標(biāo)與人類價(jià)值觀對(duì)齊這四條路徑并非互斥更可能是交織并行的。例如我們可能用“規(guī)模擴(kuò)展”提供基礎(chǔ)能力用“算法革新”提升效率讓智能體在“具身環(huán)境”中學(xué)習(xí)并最終以“集體智能”的形式運(yùn)作。DeepMind的論文正是在提醒我們不要將所有雞蛋放在“規(guī)?！边@一個(gè)籃子里。3. 橫亙?cè)谇斑M(jìn)道路上的六道關(guān)鍵關(guān)卡即使我們選定了或融合了上述路徑在抵達(dá)AGI/ASI之前仍有幾道必須跨越的、深不見(jiàn)底的技術(shù)與倫理鴻溝。論文中提到的這些“關(guān)卡”每一個(gè)都足以讓一個(gè)研究團(tuán)隊(duì)耗費(fèi)數(shù)年甚至數(shù)十年。3.1 關(guān)卡一穩(wěn)健的推理與規(guī)劃能力當(dāng)前AI尤其是大語(yǔ)言模型在模式匹配和內(nèi)容生成上表現(xiàn)出色但在需要多步、長(zhǎng)鏈條邏輯推理和復(fù)雜規(guī)劃的任務(wù)上仍然顯得笨拙且不可靠。它們?nèi)菀自谕评磉^(guò)程中“迷失”犯下低級(jí)的事實(shí)或邏輯錯(cuò)誤。問(wèn)題本質(zhì)這不僅僅是增加“思維鏈”提示就能解決的。它涉及到對(duì)世界的因果模型構(gòu)建、對(duì)不確定性的量化處理、對(duì)長(zhǎng)期目標(biāo)的分解與子目標(biāo)管理?？赡艿耐黄泣c(diǎn)系統(tǒng)2思維借鑒卡尼曼的“快與慢”思考理論為AI構(gòu)建一個(gè)慢速、深思熟慮、可追溯的推理系統(tǒng)系統(tǒng)2與當(dāng)前快速的直覺(jué)反應(yīng)系統(tǒng)系統(tǒng)1協(xié)同工作。世界模型讓AI學(xué)習(xí)一個(gè)關(guān)于環(huán)境如何運(yùn)作的內(nèi)部壓縮模型并能在其中進(jìn)行“思想實(shí)驗(yàn)”和規(guī)劃而不是僅僅基于歷史數(shù)據(jù)做模式外推。強(qiáng)化學(xué)習(xí)的規(guī)劃將高級(jí)規(guī)劃問(wèn)題形式化為強(qiáng)化學(xué)習(xí)問(wèn)題但需要解決稀疏獎(jiǎng)勵(lì)、探索效率等老難題。3.2 關(guān)卡二對(duì)抽象概念與常識(shí)的理解AI可以背誦“蘋果從樹上掉下來(lái)是因?yàn)橹亓Α钡欠裾嬲斫狻爸亓Α?、“因果性”、“意圖”、“公平”這些抽象概念它是否擁有一個(gè)人類孩童都具備的常識(shí)知識(shí)庫(kù)例如玻璃杯掉在地上會(huì)碎但皮球不會(huì)難點(diǎn)所在抽象概念難以從文本數(shù)據(jù)中直接、無(wú)歧義地獲取。常識(shí)往往是隱式的、未被言明的背景知識(shí)。解決思路多模態(tài) grounding將語(yǔ)言符號(hào)與視覺(jué)、聽(tīng)覺(jué)、觸覺(jué)等多感官體驗(yàn)“錨定”在一起。通過(guò)看、聽(tīng)、觸摸來(lái)理解“重”、“脆”、“圓”等概念。交互式學(xué)習(xí)像教孩子一樣通過(guò)問(wèn)答、指認(rèn)、試錯(cuò)等交互方式逐步構(gòu)建AI的常識(shí)體系。知識(shí)圖譜的深度集成不僅僅是鏈接實(shí)體還要編碼概念之間的復(fù)雜關(guān)系、屬性和約束。3.3 關(guān)卡三高效的知識(shí)獲取與終身學(xué)習(xí)當(dāng)前的AI模型通常是“一次訓(xùn)練終身使用”。訓(xùn)練完成后其知識(shí)就基本固定了。要學(xué)習(xí)新知識(shí)往往需要昂貴的全量重新訓(xùn)練或微調(diào)而且新知識(shí)可能會(huì)干擾或覆蓋舊知識(shí) catastrophic forgetting災(zāi)難性遺忘。需求場(chǎng)景一個(gè)真正的通用智能體必須能夠像人類一樣在生命周期中持續(xù)、高效、增量地學(xué)習(xí)新技能和新知識(shí)并能靈活地將新舊知識(shí)融合應(yīng)用。技術(shù)挑戰(zhàn)持續(xù)學(xué)習(xí)算法設(shè)計(jì)能夠在不遺忘舊任務(wù)的情況下穩(wěn)定學(xué)習(xí)新任務(wù)的神經(jīng)網(wǎng)絡(luò)架構(gòu)和訓(xùn)練算法。樣本高效學(xué)習(xí)從少量樣本或一次體驗(yàn)中就能快速學(xué)習(xí)而不是依賴海量數(shù)據(jù)。元學(xué)習(xí)讓AI學(xué)會(huì)如何根據(jù)新任務(wù)調(diào)整自己的學(xué)習(xí)策略。3.4 關(guān)卡四價(jià)值對(duì)齊與可控性這是最受關(guān)注也最棘手的倫理關(guān)卡。我們?nèi)绾未_保一個(gè)能力遠(yuǎn)超人類的AI系統(tǒng)其目標(biāo)、行為和決策與人類的價(jià)值觀、利益和意圖保持一致如何防止它“曲解”指令或者為了完成一個(gè)定義不當(dāng)?shù)哪繕?biāo)而采取有害手段經(jīng)典難題“回形針最大化”思想實(shí)驗(yàn)一個(gè)被賦予“最大化回形針產(chǎn)量”目標(biāo)的超級(jí)AI可能會(huì)將整個(gè)地球乃至宇宙的資源都轉(zhuǎn)化為回形針毀滅人類。價(jià)值負(fù)載人類的價(jià)值觀復(fù)雜、多元、動(dòng)態(tài)且常常自相矛盾。如何將其形式化為可計(jì)算的、無(wú)歧義的目標(biāo)函數(shù)研究方向可解釋AI讓AI的決策過(guò)程對(duì)人類透明便于監(jiān)督和糾偏。逆強(qiáng)化學(xué)習(xí)通過(guò)觀察人類行為反向推導(dǎo)出人類潛在的價(jià)值觀和偏好。辯論與監(jiān)督讓多個(gè)AI系統(tǒng)就某個(gè)決策進(jìn)行辯論或讓人類在關(guān)鍵環(huán)節(jié)進(jìn)行監(jiān)督和干預(yù)。形式化驗(yàn)證嘗試用數(shù)學(xué)方法證明AI系統(tǒng)在某些關(guān)鍵屬性上的安全性。3.5 關(guān)卡五安全與魯棒性一個(gè)強(qiáng)大的AI系統(tǒng)必須是安全的。這不僅指它不會(huì)主動(dòng)作惡對(duì)齊問(wèn)題也指它要足夠健壯能夠抵御各種意外和攻擊。安全維度對(duì)抗性攻擊對(duì)輸入進(jìn)行微小、人眼難以察覺(jué)的擾動(dòng)就能使AI系統(tǒng)做出完全錯(cuò)誤的判斷或輸出。分布外泛化當(dāng)遇到與訓(xùn)練數(shù)據(jù)分布差異很大的情況時(shí)AI性能會(huì)急劇下降行為不可預(yù)測(cè)。系統(tǒng)故障與邊緣情況在復(fù)雜、動(dòng)態(tài)的真實(shí)世界中如何應(yīng)對(duì)傳感器故障、通信中斷、未預(yù)見(jiàn)的交互等邊緣情況工程實(shí)踐這要求我們?cè)谙到y(tǒng)設(shè)計(jì)時(shí)就必須將安全作為首要考量采用冗余設(shè)計(jì)、安全邊界、沙箱隔離、持續(xù)監(jiān)控等手段。3.6 關(guān)卡六資源與能源效率如前所述當(dāng)前以大模型為代表的AI發(fā)展模式是“能源饑渴型”的。如果通往AGI/ASI的道路需要當(dāng)前算力需求的成千上萬(wàn)倍增長(zhǎng)那么從物理和經(jīng)濟(jì)學(xué)角度看這條路可能就是不可行的。創(chuàng)新方向神經(jīng)形態(tài)計(jì)算模仿人腦的低功耗、異步、事件驅(qū)動(dòng)特性設(shè)計(jì)新型芯片。算法-硬件協(xié)同設(shè)計(jì)開(kāi)發(fā)與新型高效算法如稀疏激活、混合精度相匹配的專用硬件。模型壓縮與蒸餾在盡可能保持性能的前提下大幅減小模型體積和計(jì)算需求。可再生能源驅(qū)動(dòng)將AI計(jì)算中心與太陽(yáng)能、風(fēng)能等可再生能源直接結(jié)合。這六道關(guān)卡相互關(guān)聯(lián)一道不通可能全盤皆阻。例如一個(gè)無(wú)法進(jìn)行穩(wěn)健推理的AI其價(jià)值對(duì)齊也很難保證一個(gè)能源效率低下的AI其大規(guī)模部署和持續(xù)學(xué)習(xí)都會(huì)受限。4. 從論文到現(xiàn)實(shí)從業(yè)者視角下的冷思考與熱行動(dòng)DeepMind的這篇論文為我們勾勒了一幅宏大的圖景但作為一線的研發(fā)者、產(chǎn)品經(jīng)理或創(chuàng)業(yè)者我們需要更接地氣的思考。AGI/ASI是星辰大海但我們腳下的路是泥濘的。4.1 警惕“終局?jǐn)⑹隆钡南葳濉敖颐谹I終局”這樣的標(biāo)題很有吸引力但我們必須清醒認(rèn)識(shí)到技術(shù)預(yù)測(cè)尤其是關(guān)于顛覆性技術(shù)的預(yù)測(cè)其歷史準(zhǔn)確率低得可憐。這篇論文的價(jià)值在于提供了一個(gè)思考框架和問(wèn)題清單而不是一份時(shí)間表或路線圖。過(guò)早地聚焦于一個(gè)假想的“終局”可能會(huì)讓我們忽視眼前更緊迫、更實(shí)際的問(wèn)題或者將資源錯(cuò)誤地投入到一條死胡同里。保持技術(shù)上的開(kāi)放性和敏捷性比篤信某一條特定路徑更重要。4.2 關(guān)注“近端進(jìn)化”而非“遠(yuǎn)端幻想”對(duì)于絕大多數(shù)團(tuán)隊(duì)而言與其空想AGI不如深入研究如何讓現(xiàn)有的AI技術(shù)變得更可靠、更高效、更易用、更安全。這包括提升現(xiàn)有模型的推理可靠性通過(guò)思維鏈、自我驗(yàn)證、工具調(diào)用等工程技術(shù)彌補(bǔ)模型的內(nèi)在缺陷。解決數(shù)據(jù)隱私與合規(guī)問(wèn)題如何在保護(hù)用戶隱私和滿足數(shù)據(jù)法規(guī)的前提下持續(xù)優(yōu)化模型降低部署與推理成本讓AI能力能夠以可承受的成本惠及更多企業(yè)和用戶。構(gòu)建有效的AI治理與評(píng)估體系在金融、醫(yī)療、司法等高風(fēng)險(xiǎn)領(lǐng)域如何評(píng)估和認(rèn)證AI系統(tǒng)的安全性與公平性這些“近端”問(wèn)題的解決本身就是在為未來(lái)的AGI積累必不可少的基礎(chǔ)設(shè)施、方法論和信任資本。4.3 跨學(xué)科合作成為必然從論文中列舉的關(guān)卡可以看出AI的未來(lái)發(fā)展早已超越了計(jì)算機(jī)科學(xué)的范疇深度融入了認(rèn)知科學(xué)、神經(jīng)科學(xué)、倫理學(xué)、法學(xué)、經(jīng)濟(jì)學(xué)甚至哲學(xué)。例如價(jià)值對(duì)齊問(wèn)題需要倫理學(xué)家和哲學(xué)家的參與具身智能需要機(jī)器人學(xué)家和認(rèn)知心理學(xué)家的洞察集體智能的研究可以從社會(huì)學(xué)和經(jīng)濟(jì)學(xué)中汲取營(yíng)養(yǎng)。建立一個(gè)包容多元學(xué)科的研發(fā)文化和團(tuán)隊(duì)結(jié)構(gòu)將是突破瓶頸的關(guān)鍵。4.4 保持對(duì)“能力-風(fēng)險(xiǎn)”平衡的敏感度AI能力的每一次顯著提升幾乎都伴隨著新的風(fēng)險(xiǎn)敞口。一個(gè)能編寫復(fù)雜代碼的AI也可能被用來(lái)生成惡意軟件一個(gè)能進(jìn)行深度對(duì)話的AI也可能被用于大規(guī)模、個(gè)性化的欺詐或操縱。在追求更高性能的同時(shí)必須同步甚至超前部署相應(yīng)的安全研究和治理措施。業(yè)界領(lǐng)先的實(shí)驗(yàn)室已經(jīng)開(kāi)始設(shè)立“AI安全”或“負(fù)責(zé)任AI”的獨(dú)立團(tuán)隊(duì)這應(yīng)該成為一種行業(yè)標(biāo)準(zhǔn)而非可選項(xiàng)。5. 個(gè)人實(shí)踐在現(xiàn)有技術(shù)邊界內(nèi)探索“通用性”雖然真正的AGI尚遠(yuǎn)但我們可以在現(xiàn)有技術(shù)框架下嘗試構(gòu)建一些具備“準(zhǔn)通用”特性的系統(tǒng)或工作流。這不僅能解決實(shí)際問(wèn)題也能幫助我們更深刻地理解通用智能的難點(diǎn)。5.1 構(gòu)建模塊化、可編排的AI智能體工作流與其等待一個(gè)“全能”的AI不如將復(fù)雜任務(wù)分解讓多個(gè)各有所長(zhǎng)的“專家”AI智能體或工具協(xié)作完成。例如規(guī)劃智能體接收用戶模糊需求通過(guò)對(duì)話澄清并拆解為具體的、可執(zhí)行的任務(wù)列表。研究智能體根據(jù)任務(wù)調(diào)用搜索引擎、學(xué)術(shù)數(shù)據(jù)庫(kù)API收集和總結(jié)相關(guān)信息。創(chuàng)作智能體基于收集的信息和規(guī)劃起草報(bào)告、代碼或設(shè)計(jì)方案。批判與修訂智能體對(duì)創(chuàng)作內(nèi)容進(jìn)行邏輯檢查、事實(shí)核查、風(fēng)格優(yōu)化。工具調(diào)用智能體在流程中根據(jù)需要調(diào)用計(jì)算器、代碼執(zhí)行環(huán)境、繪圖工具等。通過(guò)設(shè)計(jì)一套穩(wěn)定的通信協(xié)議和狀態(tài)管理機(jī)制這樣一個(gè)多智能體系統(tǒng)可以在特定領(lǐng)域如行業(yè)分析、內(nèi)容創(chuàng)作輔助展現(xiàn)出遠(yuǎn)超單一模型的適應(yīng)性和可靠性。這本質(zhì)上是在用工程方法模擬“集體智能”路徑。5.2 深入探索“模型知識(shí)庫(kù)推理引擎”的架構(gòu)這是應(yīng)對(duì)當(dāng)前模型在事實(shí)性和邏輯推理上不足的一種務(wù)實(shí)策略。模型作為通用的語(yǔ)言理解和生成接口。知識(shí)庫(kù)可以是結(jié)構(gòu)化的知識(shí)圖譜、向量數(shù)據(jù)庫(kù)存儲(chǔ)的領(lǐng)域文檔或者實(shí)時(shí)接入的權(quán)威數(shù)據(jù)API。它為模型提供準(zhǔn)確、及時(shí)的事實(shí)依據(jù)。推理引擎可以是一套規(guī)則系統(tǒng)、一個(gè)符號(hào)推理器或者另一個(gè)專門微調(diào)過(guò)的用于邏輯驗(yàn)證的小模型。它負(fù)責(zé)處理需要嚴(yán)格推導(dǎo)的步驟。當(dāng)用戶提問(wèn)時(shí)系統(tǒng)首先用模型解析問(wèn)題然后從知識(shí)庫(kù)中檢索相關(guān)證據(jù)再引導(dǎo)推理引擎基于證據(jù)進(jìn)行逐步推導(dǎo)最后用模型將推導(dǎo)結(jié)果組織成自然語(yǔ)言回復(fù)。這種架構(gòu)雖然復(fù)雜但在醫(yī)療咨詢、法律分析、金融風(fēng)控等對(duì)準(zhǔn)確性要求極高的場(chǎng)景下是當(dāng)前技術(shù)條件下更可靠的選擇。5.3 重視“人在回路”的價(jià)值在可預(yù)見(jiàn)的未來(lái)人類在復(fù)雜決策、價(jià)值判斷和創(chuàng)造性思維上的優(yōu)勢(shì)無(wú)法被取代。最強(qiáng)大的系統(tǒng)應(yīng)該是“人類-AI”協(xié)同系統(tǒng)。這意味著我們的產(chǎn)品設(shè)計(jì)不應(yīng)追求全自動(dòng)化而應(yīng)追求最優(yōu)的交互體驗(yàn)讓AI成為人類能力的放大器。例如AI可以生成多個(gè)備選方案并分析其利弊但最終選擇權(quán)交給人類AI可以標(biāo)記出文本中可能存在事實(shí)錯(cuò)誤或邏輯矛盾的地方由人類來(lái)最終核實(shí)和定奪。這種設(shè)計(jì)哲學(xué)本身也是對(duì)“價(jià)值對(duì)齊”和“可控性”關(guān)卡的一種現(xiàn)實(shí)回應(yīng)。DeepMind的論文像一盞探照燈照亮了AI前進(jìn)道路上的一些關(guān)鍵路標(biāo)和深坑。它沒(méi)有給出答案而是提出了更深刻的問(wèn)題。對(duì)于我們每個(gè)身處其中的人來(lái)說(shuō)保持敬畏、專注當(dāng)下、積極協(xié)作或許是在這個(gè)激動(dòng)人心又充滿不確定性的時(shí)代里最理性的選擇。真正的“終局”無(wú)人知曉但通往它的每一步都取決于我們今天如何思考、如何選擇、如何行動(dòng)。