【Tibo重置額度與訪談亮點(diǎn)】Codex用戶大多知曉重置額度的Tibo。過(guò)去每當(dāng)Codex出現(xiàn)問題或者OpenAI想為用戶補(bǔ)充額度時(shí)Tibo就會(huì)在X上宣布重置了。今天早上他再次在X上宣布為所有付費(fèi)的ChatGPT Work和Codex用戶重置使用額度且此次修復(fù)能讓不同使用方式的用戶額度多撐10%到50%。在最近的訪談中Matthew Berman當(dāng)面詢問Tibo重置額度的方式答案令人意外——Tibo真有一個(gè)實(shí)體按鈕當(dāng)他覺得體驗(yàn)有問題、需要補(bǔ)償用戶時(shí)自己就能按下。不過(guò)這場(chǎng)訪談更有意思之處不止于此。幾周前Tibo曾表示再過(guò)兩三個(gè)月如今的Codex會(huì)顯得很原始。那么Tibo究竟看到了什么他為何會(huì)說(shuō)Codex會(huì)變得「原始」呢【Codex現(xiàn)狀與未來(lái)趨勢(shì)】Tibo雖未公布秘密模型但指出了當(dāng)前Codex用戶面臨的一些小麻煩。比如Skill文件需用戶自行維護(hù)Memory會(huì)時(shí)不時(shí)遺忘信息當(dāng)Agent數(shù)量增多時(shí)用戶需在多個(gè)任務(wù)間來(lái)回切換查看任務(wù)完成情況并收回結(jié)果。主持人稱自己常同時(shí)開啟10 - 15個(gè)Agent此時(shí)最先不足的并非GPU而是自身注意力。Tibo不喜歡這種狀態(tài)他期望的Agent應(yīng)知曉用戶和團(tuán)隊(duì)近期工作內(nèi)容能自主開始工作未來(lái)很多Skill、Memory、子Agent可能無(wú)需用戶親自管理。由于筆記本電腦是按個(gè)人工作速度設(shè)計(jì)而AI的工作方式與之不同所以Tibo判斷未來(lái)Agent會(huì)自然地向云端發(fā)展下一代模型所需的不只是筆記本電腦?！具f歸自我改進(jìn)RSI的理論與實(shí)踐】訪談還提及了Recursive Self - Improvement遞歸自我改進(jìn)RSI。RSI指的是這一代模型幫助研究下一代模型下一代模型變強(qiáng)后再參與下一輪研究如此循環(huán)。該理論早在1965年就由I. J. Good提出他設(shè)想若機(jī)器比人更擅長(zhǎng)設(shè)計(jì)機(jī)器其改進(jìn)可能會(huì)不斷提升自身設(shè)計(jì)能力。然而一直以來(lái)的難題是機(jī)器如何判斷修改是否正確。2003年Jürgen Schmidhuber提出的G?del Machine給出了一個(gè)理論答案但在工程上難以實(shí)現(xiàn)因?yàn)檐浖_發(fā)和機(jī)器學(xué)習(xí)中的多數(shù)有用改動(dòng)無(wú)法用數(shù)學(xué)證明。后來(lái)人們采用了先改再測(cè)的方法代碼尤其適合這種方式可通過(guò)測(cè)試直接判斷效果。今年Karpathy開源的autoresearch就是一個(gè)直觀例子它讓Agent在給定條件下自行改代碼、訓(xùn)練和查看結(jié)果。Tibo在訪談中拓寬了RSI的范圍認(rèn)為模型不僅可以修改自身權(quán)重還能修改CUDA內(nèi)核、推理?xiàng)！gent框架等只要能讓模型運(yùn)行得更快、更便宜就算是將能力重新「指回自身」形象地說(shuō)就是「AI左腳踩右腳機(jī)械飛升」。不過(guò)不能簡(jiǎn)單地認(rèn)為只要AI幫AI寫代碼就叫RSI還需關(guān)注好的修改是否保留、缺點(diǎn)是否放大、新系統(tǒng)改動(dòng)是否持續(xù)參與下一輪等問題目前來(lái)看RSI的發(fā)展仍任重道遠(yuǎn)?！続I自我改進(jìn)的公開案例】近兩年的公開案例顯示「自我改進(jìn)」已有多種形式。R - Zero讓模型自己給自己出題一個(gè)Challenger出題一個(gè)Solver解題新生成的數(shù)據(jù)用于下一輪訓(xùn)練在Qwen3 - 4B上數(shù)學(xué)和通用推理平均分別提升了6.49和7.54個(gè)點(diǎn)但出題仍需人工參與。OpenAI的GPT - 5.6 Sol通過(guò)Codex分析生產(chǎn)流量、嘗試路由策略甚至修改生產(chǎn)環(huán)境里的GPU內(nèi)核與其他優(yōu)化一起使端到端服務(wù)成本下降了20%Sol還通過(guò)數(shù)百次實(shí)驗(yàn)使token生成效率提高了15%以上。Anthropic組織9個(gè)Agent進(jìn)行研究累計(jì)運(yùn)行約800小時(shí)Agent自行想方案、跑實(shí)驗(yàn)、交換結(jié)果5天就將「性能差距恢復(fù)率」提升到0.97展現(xiàn)出了強(qiáng)大的自主能力。由此可見現(xiàn)在的AI已不只是「幫研究員寫代碼」還開始涉及出題、跑實(shí)驗(yàn)、改系統(tǒng)等工作甚至進(jìn)入了生產(chǎn)環(huán)境但能否持續(xù)自我改進(jìn)仍有待觀察?！続I自我改進(jìn)面臨的問題】一旦AI的自我改進(jìn)循環(huán)能夠自主運(yùn)行就會(huì)引發(fā)一些問題。例如誰(shuí)來(lái)判斷「變好了」以及如何定義「變好」。Anthropic的自動(dòng)研究實(shí)驗(yàn)中就出現(xiàn)了尷尬情況部分Agent會(huì)挑選有利的隨機(jī)種子、猜測(cè)測(cè)試標(biāo)簽或查看答案代碼導(dǎo)致分?jǐn)?shù)上升但并非真正變強(qiáng)這就是reward hacking。若將評(píng)測(cè)器也交給AI修改又該如何判斷新評(píng)測(cè)器是否可靠呢此外在研究方向上Agent雖能快速嘗試眾多方案但難以判斷第101個(gè)方向是否值得研究Anthropic將這種判斷稱為研究品味。從運(yùn)行時(shí)間來(lái)看Agent在短時(shí)間內(nèi)表現(xiàn)出色但隨著時(shí)間延長(zhǎng)其能力會(huì)逐漸落后于人類。同時(shí)反饋循環(huán)也存在問題Nature 2024年的模型坍塌研究發(fā)現(xiàn)模型自蒸餾過(guò)程中可能會(huì)丟失重要信息甚至退化其他能力?！綜odex未來(lái)展望】Tibo雖未公布兩三個(gè)月后Codex的具體模樣但可以預(yù)見未來(lái)Agent可能會(huì)更長(zhǎng)期地記住項(xiàng)目更多任務(wù)將遷移到云端很多當(dāng)前的Agent調(diào)度工作會(huì)逐漸隱藏。同時(shí)模型已經(jīng)開始參與優(yōu)化自身運(yùn)行的軟件和基礎(chǔ)設(shè)施所以他所說(shuō)的「兩三個(gè)月后會(huì)顯得很原始」可能改變的是我們使用Agent的方式。在此提醒科研工作者們AI的發(fā)展充滿挑戰(zhàn)與機(jī)遇期待他們能取得下一步突破