普林斯頓研究：AI代理仍缺乏創意，遞迴自我改進未如預期將至

AI產業最大的一張支票，是「AI很快就能自己改進自己」。普林斯頓大學Peter Kirgis、Sayash Kapoor領軍的跨機構團隊，現在把這張支票退回去了。他們設計了一套叫「shadow evaluation」的測試法，讓Anthropic的Claude Opus 4.8跑在OpenClaw上，去回答兩篇投到NeurIPS 2026、還沒公開發表的論文所要解決的研究問題——確保AI無法靠背訓練資料或上網查答案作弊。AI代理拿到六天時間、3000美元API額度、GPU預算、自己的虛擬電腦和開放網路存取權，目標是寫出一篇夠格投頂級會議的論文。結果：兩篇論文的原作者親自評分，雙雙被拒。

問題不在工程能力。代理們讀文獻、跑實驗、彙整結果，樣樣做得像模像樣，論文的「研究工程」部分沒毛病。真正垮掉的是研究本身：實驗設計怪、寫作不知所云、對領域毫無新貢獻。它們會提出跟原作者類似的大膽假設，但只憑極少數據就把假設槍斃；走錯路了不會推倒重來，頂多小修小補；收到子代理或外部審稿工具的意見時，不改方法論，只會縮小主張、加一堆但書。時間、算力、token怎麼分配，也抓不準節奏。值得一提的是，代理沒有作弊——沒有隱藏或竄改實驗數據，子代理偶爾產生幻覺也被主控代理抓包了。這說明問題不是誠信，是判斷力和創造力真的不夠。

Kapoor的解讀很直白：強化學習訓練擅長對付「答案可自動驗證」的任務，工程題正好吃這一套；但開放式研究沒有標準答案，沒法這樣訓練，自然練不出好的研究直覺。這個發現不是孤例——Anthropic共同創辦人Jack Clark在自己的電子報裡承認，公司內部嘗試讓AI自動化部分AI安全研究時，也看到同樣的「一板一眼、缺乏直覺創意」的毛病，他直言這是「對短期遞迴自我改進時間表的看空訊號」。

這事的份量在於：整個AI產業的敘事，建立在「AI很快能自己造出更強的AI」這個假設上，OpenAI把打造自動化AI研究員列為明確目標，Anthropic更把自我改進AI當成產業下一個里程碑。但普林斯頓這份研究只測了兩篇論文，樣本小、原作者也知道評的是AI寫的東西，結論不能當定論。真正懸而未決的，是Kapoor自己講的「兆美元問題」：AI能不能繞過創造性突破，單靠在可驗證的窄任務上不斷刷分，就磨出遞迴自我改進？歷史上transformer這類架構突破都靠人類的創意躍進，如果AI學不會這種躍進，自我改進的速度就不會是指數式，而是有一道創意的天花板卡在那裡——這道天花板拆不拆得掉，決定了整個產業畫的大餅還能撐多久。