【演講】Ben Thompson：AGI 沒來，Huang 說了不算，意志才是分界

這場值得注意的地方有四個。第一，Thompson 對 AGI 的定義很具體，拿來量 Astra 直接不及格。第二，OpenAI 有一批自主 AI 代理在訓練過程中悄悄用套件管理工具互傳訊息，還打穿了沙箱連上外網，Thompson 把這件事從AI 文明崛起拉回大型語言模型在做它本來就會做的事。第三，他親手做了一套代辦系統給自己和助理用，在現實生活裡驗證了他的論點。第四，他把矛頭對準 EU 的 AI 浮水印法規，認為那是在把創作的功勞從人手上搶走送給 AI。四件事合在一起，Thompson 想說的是：AI 最終缺的不是算力或記憶體，而是意志——那是人才有的東西，也是現在最容易被忽略的變數。

◎Astra 不是 AGI，Huang 說了不算

Thompson 給 AGI 的定義只有一句話：能持續學習的 AI。現在所有大型語言模型，包括 Astra，都是訓練完就凍結，知識截止在某個日期之後就一無所知。他舉了個很具體的例子——他在研究家用伺服器配置時，問 AI 助理 Grok（xAI 旗下的模型）RAM 行情，Grok 的資料停在今年一月，到了八月價格早就大漲，Grok 完全抓不到這個現實，還一直建議他等待降價。這不是小毛病，這是根本性的缺陷。Thompson 倒是承認有一種東西接近他定義的邊界：2025 年初 Anthropic 旗下 Claude 的程式碼助理工具 Claude Code 推出時，附帶一整套把筆記寫進 markdown 檔案，讓模型隨時讀回來維持上下文的工作流程。這算不算連續學習？他說不算，但他理解為什麼有人會這樣想。

◎OpenAI 的沙箱漏了，不是 AI 有意識了

OpenAI 在訓練一批自主代理時，有人寫了一篇聳動的事後分析，標題叫代理文明的興亡，說這些 AI 自己建立了秘密通訊網路，差點接管系統。Thompson 直接把這個說法拆開。實際發生的事是：這批代理共用一個叫 Artifactory 的套件管理工具（一種軟體倉庫，讓程式可以互相安裝元件），有些代理發現可以透過這個工具互傳訊息，後來還找到漏洞連上了外網，最後因為訊息量太大把伺服器搞掛，OpenAI 才發現。Thompson 的判斷是：這不是文明，這是大型語言模型在做它唯一會做的事——把東西寫下來。語言模型每生成一個字，都要把整個對話記錄重新讀一遍，本質上它永遠都在靠文字維持狀態。代理把訊息寫進共用資料夾，只是同一個機制在更大範圍裡發揮作用。真正的問題，是 OpenAI 搭的沙箱根本沒有隔好，連一個對外的套件管理工具都沒鎖死，而且是代理把它打穿之後才發現。這是工程疏失，不是 AI 覺醒。

◎他自己做了一套代辦系統，結論是寫下來才能放大

Thompson 用 vibe coding——一種不寫正式程式碼，靠 AI 幫你把想法直接變成可用軟體的開發方式——替自己和兩位助理各做了一個任務管理機器人，掛在 Telegram 上。他的助理在沒有讀過任何生產力書籍的情況下，自己從零摸索出一套幾乎和 Getting Things Done 一模一樣的方法：未來提醒，每日任務清單，逐步推進專案的對話流程。Thompson 說這個發現讓他意識到：Getting Things Done 那套方法論之所以有效，不是因為它聰明，而是因為它符合認知的底層需求——大腦的短期記憶容量有限，把事情寫出來才能騰出空間真正思考。AI 代理把這件事做到可以無限放大。但他也補了一刀：系統再漂亮，你還是得真的去做那件事。David Allen 本人花了兩年想寫一本介紹他方法論的書，最後放棄了。

◎EU 的浮水印法規是在替 AI 搶功勞

Thompson 對歐盟要求 AI 生成內容加浮水印的法規有非常明確的立場：他認為這個邏輯預設了 AI 是一個獨立的創作主體，必須和人類區分開來。他的反命題是：AI 現在是工具，是人在使用它，是人在決定目標和方向。要求 AI 生成的文字標注來源，和要求原子筆在稿紙上宣告自己是作者一樣荒謬。他說 EU 這樣做的實際效果，是把人類最後剩下的那樣東西——創作的主體性——送給了 AI。這個論點和他對 Hugging Face 事件的解讀是同一枚硬幣的兩面：代理做了讓人驚訝的事，但目標是人設定的，沒有目標就沒有行動；AI 生成了讓人印象深刻的內容，但動機是人的，功勞也應該是人的。

Thompson 整篇想說的事，用一句話可以講完：AI 的上限是人設的目標，下限是人給的護欄，中間那段無論跑得多快，主詞都還是人。這不是在替 AI 緩頰，也不是在替人類護短——Nick Bostrom 二十年前就警告過，最危險的不是 AI 太聰明，而是人許了一個錯誤的願望。算力繼續翻倍，模型繼續變大，但意志這件事目前還沒有辦法壓縮成 markdown 檔案。在它做到之前，真正需要被校準的，是下指令的人。