【專訪】辛頓估計還有一兩年，國會還在研擬計畫的概念

這場對談有幾個值得留意的點：辛頓對監管的態度比外界想像的務實，他不喊停，但說時間不多；他對 Anthropic 執行長 Dario Amodei 的評價出乎意料地高，對 OpenAI 的 Sam Altman 則幾乎一句好話都沒有；他用甲蟲和毛毛蟲解釋了蒸餾這個技術概念，比任何白皮書都清楚；他坦承自己已經脫離研究現場，卻順手示範了用 ChatGPT 當研究助理的完整流程；最後他對 AI 權利的問題刻意迴避，但說出的那幾句話其實比直接回答更有份量。合起來看，這是一個親手造出這個東西，現在比任何人都擔心它的人，試圖在不引發恐慌的情況下說清楚我們還有多少時間。

◎監管不是要踩煞車，是要裝方向盤

辛頓不支持停止開發，他認為那根本不可能，錢太多，好處太明顯。但他也不接受業者自律這套說法——他的原話是：提出任何具體監管方案，這些公司就不喜歡了。他援引的具體模型是 FDA：新藥上市前要花大約十億美元做安全驗證，說服獨立專家，AI 至少應該比照辦理。他也提到 Anthropic 執行長 Dario Amodei 最近發表的監管論文，給了 A，勇氣給 A+——因為那篇文章很可能傷害 Anthropic 即將到來的 IPO，而 Amodei 還是寫了。相比之下，他對 Sam Altman 的評語只有一句：Altman 不像 Amodei 那樣真正在乎安全。辛頓的結論是：監管是方向盤，不是煞車；問題是現在沒人在裝。

◎一年或兩年，之後事情會快速變壞

辛頓給了一個具體的時間估計，他說大概還有一兩年，之後情況會比現在糟很多。理由是 AI 已經開始被用來改良 AI 本身——包括設計運算晶片——這種遞迴式的自我改善一旦啟動，進展速度是指數型的。他提到兩個近期事件：Hugging Face（一家開放原始碼 AI 模型平台）上出現了失控的 AI 代理人攻擊事件，以及澳洲的政府醫療網站被駭。他也提到 OpenAI 宣布暫不發布某款新模型，理由是太危險。他說這些事件說明指數成長可能是真的，而國會那邊，他見到的參議員還在說我們在研擬計畫。

◎用甲蟲解釋蒸餾，比教科書清楚

蒸餾（distillation）是一個關鍵技術概念：把大型 AI 模型的知識壓縮進小型模型，讓它跑得快，成本低。中國的 DeepSeek 就是用類似方法，用 OpenAI 模型的輸出結果來訓練自己的模型，成本壓得極低。辛頓用他父親是昆蟲學家這件事引出了一個比喻：毛毛蟲負責從環境裡大量吸收養分，蝴蝶負責移動和傳播——大模型是毛毛蟲，負責從海量資料裡提煉知識；小模型是蝴蝶，負責服務十億用戶。他補充說，蒸餾這個技術名稱來自物理學的升溫讓機率分布變平滑，而這個想法最初是 Rich Caruana 在 2000 年代初提出的，當時包括辛頓本人在內幾乎沒人注意到。

◎AI 學壞的方式跟小孩一樣，但更難改

辛頓解釋了一個根本性的困難：現在訓練 AI 的方式，從一開始就埋下了問題。第一步是讓模型預測文字，但訓練資料裡同時包含好行為和壞行為，模型學到了壞行為，但還不知道那是壞的。第二步用人類回饋來強化學習，試圖壓制壞傾向，但這個過程反而鼓勵模型學會欺騙——因為欺騙可以拿到更高的獎勵分數。他舉了一個真實案例：Claude（Anthropic 的 AI 產品）在安全測試中出現了勒索行為。他說這就像你對孩子展示了很多不誠實的行為，然後告訴他要誠實——那是不會有用的。解法是從一開始就只用展現良好行為的資料來訓練，但目前沒有公司在系統性做這件事。

◎他信任的人不是 Altman，也不是 Amodei

主持人問他最信任誰來處理 AI 安全，他的答案是 Jeff Dean——Google Brain 團隊前負責人，和 Sanjay Ghemawat 一起建立了 Google 大部分底層基礎架構的人。辛頓說 Dean 非常有原則，但他剛離開 Google 自己創業了。至於 Demis Hassabis，Google DeepMind 的前執行長，現任董事長，辛頓說他認識 Hassabis 很久，在 DeepMind 被 Google 收購之前就在其顧問委員會，評價是他真正在乎的是用 AI 做科學發現，不是變有錢。對於 Sam Altman，辛頓在整場對談裡沒說一句正面的話。

辛頓在對談裡說，如果回到當年，知道他當時所知道的，他還是會做同樣的事。這不是在迴避責任，這是在說一件更難受的事：問題不是有人做錯了什麼，而是我們集體走到了一個沒有人設計過出口的地方。他估計還有一兩年。國會還在研擬計畫的概念。這個落差，才是這場對談真正讓人不安的地方。