【對談】王堅說 AI 幫人，Yampolskiy 說再快就沒人

這場對談值得注意的有四個點：第一，Yampolskiy 認為 AGI（通用人工智慧，能跨領域自主運作的 AI，不同於現在的專用工具）一兩年內就會到，而我們什麼準備都沒有；第二，王堅根本不信 AGI 這個框架，他覺得那個詞本身就是問題；第三，兩人都說安全最重要，但對安全的定義南轅北轍；第四，Yampolskiy 直接說進階 AI 的安全問題無解——不是很難，是不可能。合起來看，這場辯論的真正張力不在於要不要蓋煞車，而在於兩個人連車是什麼都沒有共識。

◎AGI 一兩年內到來，但沒人準備好

Yampolskiy 說得很直：根據預測市場的數據，以及頂尖 AI 實驗室負責人自己講的話，人類距離 AGI 只剩一兩年。他的結論不是所以我們要加速，而是所以我們現在就該停下來——因為安全機制，監管框架，社會安全網，一樣都沒有準備好。他的比喻很有力：網路安全出錯，頂多換密碼，補發信用卡；AI 出錯，你沒有第二個人類文明可以重來。這個邏輯本身沒有破綻，問題是他的前提——AGI 一兩年內到——本身就是個極具爭議的預測，而他把它當成事實在用。

◎王堅不信 AGI，但這個立場本身就是個問題

王堅的回應很乾脆：他個人根本不相信 AGI 這個概念，對他來說 AI 就是 AI，是能力隨時間增長的機器系統，不需要另立一個通用智慧的框架來讓大家恐慌。這個立場有它的道理——把機器智慧和人類智慧放在同一個競爭軸上，本來就是個可以質疑的預設。但問題在於，如果你否認這個框架，你就很難回答 Yampolskiy 最核心的那個問題：當系統的能力已經超越人類，跨越多個領域，你用什麼機制確保它還在你的掌控裡？王堅沒有給出答案，他給的是信念——人類製造的問題，人類自己會解決。這話說起來很暖，但作為技術論證，它是空的。

◎安全無解，這不是悲觀，這是研究結論

這場最刺的一句話是 Yampolskiy 說的：對於進階 AI，安全根本沒有解，是不可能的問題，就像打造永動機一樣。他的研究方向是 AI 的可控性，他得出的結論是：你無法無限期地控制一個比你聰明百萬倍的系統。這句話不是情緒，是他的研究結果。王堅的反問是：你能不能在不減慢開發速度的前提下確保安全？Yampolskiy 的回答也很直白：如果你只做專用工具型 AI，可以；如果你要做 AGI，不行。這個交換是整場最清晰的一刻，也是兩人立場最無法調和的地方。

◎飛機比喻說明了什麼，又遮蔽了什麼

王堅舉了一個例子：現代飛機大量仰賴軟體控制，早期也很危險，但現在比以前安全得多。他用這個比喻說明技術可以在迭代中變安全。這個比喻在窄域工具上是成立的——飛行軟體有明確的任務邊界，有可測試的失敗模式，有監管機構逐一驗證。但 Yampolskiy 的擔憂恰恰是跨域，自主的通用系統，那個東西的失敗模式你根本無法事先預測，就像你無法預測一個人類會怎麼出錯一樣。飛機比喻是好的比喻，但它比喻的是窄域 AI，不是 AGI。用對地方，它很有說服力；用錯地方，它就是在迴避問題。

看完這場，你會發現兩個人吵的根本不是同一件事。王堅在談現有的 AI 工具，Yampolskiy 在談還沒到但快到了的 AGI。這不是雞同鴨講，這是目前整個 AI 辯論的核心困境：我們用同一個詞，指著兩個完全不同的東西，然後假裝在討論同一個問題。在這個共識建立之前，所有關於要不要踩煞車的討論都是在空轉。