【專訪】鐵馬克算出來了：超級 AI 失控機率 92%，那個 20% 是公關數字

這場訪談有四個值得停下來想的點。第一，那個 20% 的風險數字是公關操作，不是科學；真實數字是 92%。第二，那些知道危險的 CEO 仍然在跑，不是因為他們壞，是因為賽局結構讓他們停不下來。第三，從 AGI 到超級 AI 的距離不是幾十年，可能是幾天。第四，監管的解法其實很平凡，AI 公司只需要被當成普通公司對待就夠了。合起來看，這不是科幻恐嚇，而是一個物理學家在告訴你：河裡有一條你看不見的線，我們正在往那個方向漂。

◎20% 是 PR，92% 才是數學

你聽過業界領袖說 AI 有 20%，25% 的機率毀滅人類嗎？鐵馬克說那個數字沒有任何計算基礎，是他們能說出口而不被立刻叫停的最大數字——說大一點，顯示他們認真；說小一點，業務還能繼續跑。他自己的研究結果是 92%，而且那是最樂觀的情境，只用一次。他的邏輯很直接：我們現在完全不知道怎麼控制一個比人類聰明非常多的東西，所以只要有人把它建出來，人類大概率失去對地球的主導權。你可以不同意他的結論，但你得先拿出自己的計算。

◎CEO 們不是壞人，是賽局把他們困住了

鐵馬克認識 Elon Musk，Demis Hassabis（Google DeepMind 創辦人），Dario Amodei（Anthropic 執行長，Anthropic 是專注 AI 安全的研究公司）和 Sam Altman，跟他們私下都談過。他說這些人完全理解風險，但仍然在跑。原因不是道德問題，是結構問題：只要其中一個人單方面停下來，他的位置馬上被一個願意繼續跑的人取代。這是經濟學裡的公地悲劇——每個人都清楚集體的結局，卻沒有人有誘因先停。他說這像希臘悲劇：神諭已經告訴伊底帕斯會發生什麼，他還是走進去了。解法不是說服他們，而是改變規則，讓任何人都不必進入這場賽跑。

◎AGI 到超級 AI 的距離，不是幾十年

AGI（通用人工智慧）是指能在各個領域達到受過良好教育的成年人水準的 AI。鐵馬克說 GPT-4 大約達到 27%，GPT-5 達到 57%，差距正在快速縮小，他不會驚訝 AGI 在一兩年內出現。Demis Hassabis 認為至少還要四年，他說也許吧，但那仍然很快。真正的問題在下一步：大多數人以為從 AGI 到遠超人類的超級 AI 需要很長時間，他說這個假設是錯的。一旦 AI 能做所有人能做的事，它就能做 AI 研究本身，開始自我改進，版本迭代從幾個月壓縮到幾天，幾小時。他把這個過程叫做智慧爆炸，而它的上限不是人類的想像力，是物理定律。

◎監管的解法其實很無聊

鐵馬克說 AI 是美國唯一一個強大卻幾乎沒有監管的產業，比開一家三明治店管得還少。他不是在要求什麼特殊待遇，他要的是普通待遇：你在賣出去之前，先證明它不會害人。藥品要這樣，食品要這樣，AI 不需要例外。他引用 1950 年代德國的沙利竇邁事件——一種宣稱能減輕孕吐的藥，導致超過一千名嬰兒出生時沒有四肢——說明監管真空的代價從來不是抽象的，而是具體的人命。他的論點是：只要 AI 公司被當成一般公司對待，那種有人明天就會發布毀滅性產品的恐慌感會自動消失，因為它在通過安全驗證之前根本不會上市。

鐵馬克用尼加拉瓜瀑布做比喻：河裡有一條你眼睛看不見的線，過了那條線，再強的游泳選手也沒用。他說人類的那條線在 AGI 和超級 AI 之間的某個地方。我們現在還在線的上游，還能游向岸邊。問題是沒有人在岸邊插一根旗子告訴你線在哪裡，而掌舵的人說他們之後會負責任。之後，從來都不會到來。