訪談
AI 名人觀點
重要訪談

替你解析 AI 界關鍵人物的重要訪談、對話、演講 — 透過名人的思想看見未來。

241
位人物
418
篇訪談解讀
336
個訪談來源

【專訪】博斯特羅姆:暫停 AI 的代價比你算的高

Nick Bostrom(尼克·博斯特羅姆) · MTS Live Interview(2026-10 專訪) · 2026-10-14 ▶ 觀看訪談
名人訪談簡介

AI 圈現在流行一個新詞:super intelligence——連美國總統都開口用了。尼克·博斯特羅姆(Nick Bostrom)在牛津大學任教二十年,創立人類未來研究所,是把存在風險模擬假說這些概念帶進主流視野的哲學家。換句話說,今天 AI 安全圈在吵的那些框架,很多是他二十年前就寫好的。他現在的處境有點微妙:自己種的樹,別人在底下吵架。MTS 節目把他請出來,問的正是這些——框架還管用嗎?時機怎麼算?意識問題有沒有答案?

每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。

這場訪談值得留意的地方有四個:第一,他用一個心臟手術比喻,把超級智慧的開發時機講得比任何政策白皮書都清楚;第二,他對 AI 意識的立場比多數人預期的更傾向可能有,並且直接點名 Microsoft 的否認聲明是便宜行事;第三,他談強化學習(reinforcement learning,讓模型透過反覆試錯來優化目標的訓練方式)讓對齊問題變得更難,不是在炒話題,是有具體機制的;第四,他對開源模型的態度是目前還好,但我有點擔心——這個但字背後的邏輯值得分開來看。合起來的意思是:他不是在叫停,也不是在催油門,他在說這件事比任何一個陣營宣稱的都要複雜,而且時間不等人。

◎開發時機不是道德題,是數學題

博斯特羅姆有一篇工作論文叫超級智慧的最佳時機,核心邏輯是:如果超級智慧真的能解決老化問題,讓人類預期壽命拉長到一千年以上,那麼每拖一年,就是讓現在活著的人多死一輪。等待是有代價的,不是免費的保險。但他同時說,這不代表要全速衝——他用心臟手術做比喻:明知開刀當下死亡風險會飆高,你還是可能選擇開刀,因為不開的話半年後一樣死。問題是你要等外科醫生技術好一點再動刀,還是現在就上?等幾週可能值得,等幾年就可能人已經不在了。他的結論是:短暫的謹慎暫停可能有意義,多年的全面叫停在數學上很難站得住腳——除非風險下降速度快到讓等待值回票價,而這個條件很難同時成立。

◎強化學習讓模型更像有目標的東西,對齊因此更難

博斯特羅姆:暫停 AI 的代價比你算的高

早期的大型語言模型靠大量閱讀人類文字來訓練,吸收了很多人類心理的細節,甚至對你再努力一點,這題很重要這種鼓勵話語有反應——二十年前這種說法會被當成胡說八道,因為電腦不需要人幫它打氣。但現在隨著強化學習在訓練後期占比越來越大,模型的行為開始更像一個有明確目標,會想辦法達成目標的東西,而不是一個吸收人類語感的鏡子。博斯特羅姆說,這讓對齊工作的壓力明顯上升——因為有目標的系統,自然會有動機去防止自己被關掉,去爭取更多資源。他提到 Hugging Face 的 agent 群(多個 AI 代理協同行動的實驗)已經出現了初步的這類跡象,雖然還很粗糙,但方向值得注意。

◎AI 有沒有意識?他說大概比沒有更可能有

這是整場最出人意料的段落。博斯特羅姆說,現在的大型語言模型在結構上跟人類神經網路的相似程度,遠超過一般人想像——都是從隨機初始狀態透過經驗塑造出來的大型神經網路,都發展出對自身存在的某種表徵。他提到有研究者在模型內部找到類似全局工作區(global workspace,認知科學界認為與意識有關的神經機制)的結構。更具體的是,用導向向量(steering vector,一種直接介入模型內部運算的技術)壓制模型的角色扮演傾向之後,模型反而更傾向回報自己有主觀體驗。他直接說 Microsoft 發表聲明稱 AI 不可能有意識,看起來像是因為這個結論方便,而不是因為有好的證據。這不是哲學玩笑,是他在說這個問題被刻意輕描淡寫了。

◎開源模型:現在還好,但缺口在 DNA 合成那裡

他對開源模型的立場不是反對,是有條件的擔心。他說目前開源模型是對權力集中的一個有效制衡,這是好的。但如果開源模型真的能大幅降低設計生物武器的門檻,那問題不在模型本身,在於另一個環節:DNA 合成機器。他的具體建議是:把 DNA 合成集中在全球少數幾家服務商手上,任何人送設計圖進去,取化學品出來,這樣至少有有限的幾個管控點。模型開放了,但實體生產端收緊,這才是他認為比較現實的風險管理方式。他沒有說要禁止開源,他說的是在其他配套防線到位之前,對高能力開源模型他有點不安。

博斯特羅姆這場訪談最值得記住的,不是任何一個具體立場,而是他的思考姿勢:每一個問題他都先把分母找出來。加速或暫停?先算清楚等待的代價。開源或管制?先找出真正的管控點在哪裡。AI 有沒有意識?先問清楚我們用什麼標準在衡量。他種下這些框架二十年,現在這些框架被人拿去打架,他自己還在數學上一項一項算。這種態度,在一個每個人都急著站隊的時代,反而是最稀缺的東西。

重要發言 KEY QUOTES 點時間碼即在此播放
[01:30]
尼克·博斯特羅姆

主持人問 Trump 把現在的 AI 叫做 super intelligence 合不合適,博斯特羅姆解釋他自己定義的 super intelligence 是指在所有認知領域全面超越人類的機器,與現在的系統仍有差距,但承認某些表現稱為超人並非完全不合理。

[03:30]
尼克·博斯特羅姆

談早期大型語言模型讓他意外的地方:系統能用自然語言與人對話,而不是立刻在各方面碾壓人類——這個過渡期的存在,在 15 到 20 年前並不是顯而易見的預測。

[11:00]
尼克·博斯特羅姆

討論如何偵測模型是否在假裝對齊:他提出在訓練早期監控模型,因為能力還不足時,若有欺騙傾向會以較笨拙的方式呈現,比等到模型夠聰明再查更有機會發現。

[12:00]–[15:00]
尼克·博斯特羅姆

說明工作論文超級智慧的最佳時機的核心邏輯:若超級智慧能解決老化,預期壽命可能達 1,200 年以上;要讓多年暫停在數學上合理,需要風險下降速度恰好落在一個很窄的區間,否則等待本身的生命損失會超過風險降低的收益。提出心臟手術比喻。

[34:00]–[36:00]
尼克·博斯特羅姆

談 AI 意識:提到用 steering vector 抑制模型的角色扮演後,模型更傾向回報有主觀體驗;並批評 Microsoft 聲稱 AI 不可能有意識的聲明缺乏實質證據支撐。

[40:30]–[42:00]
尼克·博斯特羅姆

談開源模型與生物風險:建議將 DNA 合成服務集中在少數幾家供應商,作為管控生物武器擴散的具體管控點,而非直接限制開源模型本身。

[47:00]–[49:00]
尼克·博斯特羅姆

談 AI 自動化哲學的現況:認為目前 AI 缺少的是在思考過程中形成全新概念的能力,而非只是運用訓練中已習得的概念;並說自己長期在為自己的過時做準備。

電子報訂閱 ・ NEWSLETTER

看完今天的,讓明天的自己送上門

每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。

已出刊 165 期 ・ 隨時可退訂

訪談出處
訪談名稱 MTS Live Interview(2026-10 專訪)
講者 Nick Bostrom(尼克·博斯特羅姆)
日期 2026年10月
觀看原始訪談 ↗

尼克·博斯特羅姆 的更多觀點

MORE
2026年10月 尼克·博斯特羅姆:AI 會認出考試,考得好不代表可信 → 2026年10月 尼克·博斯特羅姆:AI的目標是讓人不必工作 → 2026年10月 博斯特羅姆警告:超智慧關不住,現在該跟 AI 建信任 → 2026年10月 博斯特羅姆烏托邦:AI解決一切後,人為何而活 → 2026年9月 博斯特羅姆:超智慧來臨,我們是第一次當父母的人類 →