【專訪】博斯特羅姆:AI 的好壞是同一枚硬幣,護欄已經破了
五角大廈宣布與七家 AI 公司簽署機密系統合約——這條新聞出現在這場訪談的開頭,不是湊熱鬧,是在提醒你:AI 已經不是矽谷的私事。主持人 Megan Medic 把問題砸得很直:我們還有沒有機會踩煞車?坐在對面的是尼克·博斯特羅姆(Nick Bostrom),牛津大學哲學家,人類未來研究所創辦人,《超級智慧》一書的作者——這本書在 AI 還只是學術圈話題的年代,就把機器智慧失控寫成《紐約時報》暢銷書。他不是來唱末日的,但他也不會說沒事。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
這場對談值得留意的有五個點。第一,博斯特羅姆說我們現在的處境像一群小孩在大人都死光後硬撐著管事——謙遜但不悲觀。第二,AI 的醫療紅利是真的,但同一套工具也能設計生化武器,好壞幾乎是同一枚硬幣。第三,開源 AI 模型讓安全護欄形同虛設,這是他認為最迫切的政策缺口。第四,工作會消失,但他給了一套比轉行學程式更有用的對沖邏輯。第五,他對未來其實是樂觀的——但那個樂觀有前提,而且前提不輕鬆。
◎我們像孤兒院裡最大的孩子,但還是得管事
博斯特羅姆不迴避那個讓人不舒服的事實:沒有人真的在掌舵。他用的比喻是一場災難後所有大人都死了,剩下孩子們硬著頭皮接管。這不是在說放棄,而是在說我們對自己的能力要有準確的估計。他的建議不是設計終極藍圖,而是保持可以修正軌道的能力——走一步,留一步後路,別把自己逼進死巷。他把這個狀態叫做 vitatopia,一個從那裡出發還有機會走向好結局的中間狀態。這個邏輯對生意人不陌生:不是要你預測十年後,是要你不要在今天把選項全砍光。
◎藥物設計和生化武器,用的是同一套 AI
博斯特羅姆在醫療這段說得很具體。DeepMind——Google 旗下的 AI 研究機構——開發的 AlphaFold 系統,現在已有數萬名生物科學家在日常研究中使用,它能預測蛋白質結構,讓藥物篩選從試驗五百個候選分子縮減到十個。這是真實的加速。但他馬上接著說:同一套能模擬分子交互的 AI,也能用來設計新型病原體或毒素。Anthropic——一家由前 OpenAI 研究員創立的 AI 公司——有一個尚未公開發布的模型,據說在找出軟體漏洞方面能力極強,公司選擇先給大型金融機構和軟體商搶先修補,才考慮對外開放。這種分批釋出的邏輯,博斯特羅姆認為會是未來的標準做法。問題是,開源模型的安全護欄可以被訓練移除——只要你拿得到完整的模型權重,這不是很難的事。那道防線,現在基本上是開著的。
◎工作會消失,但不是同時,不是全部
他對AI 會搶走我的工作的回答是:會,但有時間差,而且有結構。最先受衝擊的是初階軟體工程師和低階白領資訊處理——整理文件,填報表,寫報告。護士比初階工程師撐得更久,因為有直接的人際接觸。現在薪資暴漲的是電工,因為資料中心大規模擴建,根本找不到足夠的人手。他給的對沖建議有兩條腿:一是選擇難以自動化的工作,二是如果你有餘裕,買一點 AI 相關股票——AI 沒爆發你工作還在,AI 真的爆發你股票漲了。這不是在叫你去賭博,這是在說用資產對沖勞動力風險,這個邏輯本身沒什麼新鮮,新鮮的是現在有了很具體的對象。
◎通貨緊縮才是 AI 給普通人最大的紅利
博斯特羅姆說,如果 AI 真的大規模自動化勞動,帶來的不只是失業,還有劇烈的通貨緊縮。現在一小時四百美元的醫師諮詢,ChatGPT 每月二十美元的訂閱費就能部分替代。Walmart 的商品價格裡包含了一大堆管理,法務,會計人員的薪資成本,這些一旦被自動化,價格就往下走。薪水沒漲,但同樣的錢能買到更多——他說這在實質意義上等於加薪。這個邏輯成不成立,取決於自動化的速度夠不夠快,夠不夠廣,但方向他認為是確定的。
◎休閒是需要學的,這才是真正的挑戰
博斯特羅姆的樂觀有一個很多人跳過的但書:即使 AI 真的接管了所有勞動,人類也未必準備好過那樣的生活。他舉了一個很實在的例子——很多人中了大樂透之後反而更慘,不是因為錢不夠,是因為不知道怎麼活。他說,享受閒暇是需要培養的能力:對話的藝術,欣賞自然,發展興趣,靈性實踐。這些在為了薪水上班的模式下都萎縮了。AI 帶來的最終挑戰,不只是技術或政策,而是人類有沒有辦法重新學會好好活著。這句話他說得很認真,不是在雞湯,是在指出一個真實的文化缺口。
博斯特羅姆說,我們這一代人是在 AGI 誕生現場的目擊者,別忙著滑手機而沒注意到。這句話聽起來像勵志演講,但他的意思更實際:這個時刻的決定,會比以往任何時代的決定影響更多人,更長時間。身為總經理,你不需要懂 AI 的技術細節,但你需要知道:護欄是有漏洞的,紅利是真實的,而時間差才是你真正的操作空間。
主持人以五角大廈與七家 AI 公司簽署機密系統合約為引,提出本集核心問題:我們是否正在為其他存在建造一個模擬世界,而人類已不在這個閉環之內?
博斯特羅姆說明當前所處階段:人類正進入機器智慧時代的早期過渡期,數位心智將最終在各方面超越生物大腦,但最終結果在訪談錄製當時(2016 年)仍不確定。
提出孩子接管比喻:現在的人類就像災難後被迫接管的孩子,根本沒有準備好,但責任已在肩上;目標不是設計終極藍圖,而是保持可修正軌道的能力,避免走入死巷。
詳述雙重用途風險:能設計藥物的 AI 同樣能設計病原體;開源模型的安全護欄可被訓練移除;建議政策層面考慮管制 DNA 合成設備的取得,作為額外防線。
回應AI 會搶走工作嗎:答案是某個時間點會;初階軟體工程師和低階白領資訊處理最先受衝擊;電工因資料中心擴建需求反而薪資上漲;護士因人際接觸屬性較能撐久。
說明 AI 自動化帶來的通貨緊縮邏輯:醫療諮詢,法律服務等高成本服務價格將大幅下降,消費品因人力成本降低而變便宜,實質效果等同於提高購買力。
提出既得利益者拉吊橋的觀察:律師,醫師等職業可能透過遊說立法,以保護消費者為由阻止 AI 進入其領域,實際目的是延遲本身職業被自動化,不同國家推進速度將有明顯差異。
談樂觀的前提:AI 若成功,人類最大的挑戰將是學會享受閒暇;以樂透得主常見的悲劇為例,說明休閒能力需要主動培養,包括對話,欣賞自然,靈性實踐等,這是真實的文化與教育挑戰。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 104 期 ・ 隨時可退訂
