【專訪】博斯特羅姆烏托邦：AI解決一切後，人為何而活

這場對談有幾個值得說的點。第一，博斯特羅姆說 p(doom)——各方研究者給 AI 毀滅人類的概率估值——根本沒有數學基礎，純粹是主觀感受，不同人給出的數字從 10% 到 70% 都有，這事本身就值得想一想。第二，他把風險拆成兩件事：技術的 alignment（讓 AI 乖乖聽話）和治理（人類拿到控制權之後會不會作惡），兩件事都不好解決。第三，他新書描繪的已解決世界，是一個 AI 和機器人包辦所有工作，人類只剩休閒的社會，聽起來美好，但他自己承認：當技術把所有限制都剝掉，人的意義感也跟著消失了。第四，他用道德議會描述自己怎麼做決策，這是他拒絕給出簡單指引的核心理由——也是主持人最不買單的地方。第五，他談的最終願景是一條幾百年，幾千年的慢慢演化之路，不是一夜之間變成外星超級心智，但連這個他也承認我們根本不知道那是什麼。幾個點合起來的意思是：這個領域最早的預警者，現在自己也沒有答案。

◎p(doom）是感覺，不是計算

有 Anthropic——OpenAI 前核心成員出走後創立的 AI 公司——的研究員公開說 AI 毀滅人類的概率大約 10%，也有人說 70%。博斯特羅姆直接講清楚：這些數字沒有任何共同的計算基礎，純粹是每個人把自己的直覺量化出來而已。不同人得出天差地遠的數字，本身就是證明。他自己給的定性評估是憂慮的樂觀主義者——認為有真實風險，但相信有可能躲過去。這個說法聽起來圓融，但更值得注意的是下面那個推論：既然連概率都算不出來，那些拿著 10% 或 70% 為政策背書的人，他們在說什麼？

◎風險是兩件事，不是一件事

博斯特羅姆把 AI 風險切成兩層。第一層是 alignment，也就是技術問題：AI 愈來愈強之後，怎麼確保它還是在做我們要它做的事，而不是偏掉？第二層是治理問題：就算我們解決了 alignment，人類拿到這把刀之後，會不會用來打仗，壓迫彼此，讓少數人集中所有權力？這個切法很重要，因為大部分的公共討論把兩件事混在一起——要嘛說 AI 本身會叛變，要嘛說政府管不好。博斯特羅姆說兩個都是真問題，而且是獨立的真問題，需要分開應對。

◎已解決世界的意義危機

新書《深度烏托邦》描述的最佳情境是：超級 AI 出現後，幾乎所有科學和經濟活動都以數位速度狂奔，老化，疾病，貧窮一一被解決，機器人包辦所有勞動。剩下的人類，生活大概像有錢有閒又身體健康的退休人士——旅行，社交，打高爾夫。聽起來不壞。問題是博斯特羅姆往下多想了一步：當 AI 的推薦系統比你更了解你的品味，連選窗簾這件事都幫你選得更好，你為什麼還要自己選？跑步是為了腦內啡，但技術上你可以直接觸發腦內啡。當每件事都有捷徑，做事的意義從哪裡來？他沒有給出答案，但他承認這是他自己覺得最難的哲學問題。

◎道德議會，以及為什麼他不給答案

主持人一再逼問：你個人認為哪個未來是好的？博斯特羅姆的回答是他用道德議會來思考倫理——想像功利主義，義務論，德性倫理，自我利益各派都派代表進議會，按照各自的可信度分配席次，然後讓他們談判出一個政策。這個框架本身沒錯，但主持人點出了一個真實的問題：當你最有影響力的時候，這個框架實際上給了人們選擇麻痺，而不是指引。博斯特羅姆承認他沒有更多答案可給，但他解釋自己更在意的不是要到達哪個終點，而是不要把路走死——保留選項，慢慢走。

◎幾百年慢慢走，不是一夜變超人

博斯特羅姆描述的個人願景，是一條漫長的演化路徑：先用長壽技術多活幾百年，把人類能做的事慢慢做透，再逐步解鎖更多心智能力，一層一層往上加，而不是一夕之間跳成無法想像的後人類超級心智。他說我們就像還沒進化完的巨猿，目前只探索了可能性這座大教堂裡的一個小儲藏間，假設這個小空間就是最好的，本身就太傲慢了。主持人的反應很直接：我喜歡我現在的人類狀態，你說的那條路我不想走。博斯特羅姆說：這種反應本身就說明了你在乎什麼。

看完這場訪談，最誠實的結論大概是博斯特羅姆本人在接近尾聲時說的那句話：對於幾百年後那個世界，我們在深層意義上根本不知道。這不是謙遜，這是事實。一個最早發出警告的人，在警告成為主流之後，開始認真思考最好的情況是什麼——然後發現就連最好的情況，也充滿了我們目前沒有工具回答的問題。你不必為此恐慌，但你也不必因為他沒給答案就覺得失望。有時候，把問題問清楚，比硬塞一個答案更有用。