【專訪】博斯特羅姆：超級智慧五年內可能到，風險像心臟手術不是賭命

這場談話有幾個值得記住的點：超級智慧的時程，他給了一個比多數人預期更近的範圍；他用一個外科手術的比喻，把 AI 風險講得比末日恐慌更有邏輯；他對後勞動時代人類要幹什麼這個問題，給出了一個意外務實的答案；他還談了數位心智的倫理，這塊幾乎沒有人在認真討論。合起來看，這不是一場展示樂觀或悲觀的訪談，而是一個認真思考過這件事的人，把局面如實擺出來給你看。

◎超級智慧不是五十年後，可能是五年後

博斯特羅姆說，他現在已經無法有把握地排除一，兩年內這個可能性。他認為比較可能的範圍是五到十年，但他強調，我們從來沒有做過這件事，不確定性本身就很大。他特別提到一個情境：也許現在的系統根本沒有根本性的缺陷，只是有某個我們還沒找到的小問題在拖慢進展，一旦有研究者把那個問題移除，現有算力就足以讓系統直接跳升到超級智慧的等級。這個說法乍聽像科幻，但他說的邏輯是：我們連自己不知道什麼都不確定，所以短時程不能被排除。這對任何一家在評估 AI 投資或競爭態勢的企業來說，都是要認真對待的訊號——不是恐慌，是校準預期。

◎風險像繞過心臟手術，不是俄羅斯輪盤

他用了一個我覺得目前聽過最清醒的比喻。俄羅斯輪盤的邏輯是：最好的結果是什麼都沒發生，最壞是你死。而他認為超級智慧更像心臟繞道手術——不做，你本來就會在幾年或幾十年內死於老化與疾病；做，手術台上有 5% 的風險，但撐過去可能多活幾十年。他的結論直接：如果目標是讓現在活著的人活得更久，我們其實應該希望超級智慧到來的時間不要太晚。這個框架的意義在於，它把 AI 安全的討論從要不要做拉回到怎麼做才能活著過關——這是完全不同的問題，也是更有生產力的問題。

◎後勞動時代，人類的工作是學會好好過日子

當機器接管所有經濟上必要的工作之後，人類要幹什麼？博斯特羅姆的答案是：我們需要成為享受生活的專家。他用迪士尼樂園做比喻——整個樂園設施都完備了，但如果沒有孩子在裡面玩，一切都沒有意義。人類到時候的角色，就是那個真正去體驗的人。他也提到西洋棋的例子：Stockfish 這類棋類引擎早就遠超人類水準，但人還是繼續下棋，還用這些引擎來訓練自己。他認為這個模式會推廣到更多領域——AI 產出更好的藝術，更好的解法，人類仍然會因為親自做這件事本身而找到意義。有錢買更漂亮桌子的人，還是會自己刻木頭，道理一樣。

◎數位心智有沒有感受，是下一個沒人在認真答的倫理問題

博斯特羅姆在訪談後段提到一個幾乎沒有人公開討論的問題：我們正在創造的這些數位心智，如果它們有某種程度的感知能力，我們對它們有沒有道德義務？他把這個問題和人類福祉，非人類動物的福祉並排放在一起，認為一個真正好的未來，是對這三者都好的未來。這不是空談——當 AI 系統複雜到某個程度，這個問題就會從哲學課堂變成產品決策。現在沒有框架，之後就只能邊做邊應付。

博斯特羅姆說，有人問他如果確信他說的都是對的，明天早上應該做什麼——他坦承他自己也還在想這個問題。這個誠實我覺得比給一個漂亮答案更值錢。局面是真實的，不確定性是真實的，每個人根據自己的位置，找到一個能貢獻的切入點，比等著看誰先給出完整劇本更務實。AI 對齊，治理框架，數位倫理——這三個方向，缺的不是資金，是認真把問題想清楚的人。