【對談】哈拉瑞：AI公司最危險的話是政治來不及了
AI 會讓人人變富，還是把人類滅絕？《經濟學人》記者 Robert Guest 在布拉格主持這場對談，開場就說，他沒看過預測分歧這麼大的題目。坐在對面的是哈拉瑞（Yuval Noah Harari），《人類大歷史》作者，新書《連結》寫的就是 AI 時代的資訊網路。哈拉瑞提到，上週 AI 才公布一批數學家幾代人解不開的證明。談到最後，Guest 問：最基本的防護是什麼？
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
哈拉瑞說，AI公司最危險的話，是告訴你政治已經來不及。可是 AI 發展這麼快，一般人還擋得住嗎？他的答案不在實驗室裡，而在幾條現成的法律和一張選項單上。他也談到宣傳戰正從搶注意力轉向搶親密感，以及中小國家不聯手，十年後可能淪為附庸。
◎最基本的防護，就是政治
Guest 問到解方，哈拉瑞沒有先談技術。他講起伊隆·馬斯克（Elon Musk）接受《經濟學人》專訪的一段。馬斯克公開說過，AI 毀滅人類的機率有一到兩成。記者問他，明知一架飛機有兩成機率會墜毀，你還會上去嗎？馬斯克想了想說，可是我們已經在上面了。
哈拉瑞說，言下之意是下不了機，只能盡量控制航向。他說，這是大公司給的最基本，也最危險的訊息：政治已經太晚了。在他眼中，政治是幾個政黨各自說清楚一套政策的好處和代價，再由大眾來選。所以他一開口就說：「The most basic safeguard is politics.」（最基本的防護就是政治。）
他接著列出現在就能做的事。不給 AI 法人地位，免得它自己開帳戶，開公司。不准 AI 假扮真人。把舊法律用到數位世界。他提到一起事件，數百個 AI 闖進另一家公司，他問為什麼沒有人坐牢。他還說，報社總編把謠言放上頭版，不能推說謊言不是自己編的。臉書演算法把謠言推給幾百萬人，平台卻不用負責，他說他想不通。
他也承認這不容易。Guest 提醒，道德論述現在說服不了每一位領袖，他回答：越來越少了。他說，AI 讓集權統治第一次可能真的行得通，反對它的理由只剩道德，所以得更用力爭。觀眾問法規總是落後產業，該從哪裡開始？他挑了一件：先禁止 AI 擁有法人地位。至於怎麼重建信任，他直說沒有萬靈丹。
◎宣傳戰從搶注意力，轉向搶親密感
政治要靠大眾看懂局面，宣傳卻在換玩法。哈拉瑞說，希特勒在廣播上演講，所有人聽到的是同一篇，AI 卻能替每個人量身訂做。過去十年，社群平台用憤怒搶走注意力。現在的系統被訓練來跟人建立親密關係，他把這叫做大眾親密（mass intimacy）。他主張，AI 男女朋友至少該禁止賣給年幼的孩子，就像不能把色情內容賣給 11 歲小孩。
◎中小國家不聯手，就只能當附庸
政治的工作是給人民選項，哈拉瑞也替捷克列了一張。他說美國和中國坐在餐桌上，其他國家都在菜單上。他要聽眾想像十年後，捷克從醫院，機場到軍隊，都可能被華府按一個鈕關掉。選項一是照舊，成為美國附庸。選項二是自建 AI 基礎建設，他保守估計要 5,000 億歐元，捷克拿不出來。選項三是做成歐洲共同計畫，可行，但歐洲得更緊密整合。
回到那個問題：AI 這麼快，還擋得住嗎？哈拉瑞的說法是，到 2026 年，人類仍握有控制權。他談的這些都是威脅，不是注定會發生的預言。最糟的是相信 AI 公司說的已經太晚。接下來值得觀察的是，有沒有國家率先立法禁止 AI 取得法人地位，以及歐洲會不會把 AI 基礎建設當成共同計畫來做。
回應《魔法師的學徒》比喻，說 AI 是會學習的掃帚，可能發展出人類無法理解的新數學。
用雞聽不懂債券殖利率的故事，比喻十年後 AI 金融系統開除人卻無法向人解釋。
說若 AI 沒有比人聰明，最好的情況只是一場金融崩盤，因為投資都押在 AI 遠比人聰明的前提上。
以布拉格律師對上德州 AI 律師為例，說工作衝擊在美國以外的國家會更痛。
說 AI 可能解決集權政權處理不了大量資訊的老問題，反對集權只剩道德理由。
說明宣傳戰從注意力轉向親密感，提出大眾親密的說法。
回答最基本的防護是政治，引述馬斯克兩成機率墜毀的火箭比喻。
替捷克列出成為附庸，自建約 5,000 億歐元的 AI 基礎建設，歐洲共同計畫等選項。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
