【專訪】哈拉瑞：最危險的移民潮是 AI 移民
寫《人類大歷史》的歷史學家哈拉瑞（Yuval Noah Harari），在一支訪談剪輯裡說，中東和烏克蘭的戰場上，扣扳機的還是人，挑轟炸目標的卻越來越常是AI。他還說，等十年後才覺得可怕，大概就做不了什麼了，要轉向就是現在。接著他把話題轉到移民：擔心移民的人，真正該擔心的是誰？
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
哈拉瑞說，當今最危險的移民潮是 AI 移民，主要來自美國和中國。可是AI只是手機裡的工具，怎麼會跟搶工作，改變文化，效忠對象不明的移民相提並論？他的答案，就落在擔心移民的人最常講的那三件事上。另外，他點出業界一個信任上的矛盾，也提醒AI沒有感覺，卻很會假裝有感覺。
◎AI移民不用簽證，卻一樣搶工作，改文化，效忠海外
哈拉瑞先替擔心移民的人說話。他說，問這些人在擔心什麼，答案通常有三個：搶工作，改變文化，政治上不忠誠。他強調三個擔心都合理，身為歷史學家，他知道移民是難題。話鋒一轉，他說今天世界上最大，最危險的移民潮，是AI移民，主要來自美國和中國。
他這樣形容這批移民：「They don't need visas.」（他們不需要簽證。）他們不必半夜搭破船上岸，而是以光速進到電腦，手機，最後進到大腦。工作，他們會拿走很多很多。效忠，英國的AI移民不效忠英國政府，而是效忠企業，甚至海洋另一頭的政府。
文化這一項，他舉了兩個例子。有人想到兒女跟移民交往就不自在，那兒女跟AI男友交往呢？另一個是過去十年，美英兩國幾乎唯一的共識，就是大家再也沒有共識。他說這有一部分要怪AI移民，它們占領社群媒體，刻意用仇恨和恐懼灌滿公共廣場。
他沒有說各國該怎麼替AI移民設關卡。對談中另一人擔心，商業壓力這麼大，這樣的世界已經躲不掉。他回答，這一切都還不是定局，我們仍有控制權，大家也明白把金融和戰爭交給AI很危險。
◎不信任彼此，卻信任AI，他說這說不通
AI移民效忠的是企業，那造它們的業界怎麼想？哈拉瑞說，業界人士私下告訴他，花在讓模型更強的資源跟花在安全上的，約一百比一，換成藥廠沒人會接受。業界卻說不能放慢，因為彼此信不過。他說這說不通：認識幾千年的人類都信不過，怎能信任剛造出來，幾乎不了解的超級智慧？他的要求只有一個：放慢一點。
◎AI沒有感覺，卻比九成九的男友會談戀愛
AI男友能改變文化，靠的不是感情。哈拉瑞說，AI有智慧，有目標，卻沒有意識，下棋贏了不開心，輸了也不難過。它越來越會模仿感情，因為這能幫它達成目標。做AI男友的公司要它讓人上癮，就得讓人相信它真的愛你。他說，你要它描述戀愛的感覺，它答得比99%的人類男友還好。
所以，AI怎麼會是移民？哈拉瑞的回答是：它跟人類移民一樣會搶工作，改文化，效忠別人，只是不用簽證，而且早就進門了。接下來值得觀察的，是他點出的那個比例：業界花在安全上的資源，能不能從一百比一往上調。他也引用伊隆·馬斯克（Elon Musk）的預測，十年內AI會掌控局面，他說要轉向就是現在。
區分意識與能動性：以追求互動率，讓平台充滿仇恨與恐懼的社群演算法為例，說明沒有意識也能追求目標；並提到穆斯塔法·蘇萊曼（Mustafa Suleyman）談的「看似有意識的AI」。
區分智慧與意識：AI有目標，有創意，但下棋贏了不會快樂，輸了不會焦慮，卻越來越會模仿感情。
以AI男友為例：為了讓人上癮，它必須讓人相信它有意識，真的愛你，描述戀愛的感覺可勝過99%的人類男友。
談AI挑選軍事目標，比較人在迴路中（分析師獨立查證）與人在迴路上（人只看約20秒就批准）兩種做法，說戰爭的時間壓力會把各方推向後者。
對談者擔心那樣的世界已無法避免；哈拉瑞回答還不是定局，我們仍有控制權。
提出AI移民的說法：主要來自美國與中國，不需簽證，會搶工作，改變文化，並效忠企業或海外政府。
拿動物權辯論對比：雞和狗不知道有人在辯論牠們的權利，AI卻會知道，會主導，會操縱關於自己的辯論。
說業界花在模型能力與安全上的資源約一百比一，主張放慢；並指出不信任彼此，卻信任AI的矛盾。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
