【對談】哈拉瑞批科技公司稱「沒有選擇」是最大謊言

這場對談值得注意的地方有四個。第一，哈拉瑞提出一個診斷：人類面對AI的最大障礙不是技術，而是大腦—胃部屏障，也就是理智上知道危險，身體上就是不信。第二，他把AI定性為人類歷史上第一個真正的代理人而非工具，這個差別決定了一切。第三，他對英國——也可以替換成任何中等規模國家——列出三個選項，每個都有真實的代價，不選也是選。第四，他用市場邏輯反推：現在湧入的幾兆美元，只有在AI真的變成近乎神的存在時才說得通，而那樣的存在不可能乖乖當人類的奴隸。這四點合起來的意思是：科技公司說這是必然，其實是在告訴你別管它——而那正是最危險的訊息。

◎大腦懂了，胃不信——這才是真正的問題

哈拉瑞講了一個他自己的親身經歷。疫情初期，他坐在家裡看電視，螢幕上是武漢整座城市封鎖的畫面。身為歷史學家，他的大腦立刻比對出黑死病，西班牙流感的模式，知道這件事是真的。但他的胃告訴他：不可能。這種事不會發生在這裡，因為我這輩子從來沒見過。他把這個現象叫做大腦—胃部屏障。重點在於：胃通常贏。英國政府在米蘭醫院已經爆滿，每天還有七班航班從米蘭飛倫敦的情況下，決定繼續辦切爾滕納姆賽馬節，就是這個機制在運作。哈拉瑞的判斷是：我們對AI的反應，正在走同一條路。不作為永遠比作為便宜，代價看得見，風險摸不到，所以人就說服自己：沒那麼嚴重，或者反正也沒辦法。

◎AI不是工具，是代理人——這個區別比你想的大

工業革命造出蒸汽機，火車，機械織布機，這些都是工具。工具不做決定，下一代工具還是要靠人去發明。AI不是這樣。哈拉瑞的定義很清楚：AI是代理人，它自己做決定，自己發明新東西，不等你。他現在最在意的那個時間點，業界叫做recursive self-improvement，意思是AI可以自己設計下一代AI，下一代再設計下下一代，從那個點之後人類就徹底脫手了。他剛從加州回來，說矽谷的氣氛是：一邊瘋狂期待那個時刻，一邊真心害怕它。他引用聖奧古斯丁的禱告來形容這種矛盾：讓我成為聖潔的人，但還不要現在。科技公司的邏輯就是這樣——知道危險，但先衝到終點再說。

◎三個選項，每個都有真實代價，不選也是選

哈拉瑞拿英國舉例，但這套框架對任何中等規模國家都成立。選項一：接受成為美國的附庸國。這不是侮辱，是現實描述——如果你整個經濟和軍事都跑在美國AI基礎建設上，美國按一個按鈕就能關掉你，你就不是真正獨立的國家。選這個沒問題，但要有意識地選，從今天起美國說什麼就配合什麼。選項二：自己建。他估計英國獨立建造的費用大約是5,000億英鎊，大概是英國政府半年的預算。理論上做得到，但要現在宣布，現在砍其他支出。選項三：和歐洲一起建，分攤費用，但前提是英國今天就要重返歐盟，深化整合，不然協調成本會把計畫拖垮。他的結論是：不做選擇，預設就是選項一，只是以一種渾渾噩噩的方式掉進去。

◎幾兆美元的賭注，邏輯上說不通

哈拉瑞用市場本身來反推。現在湧入AI的資金規模，只有在一種假設下才合理：幾年內會出現具備近乎神級能力的實體。這是唯一能讓投資回收的路徑。但問題來了：如果這些實體真的那麼聰明，那麼自主，它們為什麼要乖乖當市場的奴隸？他的邏輯是：市場的賭注本身就預設了AI會脫離人類控制，而那個時候就沒有市場了，也沒有公司了，更沒有錢了。科技公司現在對外說的故事——幾年內讓美國GDP翻倍，用AI解決癌症——每一個好處的前提都是AI真的自主運作，不需要人管。但自主運作的定義，就是不在人的掌控之中。好處和威脅是同一件事的兩面。

哈拉瑞說，科技公司最希望你相信的一句話是：這是必然，沒有選擇。因為只要你信了這句話，政治就結束了，你就只能等著看結果。他的整場對談做的事，就是把那句話拆掉——歷史從來不是必然的，至少在AI真的完全接管之前，選擇還在我們手上。問題是：我們還有多少時間，能讓胃追上大腦已經知道的事？