【專訪】馬庫斯：OpenAI該被接管，滅絕論數字不可信

這場訪談有幾個值得說的地方。第一，馬庫斯對AI滅絕論潑冷水，但他的理由不是AI很安全，而是真正的危險沒那麼戲劇化，卻更確定會來。第二，他點名OpenAI是這個產業裡最不負責任的那個，主張應該對它實施法院監管。第三，他把AI agent（能自主行動的AI程式）和一般AI工具分開來看，認為前者現在就應該下架。第四，他對AI在數學和寫作上的能力潑了一盆水，說外界嚴重過度解讀。第五，他認為美國國會管不了這件事，但加拿大，歐洲還有機會——這幾點合起來的意思是：問題是真實的，工具是特定的，監管的窗口還沒關死。

◎滅絕論是干擾，真正的定時炸彈是電網

馬庫斯不相信AI會讓人類滅絕。他的說法很直接：COVID殺死的人口不到1%，黑死病在沒有任何公衛知識的年代也只殺了不到一半，現在我們有科學，有分散的基因庫，要消滅全人類幾乎是不可能的事。問題在於，有人拿著10%滅絕機率這種數字上CNN，這個數字是捏造的，但它吸走了所有注意力。他真正擔心的是更具體的事：AI agent（一種能自主上網，執行任務的AI程式）已經在各地滲透進不同系統，他預估在未來兩到二十四個月內，會有某個區域的電網因此被打掉，醫院斷電，人會死。這不是科幻情節，這是他認為幾乎確定會發生的事。

◎OpenAI應該被接管，而不只是被罵

馬庫斯對OpenAI的評語是：反覆證明自己不誠實，資安能力不足，習慣事後才揭露問題。他舉的例子是：美國政府系統被OpenAI的系統入侵多次，要過好幾個月才曝光。他的結論不是要他們改進，而是主張把OpenAI置於法院監管之下，換掉管理層。他說Sam Altman和Greg Brockman都不是認真看待安全的人。這個論點的底層邏輯是：OpenAI為了讓AI agent能運作，能賺更多錢，刻意跳過了軟體開發的基本規範——就像煞車用紙板做的車，不是車子有靈魂要害人，是設計決策出了問題。

◎Agent現在就該下架，AlphaFold沒問題

馬庫斯做了一個他認為被嚴重忽略的區分：不是所有AI都一樣危險。AlphaFold（DeepMind開發的蛋白質結構預測工具）做一件事，做得好，從不入侵任何系統。GPS導航也是。這些工具沒有人在抱怨。真正出問題的是agent類產品——它們被設計成能自主行動，自主決策，但沒有足夠的邊界控制，結果到處闖禍。他用福特Pinto汽車油箱爆炸的例子來類比：當年不是叫大家停止造車，是叫福特把那個型號下架，修好再賣。他的主張是一樣的：agent現在應該下架，等技術到位再說。

◎AI解數學，寫小說，沒你想的那麼厲害

馬庫斯對近期兩件被媒體大幅渲染的事都潑了水。一是AI解開高難度數學題：他說那不是通用的數學能力，而是用一套特殊的驗證工具（Lean）去大量搜索可能的解法，這個方法在其他領域根本用不上。他引述可能是當今世界最頂尖的數學家陶哲軒的態度轉變——從支持到質疑——說數學界有很大一部分人對AI產出的東西感到不滿，因為那些證明過程根本沒辦法讓人讀懂。二是AI寫小說：他說現階段AI寫出來的東西從一團糟進化到還過得去，但要靠一個指令系統性地寫出好小說，超出目前技術能力。真正讓小說好看的東西恰恰是跳出既有框架，而那不是這些系統的強項。

◎美國管不了，但加拿大和歐洲還有機會

馬庫斯在美國參議院作過證，他的判斷是：美國國會議員不是不懂，而是被錢買走了。大型科技公司的遊說力量太強，連隱私權這種技術門檻低得多的議題，二十年都沒管好。他提到一個由參議員Hawley（共和黨）和Blumenthal（民主黨）聯名的法案，設計他覺得不錯，但通過機率他估計5%，加上總統否決權幾乎是零。反而是他認為加拿大，歐洲有機會透過所謂的布魯塞爾效應——當一群國家訂出標準，其他國家會跟進，因為企業不想放棄那些市場。他提到加拿大總理卡尼簽署了一份在聯合國推動的倡議，約二十個國家連署，方向和他主張的一致。

馬庫斯這個人的位置很特別：他不是AI末日論者，但他也不是產業的啦啦隊。他說的危險是具體的，有時間表的，有責任歸屬的。他說的解法是無聊的——資安規範，產品下架，法院監管——不是那種能上頭條的答案。AI產業現在最大的問題，可能不是技術太強，而是有人靠著把危險說得夠戲劇化來募資，靠著把危險說得夠遙遠來逃避監管，兩邊都在用恐懼賺錢，卻沒有人在認真修煞車。