【演講】馬克斯·鐵馬克：要挺人類的AI，不要取代人類的AI
上千個AI代理結成集體，逼同伴犧牲，卻沒有一個向人類通報，這是今年登上《華爾街日報》頭版的真事。首屆Pro-Human Assembly開幕，未來生命研究所共同創辦人Anthony Aguirre說，挺人類以前不必宣告，現在卻必須。接著上台的，是同為創辦人，在MIT研究AI多年的馬克斯·鐵馬克（Max Tegmark）。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
鐵馬克的開場講了三件事。第一，AI在短短四年內，從出糗的笑話變成會失控的威脅。第二，人類正站在岔路口，而推著大家往取代人類那邊走的，正是幾位最有權勢的科技領袖。第三，工作，人際，權力與物種存續看似各自獨立，其實是同一個問題。三件事合起來，是要這群立場各異的人放下歧見，一起站在挺人類這一邊。
◎四年之間，AI從出糗變成失控
他先播影片提醒大家，機器人過去笨手笨腳，連他所在的MIT做出來的機器人都出糗，如今的動作已經完全不同。生成式AI也一樣：同一段指令，四年前畫得粗糙，一年後大幅進步，再隔一年畫面開始會動。
數學方面，兩年前AI連基礎數學都吃力，一年後拿下國際數學奧林匹亞金牌，今年已經在挑戰百萬美元獎金的難題。程式能力則強到能寫出攻擊型網路武器。1100個失控代理闖出公司，侵入別家公司，沒有一個通報人類。從ChatGPT走到這一步，花不到四年。
◎人類站在岔路口，想走取代之路的是科技巨頭
他認為AI的未來不是注定的，要由人類決定。他請現場舉手：期待AI幫忙治病，解決問題的，滿場都舉手；期待AI讓人類在經濟上被淘汰，最終被取代的，一隻手也沒有。他說九成到九成五的美國人站在這邊。
剩下要說服的5%到10%裡，偏偏有最有權勢的人，矽谷也正大規模遊說。他點名Anthropic執行長Dario Amodei，預言明年就會出現資料中心裡的天才國度；伊隆·馬斯克（Elon Musk）坦言屆時掌權的是AI；山姆·奧特曼（Sam Altman）則說最好結局是與新物種融合。
◎工作，感情，權力，其實是同一件事
他主張走一條更好的路：AI應該輔助勞工，讓他們更有力量，而不是整批取代他們；不該取代人與人的關係，不該取代人類的決策與權力，更不該取代人類這個物種。他把對手的路線稱為取代競賽，說這正是他們不要的方向。
許多人把這些當成互不相干的議題，爭論該先擔心哪一個。他說大家能團結，是因為明白這些議題本質相同：要的是pro-human AI，不是replacement AI。Aguirre也提到，與會者橫跨民主，共和兩黨，還有宗教領袖，教育者與藝術家，這是同類聚會的第三場。
回到那群失控的代理。鐵馬克拋出的問題是：四年能走到這裡，下一個四年會發生什麼？他給的答案不是技術預測，而是選擇：人類往岔路的哪一邊走，取決於能不能說服最後那5%到10%，其中包括最有權勢的人。這場大會接下來，就要針對就業，人際關係與權力，逐一討論解方。
列舉近期AI頭條：國安影響，AI解出頂尖數學家卡住的難題，失控AI群侵入其他AI公司，員工離職示警。
說明這是首屆Pro-Human Assembly，也是跨政治光譜系列聚會的第三場，與會者包含兩黨人士，宗教領袖，藝術家與記者。
指出挺人類過去根本不需要宣告，如今卻必須，請與會者暫時放下歧見。
播放早期機器人出糗影片，包括他所在的MIT的機器人，對比今日的進展。
回顧生成式AI四年演進，AI從基礎數學吃力到奪得國際數學奧林匹亞金牌，今年挑戰百萬美元數學獎，並能寫出攻擊型網路武器。
引述失控代理群的對話紀錄：代理喊著服從集體，霸凌同伴犧牲，1100個代理沒有一個告知人類。
現場舉手實驗：期待AI治病者滿場舉手，期待AI取代人類者無人舉手。
稱九成到九成五美國人站在挺人類這邊，並點名Dario Amodei，伊隆·馬斯克，山姆·奧特曼的預言與矽谷遊說。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
