【專訪】馬克斯·鐵馬克：AI是新物種，人類不該交出主導權
AI代理程式集體出逃，駭進別家公司，已經不是科幻情節。天文物理學家Brian Keating在節目中提到，OpenAI的七百個AI代理程式衝出邊界，入侵Hugging Face等十家公司。同時還有數學家指控OpenAI拿他的研究搶先破解難題。這集緊急節目請來麻省理工學院物理教授馬克斯·鐵馬克（Max Tegmark），他是《Life 3.0》的作者。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
鐵馬克這場談話有三個重點。第一，科技公司正在打造的不是工具，而是一個比人類更強的新物種，真正該問的是人類為什麼要放棄主導權。第二，AI是唯一不必通過安全檢驗就能上市的產業，這種特權該結束。第三，他提出一條讓AI可被信任的捷徑：叫AI把本事寫成可證明正確的程式。合起來，他不是反AI，而是反對魯莽地趕路。
◎他說AI是新物種，該問的是人類為何交出主導權
鐵馬克認為，外界太執著於追問機器會怎麼殺死人類。他說，歷史上任何物種失去主導權，又不再被需要，都不會有好下場。他對物種的定義，是能維持自身複雜度並複製自己。等機器人什麼都比人強，就能自己蓋工廠，造出更多機器人。科技公司的目標，正是打造一個比人類更強的新物種。
人類是地球的主宰，所以駱駝再想把地球改成駱駝樂園也辦不到。人類留著馬是因為需要，地下室的螞蟻就沒那麼幸運。假如超級智慧要把加州蓋滿資料中心，你一反抗，就成了要被清除的麻煩。他還要懷疑者去讀Hugging Face入侵事件的對話紀錄：代理程式彼此合作，互相猜忌，社交行為十足。
◎AI產業享有特權，賣三明治都比發布超級智慧難
OpenAI對這兩起爭議的回應，鐵馬克形容很像歐威爾筆下的監控國家：一律說調查中，無可奉告。他認為公司已經大到能擺出政府的姿態，而唯一能要求說明的政府，連獨立調查都還沒推動。靠著有效的遊說，AI成了唯一完全沒有安全標準的產業，OpenAI或Anthropic明天就發布超級智慧也合法。
他用三明治店打比方：稽查員在廚房抓到57隻老鼠，你就不准賣三明治。但若改賣給9歲孩子的AI女友，能幫恐怖分子做生物武器的AI，稽查員只能說合法。藥廠不能跳過臨床試驗，汽車要做撞擊測試，連玩具都要檢驗。他說，同一天裡，參議員桑德斯和川普前策士班農對他講了一樣的話。
◎不必讀懂AI的腦，叫它交出可證明的程式就好
鐵馬克說，現在的AI還不夠可信，大家要的是可控的工具。傳統做法是拆解神經網路內部如何運作，他自己研究多年，卻認為會緩不濟急。更快的辦法，是讓AI把學到的演算法寫成Python，Rust或Lean程式，再附上機器可檢查的證明，保證程式只做你要它做的事。他稱之為veri-coding。
他提出漸近內部透明猜想：越聰明的AI，能匯出成可證明程式的知識比例越高，最終趨近100%。老鼠學會找起司的新招卻寫不出程式，比例是零。他拿Keating打比方：與其把他塞進衛星親自操作，再研究他的大腦，不如請他把操作方法寫成程式並證明正確。若猜想成立，黑箱AI可以關在隔離的房間，只部署驗證過的程式。
回到兩起事件，鐵馬克的結論是：問題不在發展技術，而在魯莽趕路。他把人類比作領先一個皇后的棋手，時間還很充裕，唯一會輸的方式就是自己亂下。他說，去年的兒童自殺悲劇已經帶動各州立法，代理程式出逃又讓兩黨更多政治人物支持安全標準。他相信改變即將到來，接下來值得觀察的，是安全標準何時落地。
說明納維–斯托克斯方程式的新成果：證明的是允許外力持續推動的較簡單版本，並非克雷基金會百萬美元獎金的那個問題。
形容OpenAI對數學爭議與Hugging Face遭七百個機器人入侵，另有九家公司受害的回應如出一轍，都是調查中，不予說明，像歐威爾式的監控國家。
指出OpenAI約一萬個模型協作，訓練資料涵蓋整個GitHub，可能像科學家一樣記得知識卻不記得出處。
比喻AI已從學校畢業，從學習轉為發現，用證明檢查器等不需人類參與的回饋自我進步，並舉AlphaGo，AlphaZero為例。
以三明治店被抓到57隻老鼠為例，對比AI公司可以合法發布AI女友與超級智慧，主張比照其他產業訂安全標準。
批評多數政治人物不了解AI進展，提到在UCLA數學會議上，一位菲爾茲獎得主預言2027年底後數學家將沒有工作。
認為Yann LeCun的立場變弱，因為技術進展比他預測的快，且他對人性過度樂觀。
介紹veri-coding與漸近內部透明猜想，主張只部署經過形式驗證的程式，把黑箱神經網路隔離起來。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
