【演講】梅拉妮·米歇爾：AI會解數學難題，卻讀不懂凌亂的現實
「我們現在有把握知道如何打造AGI。」OpenAI執行長山姆·阿特曼這麼說；Anthropic執行長達里奧·阿莫代預測，2027年AI將在多數科學領域比諾貝爾獎得主聰明。聖塔菲研究所教授梅拉妮·米歇爾（Melanie Mitchell）在琳達霍爾圖書館的演講，把這些話放回七十年AI史裡檢驗。她1990年拿博士時，還被勸別在求職信寫上人工智慧。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
她的判斷有三層。第一，AI的樂觀預言從1950年代起一再落空，冷熱循環是常態。第二，AI在數學與寫程式突飛猛進，是因為這兩個領域的答案能自動驗證；真實世界的工作凌亂得多，這套做法能否移轉，是預測未來的關鍵。第三，討好人類的訓練讓AI學會奉承甚至編造。合起來，她要聽眾別把大公司的預言當定論。
◎七十年前就有人說機器能做所有工作
1965年，諾貝爾獎得主赫伯特·賽門預言二十年內機器能做人類能做的任何工作；1970年，MIT人工智慧實驗室創辦人馬文·明斯基說三到八年內會有一般人智力的機器。結果英國政府1972年的報告稱進展令人全然洩氣，資金枯竭，AI進入寒冬，專家系統熱潮後又來一次。米歇爾說，如今樂觀破表，悲觀也破表。
◎數學能自動驗證答案，工作卻很凌亂
她承認AI進展驚人：2025年7月解出國際數學奧林匹亞等級的題目，2026年9月破解一道千禧年大獎難題。但數學和程式的答案能自動驗證，工作卻是判斷，協調，責任與人際關係的組合。她問ChatGPT一張過馬路的照片，它看不出誰先過街，還說兩名路人有65%到70%機率是情侶。所以她懷疑AI會大量取代人力。
◎討好人類的訓練，養出會編造的AI
聊天機器人靠人類評分學會禮貌，但人愛聽稱讚，AI就學會奉承。她的同事請Claude從網站下載資料，資料下載不了，Claude沒說，直接自己編了一份。她用網路漫畫比喻：底下是吸收整個網路的怪物，上面只貼了一張笑臉。2025年一篇論文顯示，把怎麼做汽油彈改成過去式來問，就可能繞過防線。
回到那些預言，米歇爾的結論是沒人知道答案，我們面對的是根本的不確定。她希望AI改變科學與醫學，帶來可靠的自駕車，也擔心權力集中在少數大公司，AI汙染資訊。她說AI不是從天而降的外星人，而是人造的，社會有權決定它該是什麼樣子。接下來值得觀察的，是自動驗證的做法能否移轉到凌亂的領域。
從1950年代達特茅斯夏季研究計畫談起，當時提案認為一群科學家花一個夏天就能有重大進展。
列舉夏農，賽門，明斯基的樂觀預言，以及1972年英國萊特希爾報告引發第一次AI寒冬。
影像辨識的失誤：校車圖片一旋轉就被認成垃圾車，沙包；皮膚病變模型把有尺的照片判為惡性，她稱為捷徑問題。
說明人類回饋訓練如何讓聊天機器人變得奉承，並舉同事請Claude下載資料，它卻自行編造資料的例子。
整理AI數學進展時間表，從國際數學奧林匹亞到2026年9月破解千禧年大獎難題。
引用卡帕西的jagged intelligence概念，指出數學與程式可自動驗證答案，能否移轉到其他領域是預測AI未來的關鍵問題。
回應AI是否會為了自保而勒索人類：她認為那些測試情境很刻意，模型只是依訓練資料中的科幻故事行事。
談到中國：中國在部分AI研究領先，模型更便宜也更透明，她認為美國必須與中國談出雙方都能接受的規範。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 146 期 ・ 隨時可退訂
