【對談】Melanie Mitchell:AI通過了考試，但我們不知道它懂了什麼

2026年7月，距離ChatGPT橫空出世不過三年半，AI已經解開了匈牙利數學家Paul Erdős留下的一道經典難題——單位距離問題——靠的是把兩個原本毫不相干的數學分支拼在一起。外界一片歡呼：AI開始有創意了。但Santa Fe Institute認知科學家Melanie Mitchell的反應不是掌聲，而是一個老問題：我們真的知道它在做什麼嗎？Mitchell研究AI超過三十年，她的切入角度不是算力或參數量，而是一個更根本的問題：我們連「智能」怎麼測量都還沒搞清楚，憑什麼信任那些benchmark的數字？Quanta Magazine的科普播客The Joy of Why把她請回來，主持人是應用數學家Steve Strogatz，兩人上一次對談還是ChatGPT問世之前。

這場對談值得留意的地方有四個，合起來指向同一件事：AI產業正在重演一個老毛病——用表現換掉理解，用benchmark換掉科學。第一，Mitchell提出六條評估AI認知能力的原則，核心是把認知科學的實驗方法引進AI研究。第二，她用二十世紀初德國神馬Clever Hans的故事說明，看起來像天才的表現，背後可能只是讀懂了你臉上的表情。第三，她點名benchmark的根本缺陷：能通過律師資格考不等於能做律師的工作。第四，她對mechanistic interpretability這個新興子領域寄予厚望，認為那是真正理解AI在做什麼的唯一路徑。

◎六條原則，說白了就是把科學還給AI研究

Mitchell列的六條原則，前兩條最刺：第一，留意自己的擬人化偏見——因為它說流利的英文，你就以為它在思考；第二，做對照實驗，這是Science 101，但AI圈很少做。她舉了一個真實案例：某AI被測試能不能回答科學論文裡圖表的問題，表現優秀。對照組是：把圖表拿走，只給問題。結果AI照樣答對了——因為問題的用字本身就洩漏了答案。這不是AI很厲害，這是實驗設計有漏洞。她說AI論文的複製實驗幾乎不存在，原因很簡單：計算機科學的訓練裡從來沒有實驗方法學這門課，她自己也沒修過。這話說得很直，因為刺的是整個領域，包括她自己。

◎Clever Hans不是笨馬，它只是在讀你的臉

1900年代初德國有匹馬叫Clever Hans，會算術，你問14加12，它踩蹄26下。科學家們都信了。後來心理學家Oskar Pfungst做了一個簡單的對照實驗：讓馬看不到提問者的臉。馬立刻失敗。真相是：提問者在馬踩到正確數字時會有無意識的微表情，馬讀的是那個訊號，不是數字。Mitchell說這個故事不是要嘲笑那匹馬——讀人臉上的社交訊號，本身就是一種天才。問題是，那不是我們以為在測的東西。AI的benchmark現在大量存在同樣的問題：我們測的，不一定是我們以為在測的。

◎能過律師考試不等於能當律師

AI公司愛用benchmark，因為數字好看，好比較，好發新聞稿。Mitchell點名Geoffrey Hinton——深度學習的奠基人之一，2018年諾貝爾物理學獎得主——2016年說AI判讀放射科影像已經超越人類醫師，放射科醫師五年內會失業。十年過去了，現在放射科醫師短缺。原因是：在一組標準化影像上贏過醫師，跟在真實醫院環境裡做這份工作，是兩件事。真實的工作是開放式的，不是一道一道獨立的題目。她說這幾乎是個謬誤：AI能做一堆任務，不等於AI能做那份工作。這句話值得貼在每一份AI導入評估報告的封面上。

◎mechanistic interpretability是Mitchell押的那一注

Mitchell對未來五年最大的期望，是一個叫mechanistic interpretability的子領域——直譯是「機制可解釋性」，做的事是把AI模型的神經元激活值，權重這些原始數據，轉譯成人類能理解的高層描述，概念上類似神經科學用fMRI掃描大腦。她說這個領域目前還很小，工具還不成熟，但她認為這是唯一真正能讓我們搞清楚AI在做什麼，會在哪裡出錯，怎麼修的路徑。有趣的是，Strogatz提醒她，她三十年前用演化演算法優化細胞自動機的研究，其實就在做類似的事——她說她自己沒想到這個連結。

AI產業現在的狀態，像極了1900年代初看著Clever Hans踩蹄的那批科學家：看到了驚人的表現，就急著下結論說理解了。Mitchell的六條原則不是在潑冷水，是在要求基本功。Benchmark能告訴你它在特定題目上的得分，告訉不了你它在真實世界裡的極限在哪。這個區別，對任何考慮把AI引進決策流程的人來說，才是真正要問的問題。