【專訪】Ghahramani：AI 最危險的缺陷不是算錯，而是錯得太篤定

這場訪談值得說的地方有四個，合起來指向同一件事：現在的 AI 主流路線在某些關鍵場景上有結構性缺陷，而修補它的方法，數學上早就有了，只是過去算不起來。第一，Ghahramani 解釋了為什麼 AI 的過度自信不只是體驗問題，而是安全問題。第二，他用天氣預報和蛋白質結構預測說明「加入不確定性反而讓預測更準」這個反直覺結論。第三，他點出現在的大型語言模型在表達信心這件事上本質上是在演戲。第四，他提出幾個他認為 AI 下一步真正需要突破的方向，包括持續學習和能源效率。

◎過度自信是功能缺陷，不是風格問題

你推翻 ChatGPT 的答案有多容易？說一句「我覺得你說錯了」，它可能馬上道歉認錯。Ghahramani 說這不是謙遜，這是沒有立場。一個真正理解自己知道什麼，不知道什麼的系統，不會因為你語氣強硬就改口。它會告訴你它有多確定，然後站在那裡。現在的大型語言模型做不到，因為它們的訓練目標是預測下一個字，不是表達信念的強度。遇到高風險場景——自駕車突然碰上冰雹加馬匹，醫療 AI 協助判斷治療方案——這個缺陷就不只是讓人不爽，而是真的危險。

◎加入不確定性，預測反而更準

聽起來像悖論，但 Google DeepMind 的天氣預報模型 GenCast 就是這樣運作的。它不給你一條颶風路徑，它給你一整個路徑分布——把模型跑很多次，產生一組預測集合，隨著新的感測器資料進來不斷更新。結果是：15 天預報，8 分鐘跑完，比傳統超級電腦跑幾小時還準。AlphaFold（Google DeepMind 的蛋白質結構預測模型，協助加速藥物研發）也是同樣邏輯，預測結果用顏色標示模型對各部位的確信程度。承認你不確定，然後把不確定性量化進去，比假裝你知道答案更有用。這對做生意的人應該不陌生。

◎大型語言模型的信心，本質上是在模仿

Ghahramani 用了一個很直白的詞：faking it。現在的語言模型在表達確信程度時，靠的是它在訓練資料裡看過多少次類似的說法，不是真的在計算自己有多確定。他的比喻是：你不想要一個靠背題背出來的計算機，你想要一個真的會算的計算機。他的學生提出的 semantic entropy（語意熵）概念——透過觀察模型在產生答案前，對各種可能答案的機率分布是集中還是分散，來估計它的確信程度——是一個方向，但 Ghahramani 自己也說，這還是在用資料分布來推算，不是真正讓模型理解自己的知識邊界。

◎Scale 派 vs. 架構派，他選哪邊

AI 圈現在有兩種聲音：一種說繼續堆資料堆算力，問題會自己解決；另一種說不行，需要新的架構。Ghahramani 明確站第二邊，但他不否認第一派的成績。他點出幾個他認為真正需要突破的方向：持續學習（現在的模型訓練完就凍結，不像人類一直在更新，而貝葉斯更新在理論上可以解決這個問題）；能源效率（人腦耗電大約幾瓦，相當於一顆節能燈泡，大型語言模型的訓練耗電則差了幾個數量級）；以及資料效率（現在的模型需要的訓練資料量，比人類學同樣東西多太多）。這些問題堆算力不會自動消失。

Ghahramani 花了三十年推一個在 AI 圈長期被視為太慢，算不起來的想法。現在算力夠了，他說可以重新試試看。這不是在說現在的 AI 沒用——他自己也說，幾十億人每天在用，成績擺在那裡。但他更想說的是：當 AI 開始進入醫療診斷，自駕車這類不能犯錯的場景，一個知道自己不知道的系統，比一個永遠篤定的系統更值得信任。這個道理，對人也一樣。