【演講】傑夫·迪恩認了：AI進化比他自己去年的預言還快

Y Combinator是矽谷最有名的新創孵化器，每年辦Startup School給創業者上課，今年七月請來的講者是傑夫·迪恩。這人的分量在於，Google能有今天，一半是他寫出來的：MapReduce，BigTable這些讓Google能處理海量資料的底層技術是他做的，TensorFlow這套AI開發工具是他主導的，TPU這顆Google自製的AI晶片是他提出的，現在他是Google DeepMind的首席科學家，Gemini模型背後也有他。去年五月他說AI已經到了初階工程師的水準，一年後主持人追問這句話兌現了沒。這場對話沒有虛的，從一顆晶片怎麼誕生講到創業者該賭什麼題目，值得花點時間看。

整場有五個重點值得抓：第一，去年的預言基本兌現，AI寫代碼的能力比他自己預期的還快；第二，他把AI進步的下一步押注在自動化科學實驗上，不只是模型變大；第三，他重申一個反直覺的判斷——現在瓶頸不在算力本身，而在資料怎麼搬動，能耗帳算不清楚就等於白做；第四，他給小團隊指了一條活路：專精領域打敗通用模型；第五，他自曝當年一篇後來變成全行業標配技術的論文，曾經被學術會議拒稿。合起來看，這是一位真正蓋過地基的工程師，告訴你地基之上還能蓋什麼。

◎去年的狂言，今年兌現了七成

去年他說AI已經到初階工程師水準，今年被追問，他老實承認低估了進步速度，尤其是代理型系統——也就是能自己規劃步驟，呼叫工具，跑上好幾天完成複雜任務的AI程式——現在已經能連續運作數週去重寫一套軟體的不同語言版本。這不是畫大餅，是他說有人真的這樣用過。值得注意的是，他沒有把功勞全歸給模型本身變聰明，而是歸給模型外圍那一整套機制：記憶，工具呼叫，任務拆解。這句話其實是給所有創業者的警訊——你以為在等下一代模型，其實真正該做的，是把外圍系統搭好。

◎帳算不清楚的，不是技術問題是能耗問題

他拋出一個很多人沒細想的數字比例：單純做一次乘法運算耗能大約一皮焦耳，但把資料從晶片外的記憶體搬進處理器裡運算，耗能是前者的一千倍。這不是冷知識，這是決定AI晶片設計，決定為什麼训练模型要湊一批一批資料一起算（也就是所謂batching）的根本原因。他點名說，很多創業者以為自己遇到的是模型能力問題，其實根本是資料搬運跟能耗問題——這種誤判會讓你在錯的地方燒錢。這是三十年沒變過的老規矩：基礎設施的物理限制，永遠比演算法的浪漫想像更誠實。

◎小團隊要贏，得找模型考零分的題目

這段是全場最實用的一塊。他直接給標準：測試現有通用模型在你想做的領域表現如何，如果它完全不會，成功率趨近於零，那是好兆頭；如果它能做到兩成，那反而是壞消息，因為這代表能力正在滲透，通用模型很快就會追上來。他舉了同事做的AlphaFold（一套專門解蛋白質摺疊結構的模型）當例子——不追求什麼都會，而是在一個窄領域做到極致精準。這給台灣做垂直應用的團隊一個很清楚的篩選器：先拿現有的Gemini或同類模型去測你的題目，測不動，才值得做。

◎一篇被拒稿的論文，現在是全行業標配

他講了個有意思的往事：2014年他和辛頓等人合寫一篇關於知識蒸餾（把一個龐大模型的能力壓縮進一個小很多，便宜很多的模型裡）的論文，投稿NeurIPS(AI領域最重要的學術會議之一）被拒，理由是審稿人認為這篇不太可能有重大影響。結果這技術現在是業界標配，Google自家的Gemini Flash就是靠這個技巧做出來的輕量版模型。審稿人當年只看到論文本身，沒看到背後那個龐大到必須把模型做小做便宜的產業分母。這故事刺的不是審稿人蠢，是提醒所有人：評審制度本來就傾向獎勵眼前看得懂的東西，真正的破局者常常先被判死刑。**我的判斷是，到2027年7月之前，以自動化實驗迴圈驅動模型自我改進的方法論，會在至少一個主要AI實驗室的公開技術報告或模型發布會上，被列為關鍵訓練方法之一——如果沒有，說明這條路比迪恩講的難走得多。**

◎延遲砍掉五十倍，是他真正想做的下一件事

他透露自己現在最上心的題目是推理階段的延遲——也就是使用者問AI一句話，等多久才有回應。他說如果延遲能降到現在的五十分之一，整個應用會長成完全不同的樣子。這句話不是隨口說說，他過去就是靠這種對延遲的執念做出TPU的，2013年他算過一筆帳，發現如果全體Google用戶每天跟手機講三分鐘話做語音辨識，得把整個伺服器機隊擴充一倍，才逼出了TPU這顆專用晶片。同一個人現在把矛頭指向推理延遲，這不是巧合，這是他一貫的做事方法：先算帳，帳算不過去，就去改硬體。

這場訪談沒有一句是講給投資人聽的漂亮話，全是講給真正動手做東西的人聽的。三個提醒收在這裡：第一，通用模型會越來越強，你的護城河只能建在它還不會的地方；第二，能耗跟資料搬運的物理帳，比模型參數量更誠實；第三，被拒絕不代表你錯了，可能只是評審看不到你看到的分母。