【座談】Schulman 說目標設定才是人類最後的工作，中國蒸餾優勢已超過技術差距

這場對談有幾個值得記住的判斷。第一，所謂AI 會自我加速到失控，最大的技術阻力不是算力，而是 AI 不知道該做什麼實驗——目標設定這件事目前還是人類的工作。第二，模型能力的邊際進步，現在愈來愈卡在訓練環境的品質，而不是模型本身的大小。第三，中國實驗室透過代理服務收集美國前沿模型的使用資料，拿來蒸餾自家模型，效果可能已經超過光有技術優勢的西方實驗室。第四，三位研究者對 10 倍生產力提升的時間點出奇地樂觀——兩年內——但對全面超越人類專家的預測則從三年到十年都有，分歧很大。合起來看，這場對談描繪的是一個進展真實，但遠比外界想像更顆粒，更有摩擦的 AI 發展圖景。

◎目標設定是人類最後守住的工作

Schulman 說得很清楚：AI 最終還是要有人告訴它該優化什麼。現在的 AI 在目標明確的環境裡進步飛快——給它一個可以驗證對錯的數學題或程式挑戰，它就會一直爬。但研究真正的突破往往不是爬坡，而是先要有人決定要爬哪座山。他舉例：2012 年之後沒有人預料到預測下一個字會是通往智慧的路，這個目標本身是人類直覺跳出來的。三位研究者一致認為，AI 系統現在還無法自己提出有意義的新目標，更遑論驗證那個目標是否正確。這意味著對齊不只是安全問題，而是整個 AI 研發流程裡最難自動化的那一塊。

◎訓練環境的品質，比模型大小更決定能力上限

O'Neill 提出一個很有用的框架：訓練環境有兩個軸，一是難度，二是真實感。現在很多實驗室把重心放在難度軸——出很難的謎題，容易驗證對錯——但忽略了真實感軸：模型在現實工作中需要來回溝通，應付模糊需求，在多個目標之間取捨。他的觀察是，大模型因為參數夠多，能從窄難題類推到真實情境；但如果你用蒸餾的方式訓練小模型，只餵它難題資料，它在基準測試上看起來不錯，真實工作上卻明顯比大模型差。這解釋了為什麼有些規模更小的模型在評測分數漂亮，實際用起來卻讓人失望。

◎中國實驗室的蒸餾優勢可能已超過技術差距

這是整場最有爆點的一段。Millidge 指出，中國有一批代理服務讓境內用戶繞過管制使用美國前沿模型，這些服務在收集並販售使用資料。這批資料的價值在於它是真實的用戶提問分布——而提問分布對蒸餾效果的影響，遠比外界想像的大。他直接點名：Anthropic 旗下的 Sonnet 5 和 Opus 5 在某些評測上輸給中國模型 GLM-5.3 和 Kimi K3，儘管 Anthropic 同時擁有技術優勢和自家前沿模型的蒸餾管道。他的解讀是：如果你有完美的真實用戶資料，蒸餾效果可以超過純技術領先。更直白地說，資料管道的優勢正在追上，甚至超越研發能力的優勢。

◎持續學習是 AI 最燒腦的工程問題

三人花了很長時間討論一個聽起來簡單，做起來很難的問題：模型能不能從部署中持續學習，而不是每隔幾個月重新從頭訓練一次？現有的方法——直接在已訓練的模型上繼續更新——會遇到兩個麻煩：一是災難性遺忘，新資料把舊能力覆蓋掉；二是能力退化，模型在沒有被特別訓練的任務上變差。Millidge 說，大規模的中期訓練可以把這個問題推遲，但不能根治。目前最實際的做法仍然是：收集部署資料，篩選，創造新的訓練環境，然後三個月後訓練一個新模型。這個循環正在加速，但離模型隨時從真實世界自動學習還有相當距離。

◎時間表預測：樂觀但分歧

對談最後三位研究者給出了一組預測，值得直接記下來。能做各種白領工作的 AI 遠端工作者：O'Neill 說一年，Millidge 說三年，Schulman 大致同意一兩年內有基本版本。AI 研究者的 10 倍生產力提升：三人都指向兩年內。讓人意外的是，他們對 AI 研究自動化的評估並不比一般白領工作樂觀——Schulman 認為兩者差不多，因為 AI 研究本身也是一種需要長期判斷的認知工作。全面超越人類專家的通用 AI:O'Neill 說三到四年，Schulman 說五到十年。差距之大說明這個問題目前沒有共識答案，任何人告訴你他知道確切時間點，你都可以存疑。

看完這場對談，我的結論是：AI 的進展是真實的，但它的阻力也是真實的——而且阻力大多不在算力或模型大小，而在於人類還沒想清楚要讓 AI 做什麼，怎麼驗證它做得好不好。這個問題不是工程問題，是判斷問題。判斷問題很難外包。三位研究者說兩年內 AI 研究者的生產力會提升十倍，我不懷疑這個方向，但我更想知道的是：當 AI 幫你跑得更快，你有沒有想清楚要跑去哪裡？