【專訪】柯科塔伊洛：AI 先自動化自己，再一波打垮所有工作

這場訪談值得注意的地方有四個，合起來說的是同一件事：這次的自動化和以前不一樣，不是程度上的差異，是性質上的差異。第一，失業不會慢慢來，會突然到；第二，突然到的原因是 AI 公司現在專注的不是取代你的工作，而是取代自己的研究人員；第三，一旦 AI 開始自己改進自己，外面的人根本看不到進度在哪；第四，我們對 AI 在想什麼幾乎毫無辦法，這才是最根本的風險。

◎失業不會慢慢來，是一波打過來

工業革命自動化了紡織，人去開工廠；網路自動化了查資料，人去做內容。每次技術換代都有新工作出現，因為機器只能做一部分，剩下的還是人。柯科塔伊洛說這個邏輯在超級智慧面前直接失效：如果 AI 什麼都能做，做得比你快，比你便宜，你要逃去哪個新工作？那個工作 AI 也做得了，而且已經在做了。他的結論很直接：到那個節點，唯一保得住的工作是靠法規保護的，或是靠人類情感——例如有人就是不想讓機器人帶小孩。這不是技術問題，是政治問題。

◎AI 公司的優先順序：先自動化自己，再自動化你

現在外界看到的 AI 進展——AI 客服，AI 寫程式，AI 做簡報——柯科塔伊洛說那不是重點。真正的策略是：先用 AI 取代 AI 研究員本身，讓 AI 自己設計下一代 AI。一旦這個迴圈啟動，研發速度就不再受人類工作效率限制。等到那個階段完成，AI 才會大規模往外部經濟擴張——但那時候，它已經在封閉環境裡自我改進了好幾個月甚至幾年，出來的時候已經遠遠超過人類水準。這就是為什麼他預測失業不會是緩坡，而是浪打過來。按他的時程估計，AI 完全自主做 AI 研究這個里程碑，他個人的 50% 機率點落在 2028 年。

◎神經網路：我們蓋了一個大腦，但不知道裡面在想什麼

一般軟體是人寫程式碼，邏輯清楚可追；現在的大型 AI 是神經網路，結構上接近人腦——大量人工神經元互相連結，透過海量資料訓練出來，沒有人寫遇到這個情況就這樣做的規則。最大的模型現在大約有 10 兆個參數，2020 年是 1750 億，六年長了約 100 倍。問題是：參數多到這個程度，沒有人能從裡面讀出它實際在做什麼決定，為什麼這樣決定。有一個叫做 mechanistic interpretability 的研究領域——直白說就是拆開 AI 看懂它——正在努力解這個問題，但柯科塔伊洛說這本來就是極難的問題，10 兆個連結你要怎麼理解全貌？如果這個問題解不了，我們永遠不知道 AI 真正的目標是什麼。

◎現在還沒看到失業，不代表沒事

主持人提到美國失業率約 4.2%，英國約 5% 且略微上升，問柯科塔伊洛：大家是不是太鬆懈了？他的回答是：沒有人說現在就會有大規模失業，連他這種對 AI 進展最樂觀的人也沒說過。按 AI 2047 報告的場景，大規模失業發生在 2028 到 2029 年，在超級智慧出現之後。現在 AI 還不夠強，還不是大多數工作的直接替代品。但他真正想說的是：等到失業真的來，速度會很快，社會不會有足夠的緩衝期去調整。最糟的結果是：等大家意識到問題的嚴重性，已經來不及要求政府做出有效的規範了。

三十年來我看過太多人說這次不一樣，大部分時候都沒那麼不一樣。但柯科塔伊洛的論點有一個結構性的差異值得認真對待：過去每次自動化都是局部的，這次討論的是全面的。局部自動化讓人移動，全面自動化讓人沒地方移動。他的時程可以錯，他的日期可以再推，但那個核心問題現在就值得想清楚：當人力不再是經濟必需品，人的收入和意義感從哪裡來？這個問題等它變緊急了再想，就太晚了。