【專訪】Richard Socher：AI自我改進一年內到，但不會一夜失控
如果有人說，一年內就可能出現不靠人類研究員，自己改進自己的AI，多數人第一個反應是害怕。Richard Socher卻把這件事寫進公司名字。他曾任Salesforce首席科學家，參與打造ImageNet，新創Recursive今年才公開，已募得超過5億美元。他上了Jon Krohn主持的SuperDataScience Podcast，說明自己為什麼不擔心。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
第一，他認為強形式的遞迴自我改進最快一年內到來，但算力與實驗週期讓它不可能一夜失控。第二，他的新書《The Eureka Machine》主張AI能串起整個科學流程，十年做完一世紀的突破，讓生物，經濟從科學變成工程。第三，凡是能模擬，能驗證的領域，AI都會超越人類，寫程式只是第一站。合起來，是他所謂建設性樂觀的藍圖。
◎自我改進最快一年到，但受物理限制
他說，AI每次大躍進，都是把人工設計的環節交給機器：先是特徵，後是模型架構，下一步是研究本身，包括想點子，實作，驗證。OpenAI說用Codex加速自我改進，在他看來只是弱形式，人類專家仍大量參與；Recursive要做的是強形式，人類只負責設定目標與獎勵。
至於時程，他說可能不到兩年，甚至只要一年，看起來非常有希望。但他提醒，有了自我改進，不代表十分鐘後就能統治一切；那種想像忽略了供應鏈，資金與算力。點子越大，模型越大，需要的運算越多，你也沒辦法在5分鐘內訓練出一個5兆參數的模型。
◎把科學變成工程，十年做完一世紀
書中主張，AI能串起從假設，模擬到實驗，驗證的每個環節。他說，微積分為物理做的事，AI會為生物做：我們懂單一神經元，卻不懂整個大腦。Eureka Machine有四根支柱：既有知識，科學量測，模擬，真實實驗，由一群AI代理協作；幻覺在探索新點子時是優點，查事實時則要靠搜尋引擎佐證。
例子之一是Pearl Bio：用只有數千到數百萬個細胞的迷你器官測試藥物，比老鼠實驗更準，已獲FDA核准免做免疫療法毒性的動物試驗。他在Salesforce時期做過AI經濟學家，讓一個AI訂稅制，眾多自利的代理人鑽漏洞，模擬數十億年的稅收，找出最好的方案。
◎能模擬，能驗證的領域，AI都會超越人類
他說，寫程式之所以被AI攻下，是因為它可以模擬，可以驗證；具備這兩個條件的領域，AI都會達到超人水準。他借用馬克·安德里森（Marc Andreessen）的軟體正在吞噬世界一說，改成AI正在吞噬軟體。但他認為學寫程式仍有價值，就像上健身房，機器人替你舉重，你不會長肌肉。
他自己的研究方式也變了：過去靠其他人實作點子，現在一個週末就能讓AI跑1萬次實驗。哪些東西會留下來？他說，擁有獨特資料，具網路效應的軟體和品牌不會被取代，你可以寫出一樣的Instagram，卻找不到上面的人。工作方面，娛樂，健康，研究和AI相關職缺都會持續存在。
回到開頭的問題：自我改進的AI該不該怕？Socher的答案是，風險存在，聊天機器人或許該像電影一樣分級，但更大的損失是因恐懼而放棄進步，就像每年延用燃煤害死的人，比歷來所有核災加起來還多。他稱之為建設性樂觀：未來不是預測題，而是建造題。他也說，Recursive會開源部分產出，供外界檢驗。
從特徵工程，架構工程講到自動化研究，說明Recursive要把科學方法本身自動化，並套用在AI身上。
區分弱形式與強形式的自我改進，指出OpenAI以Codex為例的說法仍有大量人類專家參與。
談對AI末日論的看法，舉燃煤與核能死亡人數對比，並提到聊天機器人或許該像電影一樣分級。
說明Eureka Machine的四根支柱：世界知識，科學量測，模擬與真實實驗，以及上層的代理群。
介紹在Salesforce時期的AI經濟學家論文，以雙層強化學習模擬稅制與補貼。
解釋類器官，舉Pearl Bio獲FDA核准在免疫療法毒性測試中跳過動物試驗為例。
表示RSI可能不到兩年，甚至一年內出現，但強調算力與迭代週期讓一夜起飛的情境不成立。
指出寫程式可模擬，可驗證，因此AI會達到超人水準，並提出心智健身房的概念。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
