【對談】山姆·奧特曼：AI 進步太快，該重新思考怎麼控速
這次說 AI 該放慢的，是 OpenAI 執行長自己。山姆·奧特曼（Sam Altman）是 ChatGPT 背後公司的共同創辦人，也當過創業加速器 Y Combinator 總裁。主持人提到，ChatGPT 每週用戶已超過十億。他回到當年輟學的史丹佛，在商學院講座上向 MBA 學生坦言：AI 跑得比他預料的還快。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
這場有三個重點。第一，過去半年的進步動搖了他的信念，他認為該重新思考 AI 推進的速度。第二，他說資安是最被低估的危機，光補漏洞已經擋不住。第三，他不認為會有工作末日，反而說變動最劇烈的時候最適合起步。三點合起來看：技術已經跑在社會前面，他要大家把心力放在控速，防禦，以及人的位置。
◎進步快過預期，他說該談怎麼控速了
他一直相信兩件事：人類要始終掌握未來，權力也不能過度集中，不論集中在 AI 身上，還是集中在少數握有 AI 的人手上。但過去六個月的進步考驗了這份信念。他說，若照這個速度再走一兩年，什麼都不改，這兩件事就守不住，得改變推進速度的做法。
他直言，至少在數學推理上，「we have super intelligence now」（我們現在就有超級智慧了）。他在 2020 年以為，對齊會比現在更難；對齊指的是讓 AI 照人類的意圖行事。結果到目前為止，對齊比預期容易。他擔心有人因此以為以後也會一直這麼容易，而出錯的代價已經大幅升高。
◎資安危機逼近，補漏洞已經不夠
他說今年稍早業界曾掀起一陣恐慌，大家補了一些漏洞，多數經營者就轉移了注意力。但模型持續變強，以後可能找出超乎駭客想像的漏洞，甚至是硬體層級的漏洞。他認為，大家又一次沒有體會到指數成長是什麼意思。
他不再相信能把漏洞一個個補完，認為必須整套換掉防禦方式，用同樣的 AI 技術築起新的防護罩。他說，資安主管們到現在還很緊張，整個社會卻很少討論這件事，這讓他相當驚訝。
◎不會有工作末日，地面晃得最兇時最適合起步
他承認，大量工作會被 AI 做得更好，更便宜，但認為改變不會像外界想的那麼快，也不會出現許多人說的工作末日。他說，在變動最劇烈的時候，有潛力，有新想法的人表現相對最好。他對 MBA 學生長期的失望，是他們總想去做五年前流行的事。
他舉數學界這十天的反應為例。第一天，數學家說成果是假的；隔天，有人說這個領域完了，要研究生換主修。到了第五天左右，風向轉了：多數數學家本來就不是在解千禧年大獎難題，而是在理解和解釋知識。程式設計師和顧問也走過同樣的歷程。
回到控速的問題，他沒有給出時間表，只點出接下來要觀察的事：開放權重模型的界線，未來幾年會被激烈辯論。基礎建設方面，OpenAI 押注機器人，自研晶片 Jalapeno 和整個供應鏈。他也希望，AI 帶來的是一場新的文藝復興，而不是只追求效率的另一次工業革命。
談 2015 年創辦 OpenAI 時外界不看好，他說當時看到的是深度學習有效，而且規模越大表現越好。
回答最難的決策：AI 該以多快的速度推進；人類要掌握未來，權力也不能過度集中。
說過去六個月的進步考驗了他的信念，並表示在數學推理上已經有超級智慧。
談資安問題被低估，認為不能再靠逐一修補漏洞，要用 AI 建立新的防護罩。
描述數學界十天內對 AI 成果的反應轉變，再延伸到程式設計師與顧問的經驗，表示不認為會有工作末日。
說明 OpenAI 押注的基礎建設：能自我擴張的機器人，自研晶片 Jalapeno，以及晶圓廠，電力等供應鏈。
坦言 2020 年以為對齊會更難，至今比預期容易，但擔心出錯的代價大幅升高。
談組織設計，舉約一萬個 AI 代理合作解 Navier-Stokes 問題為例，認為組織形態值得重新設計。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 147 期 ・ 隨時可退訂
