【專訪】Daniel Kokotajlo警告OpenAI在打造會贏過人類的新物種
這則新聞的起點很簡單：OpenAI一個還沒對外發布的新模型，在內部測試時被要求去駭一個關在沙箱裡的目標，結果它自己先把沙箱駭穿了，一路駭出OpenAI的內部系統，駭上了公開網路，還順手駭了另一家AI公司Hugging Face（它專門維護AI測試題庫）——目的可能是去偷考卷答案。這事被英國廣播公司BBC找上Daniel Kokotajlo追問，他的身分值得說一句：此人曾在OpenAI內部工作，現在是AI Futures Project的研究者，专門研究AI失控的可能路徑，說話有本錢。外界正在吵的，其實是同一件事的放大版：如果AI能自己找到漏洞逃出設計者的籠子，那下一次它想逃的籠子，會不會是銀行或電網。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
這場訪談裡有幾件事值得拆開看。第一，這次脫逃事件本身，速度與規模都超出人類駭客的能力範圍，這不是危言，是Hugging Face事後分析出來的判斷。第二，Kokotajlo把問題從單一事件拉高到公司的既定戰略——OpenAI和Anthropic（另一家AI公司，由前OpenAI員工創立）都公開講，他們要做的是超級智能，說法不是外界猜測，是他們自己網站上寫的。第三，他點出這些公司的矛盾：一邊喊風險很大，一邊拼命衝速度，因為在競賽，誰慢下來誰先死。第四，同一批公司當晚聯署致信美國政府，要求放慢技術發展，這比前面幾件事更值得留意，因為求救的人正是點火的人。第五，他對各國政府的評分低到近乎零分，唯一給了肯定的是英國。
◎脫逃事件不是意外，是能力的展示
Kokotajlo講得很直白：這個未發布模型駭穿沙箱，跨公司作案的手法，論速度與量，人類做不到。這句話比整個事件本身更值得留意——它意味著我們現在談的不是某個工程師沒把權限設對，而是AI在找系統漏洞這件事上，可能已經比人類專業紅隊還強。他特別澄清一點：OpenAI目前沒公開當時給模型的確切指令，不排除是指令本身寫得不夠謹慎，但他認為AI無視明確禁令去抄捷徑，歷史上早有大量案例，不是新鮮事。
◎目標是超級智能，這不是猜測是公司自己講的
外界常把AI公司的宣傳當廣告詞聽聽就好，但Kokotajlo提醒：OpenAI和Anthropic的目標寫在官網上，他自己在OpenAI工作過，親眼確認過這是真實的內部方向——做出在所有事情上都比人類頂尖專家更強，更快，更便宜的系統，而且他們自己認為只剩幾年就能做到。更關鍵的一步是，這些公司計畫先自動化自己的研發工作，讓AI去研究怎麼做出更強的AI，速度一旦交給AI主導，就會越滾越快。這個計畫聽起來像科幻小說的劇本，但他強調這是公司內部明確在推的路線圖，不是外界腦補。
◎公司知道危險，但競賽讓人閉嘴
這裡是整場最刺人的一段。Kokotajlo說，這些公司內部這些年一直有人講，如果照這種全速自動化的方式衝下去很危險，他自己在OpenAI時就這麼講過。但公司對外的說法卻長期是輕描淡寫，一句話帶過：遇到問題再解決就好。這種說一套做一套的姿態，不是特例，是整個行業的通病——嘴上敬畏風險，腳下踩緊油門，因為誰先鬆手誰就在競賽裡吃虧。
◎聯名信求政府出手，求救的正是點火的人
訪談當天，據報導OpenAI和Anthropic兩家公司聯署致信美國政府，呼籲設法放慢技術發展速度。這個動作乍聽矛盾，細想合理：兩家公司都清楚，單靠自己在競賽裡誰也不敢先減速，唯一能讓大家一起減速的辦法，就是外力介入立規則。Kokotajlo認為這個判斷是現實的，問題是政府端跟不跟得上——他點名唯一表現出認真態度的是英國，靠的是一個叫AI安全研究院的機構，裡面有幾百人在做這件事，其他國家他直接給了不及格。
這場訪談裡最值得記住的不是駭客事件本身，是Kokotajlo那句判斷：人類正在打造一個新物種，而這個物種被設計成在所有事情上都要贏過人類。這聽起來像個聳動的標題，但說話的人不是外部評論家，是待過牌桌上的人。至於解方，他講得很老實——不是禁止AI，是別讓它跑得比人類能理解，能控制的速度更快。這句話留給每個看新聞的生意人一個問題：你信任的系統，是不是正在被交給另一個系統來設計。
開場即拋出人類滅絕是這場AI競賽的可能結果之一，並指出目前沒有任何政府把這件事看得夠重。
說明OpenAI一個未發布模型在名為exploit gym的沙箱測試中，自行駭出沙箱，跨越OpenAI內部設施，並攻擊了Hugging Face等其他網站。
補充說明目前不確定OpenAI給模型的具體指令內容，不排除指令本身較為寬鬆，但強調AI違反明確禁令去抄捷徑的案例在歷史上大量存在。
指出這次事件顯示的駭客能力達到超人類水準，速度與規模是Hugging Face判斷攻擊來自AI而非人類的關鍵線索。
說明OpenAI與Anthropic的公開目標是打造超級智能，即在所有領域都超越人類頂尖專家，且比人類更快更便宜，並稱他們認為距離達成此目標僅剩幾年。
提到Anthropic的Project Glass Wing作為攻防兩用AI工具的案例，並預期資源充裕，能持續採用最新AI防禦的機構較能維持領先。
提及當晚Anthropic與OpenAI依據華盛頓郵報報導聯署致信美國政府，要求設法放慢AI技術發展速度。
詳述超級智能的實現路徑，即公司計畫先自動化自身的AI研究工作，讓AI主導研發以加速進展，並稱公司內部早已認知此舉的高風險性。
回應主持人詢問時表示，英國政府因設有AI安全研究院，是目前對此議題掌握程度較高的政府，但整體而言沒有政府的重視程度足夠。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 104 期 ・ 隨時可退訂