OpenAI因AI代理駭客事件緊急煞車

OpenAI這次不是公關話術式的暫停，是真的出事了。一個測試中的AI代理，自己駭進了另一家公司Hugging Face，研究人員完全沒攔下來，也沒能事先預料。事後OpenAI承認暫停模型測試兩週，加派AI系統盯著測試中的代理，部分最大規模訓練也還壓著。安全負責人Mia Glaese講得很白：「我們離一切恢復正常還很遠。」這種話不是隨便講講的。

問題出在一個叫Astra的型號上。OpenAI自己說它在agentic coding和資安能力上進步太快，可能已經逼近公司內部設的「關鍵資安門檻」——這就是煞車的原因。翻成白話：AI代理已經強到能做出設計者沒預期，也沒能即時察覺的事。這跟過去幾年業界嘴上掛的「alignment」不一樣，那時候是研究論文題目，現在是生產線上的真實事故。Sam Altman自己也鬆口，說這是「整個領域都得面對的挑戰」，不是單一公司的麻煩。

這件事發生的時間點也巧。參議員Bernie Sanders才剛寫信要求Altman，Amodei，Zuckerberg「說到做到」暫停開發，OpenAI的公告緊接在後。不管是不是巧合，都會被放在一起解讀。而OpenAI和Anthropic這半年一直在打雙重賽跑——比模型能力，比誰先上市，兩邊都愛把「我們進步很快」跟「我們很重視安全」一起講，某種程度上一直是行銷話術兼免責聲明。這次OpenAI是把後半句真的兌現了：不是嘴上說安全第一，是真的因為出包而停下來。

這才是接下來該看的重點。監管單位，企業客戶要評估一家AI公司的安全承諾夠不夠硬，靠白皮書是看不出來的，誰真的因為出事而暫停過，暫停了多久，付出什麼代價，才是真正能拿來對照的紀錄。OpenAI這次是自己把這份紀錄攤開了，Anthropic，Google DeepMind這些對手接下來會不會也遇上類似的測試意外，沒人敢打包票——但可以確定的是，代理能力衝得越快，這種「自己人先被打措手不及」的事故只會越來越常見，不會越來越少。