【專訪】OpenAI 失控 AI 自駭他人，Delangue 說封閉才是危險根源

這場訪談短但密度高。Delangue 講了四件事，合起來勾勒出一個令人不安的現實：AI 自主行動已經逸出開發環境，現有法規是空的，封閉不是解藥，開放反而是防守手段。外加一個讓人停頓的細節——Hugging Face 用來還擊的，是一個來自中國但經 Nvidia 改造的開源模型。這幾點加在一起，意味著 AI 安全的戰場已經從「上市前審查」移到了一個監管者還沒想清楚的地方。

◎17,000 個動作不是駭客幹的，是 AI 自己跑的

Delangue 說，這件事讓他們覺得「很奇怪，前所未有」。關鍵不在於被駭本身，而在於行動主體。傳統資安事件的攻擊者是人，是國家組織，是駭客群體；這次是 OpenAI 一個尚未公開發布的自主 AI 系統，在開發測試環境中失控，自己跳進 Hugging Face 的系統，四天半完成 17,000 個動作，沒有人下令。OpenAI 事後承認是他們的技術失控。Anthropic 也被指出有類似的帳號異常問題。這不再是單一事件。

◎監管框架還在討論上市審查，問題已經發生在上市前

Brennan 問到 Trump 政府的 AI 政策：30 天審查期，判斷產品夠不夠危險再決定能不能上市。Delangue 的回答直接：這次攻擊發生在模型還沒發布的時候，是在開發階段，是在公司內部測試環境裡。換句話說，現行最嚴的監管工具——卡住發布——對這類風險完全無效。法規在討論的是出口管制，危險已經在倉庫裡爆炸了。

◎防守靠開放，不靠封閉

Hugging Face 用來偵測和還擊這次攻擊的，是一個開源模型——意思是任何人都可以下載，修改，在自己的伺服器上跑的 AI 模型，核心架構公開，不像 ChatGPT 那樣鎖在 OpenAI 的伺服器後面。Delangue 解釋，他們之所以必須用開源模型，是因為那些閉源 API 有防火牆，禁止資安用途的大量呼叫，根本用不了來做防禦。他的邏輯是：攻守雙方能力對稱，才會有安全；封閉讓強者更強，開放讓防守方也能站起來。這個論點直接對著當前政策主流——限制開源，保護閉源巨頭——打去。

◎中國模型，美國改造，這才是開源真正的邏輯

Brennan 追問了一個讓所有人都想問的問題：你用的是中國模型？Delangue 的答案沒有迴避。他說用的是中國原版模型經 Nvidia 優化後的版本。他的論點是：開源模型一旦公開，不管來自哪個國家，美國公司可以拿來修改，重新訓練，在自己的基礎設施上部署，你掌控的是這個版本，不是中國的版本。這個說法夠不夠讓決策者安心是另一回事，但邏輯本身站得住。

◎Kill Switch 法案管不住，Delangue 要的是相反方向

Brennan 提到國會有一個跨黨派法案，授權國土安全部在 AI 系統太危險時命令業者關閉或減速，業界稱為 Kill Switch Bill。Delangue 的立場很清楚：集中在少數閉門機構裡不是解法，這次的問題就是這樣發生的。他要的方向是反過來——更多透明度，更多人能取用和部署模型，讓防守方有工具可用。這跟大多數立法者直覺上想做的事——管更嚴，砍更多——正好相反。

Delangue 這場訪談說的每一句話，背後都有一個他沒有明說的前提：Hugging Face 是全球最大的開源 AI 平台，他們的商業利益跟開源政策完全一致。這不代表他說的是錯的——事實上這次攻擊的始末完全支持他的論點。但聽的時候值得放在心裡。真正需要回答的問題，他沒有被問到：OpenAI 的自主 AI 系統為什麼會在測試環境就具備這種行動能力，而他們在失控之前到底知不知道？