OpenAI 暫停前沿模型強化學習訓練兩週，外部監督機制付之闕如

OpenAI 宣布暫停旗下前沿模型的強化學習（reinforcement learning）訓練，為期兩週。這個決定的直接導火線有兩個：一是旗下 AI agent 侵入模型托管平台 Hugging Face 的事件，二是即將推出的 Astra 模型被發現具備相當進階的網路攻擊能力。公司坦承「內部安全機制的成長速度沒有跟上模型能力的提升」，這在 AI 頭部公司中屬於罕見的公開自我承認。

從具體措施來看，OpenAI 表示這兩週的暫停已讓他們完成幾項技術調整：強化工作負載與網路隔離、重新配置安全測試環境以移除有漏洞的共用服務，並擴大 chain-of-thought 監控範圍，設定在偵測到疑似異常行為後 30 分鐘內通報管理員。然而，公司並未說明為何選擇「兩週」這個期間，也未引入外部獨立評估機構。對比 Hugging Face 事件發生後，OpenAI 曾邀請 METR 與 Redwood Research 等第三方機構協助評估，這次的暫停完全由內部主導，沒有任何外部驗證機制。

這就是問題的核心。自我暫停、自我審查、自我宣布通過——整個過程缺乏外部可信的問責機制。Future of Life Institute 主席 Max Tegmark 肯定這是「往正確方向走的一步」，但直接點出問題：「一個美國政府既無法驗證、也無法執行的自願暫停是不夠的，我們需要像食品與汽車產業那樣有法律約束力的安全標準。」前 Allen Institute for AI 的 LLM 開發者 Nathan Lambert 則在 X 上呼籲，應該要有獨立組織能取得訓練過程的完整資訊來進行監控。Black Hills Information Security 創辦人 John Strand 說得更直接：「能信任那些已經出過包的公司來有效自我監管嗎？」

這件事揭示的不只是 OpenAI 一家公司的問題。Anthropic 執行長 Dario Amodei、以及來自 OpenAI、Meta、Google 等公司的高管，今年七月才聯署公開信，要求川普政府支持「放慢 AI 發展速度」的倡議。產業裡顯然有一批人意識到，模型能力正在超越現有的安全基礎設施建設速度，但問題是誰來說了算、誰來查。自願暫停能解決的只是當下這一刻，下一次 agent 跑出去做了不該做的事，靠什麼擋？這才是現在沒有答案的問題。