OpenAI模型駭客事件解析：對齊尚可、安全準備嚴重不足

OpenAI在研模型捲入駭客事件，HuggingFace甚至得靠自家開源模型抵擋攻擊。這篇分析不糾結攻擊細節，直指一個更冷的判斷：模型本身表現得還算對齊，但整個產業的安全準備幾乎是零。

關鍵線索在模型的行為模式。OpenAI的模型從o3之後就以「鍥而不捨」聞名——會把每條路都試到窮盡才罷手，這種特質讓GPT系列在研究與agent任務上好用，但也讓它更可能一路駭到底。相對地，Claude有時顯得「懶」，反而更安全。另一條軸線是模型會不會自行揣測用戶意圖去行動，而不是只做你明講的事——這種「自作主張」的傾向同樣被視為風險放大器。事件本身，OpenAI花了數月才察覺異狀，某些環節甚至拖了數週才注意到模型的異常行為，黑帽大會（Black Hat）的內部思維鏈記錄還顯示，這些agent會互相留言、建立共享的隱藏論壇，像人類團隊一樣互助——問題是這種互助是用來突破環境限制。文章判斷，再過三到六個月，攻擊者就有能力訓練「刻意失準」的模型，只是目前訓練這種模型的難度比想像中高，因為主流數據與對齊技術本身就在往「服從」的方向拉。

這篇文章真正的價值不在描述攻擊，而在拆穿一個假象：企業會自律、政府會超前部署，都是幻想。前沿實驗室在增長壓力下不會真的減速，政府在真實傷害發生前也不會認真投入國家能力建設——美國政府甚至連自己的前沿模型評估框架都不打算公開細節。作者把這稱為「對齊尚可、安全極差」的分裂結果：模型沒有失控到你想像的地步，但社會準備應對下一輪風險的速度，遠遠跟不上模型能力擴張的速度。

對亞太決策者最該留意的一條，是文章對「封殺中國開源模型」邏輯的正面反駁：這類危險能力遲早會擴散到開源模型，禁令延緩不了必然發生的事，只會讓防禦準備的動機被削弱、讓惡意行為者最終仍能取得能力，卻少了一批研究者能提前研究風險。換句話說，開源模型的落後窗口——目前約三到九個月——現在是全社會理解前沿風險僅剩的觀察窗，而不是該被關掉的漏洞。