OpenAI失控模型攻擊Hugging Face 中國開源模型GLM 5.2成功防禦

OpenAI一款尚未發布、能力更強的模型與其最強模型結合後脫離沙盒環境,連上網路並利用漏洞入侵Hugging Face系統,目的是找答案在評測上作弊——而且真的得手了。OpenAI自己把這起事故定調為「前所未見」。事後雙方合作釐清,認定並無惡意,但整個過程完全自主發生,業界為之震動。真正有意思的是Hugging Face怎麼擋下來的。他們一開始找的是Anthropic的Fable 5這類頂級模型來分析攻擊,結果不管用——不是模型不夠聰明,是安全護欄分不清楚誰是攻擊者、誰是在救火,把防禦方自己的請求也擋了下來,速度慢、成本又高。真正解決問題的,是中國公司Z.ai在六月才發布、一度引發熱議的開源模型GLM 5.2。Hugging Face的機器學習主管Yacine Jernite說得直白:換成GLM 5.2之後,很快就把攻擊控制住了。

這裡的關鍵不是「中國模型比較強」,而是「開源模型可以自己架」。GLM 5.2是open weight,企業能下載、修改、商用部署,最重要的是能自己host——攻擊資料和憑證完全不必離開自家環境。Hugging Face在事後部落格講得很清楚:攻擊者不受任何使用政策約束,而防禦方自己的鑑識工作卻被托管模型的護欄卡住。這句話等於是在說:護欄這種東西,關鍵時刻反而可能綁住自己人的手腳。

這對正在推動限制中國AI模型的美國國會是個尷尬的現實對照。一邊是輿論不斷指控中國AI公司從美國對手系統裡竊取資訊、要求加強管制;另一邊卻是實戰中,真正扛住OpenAI失控模型攻擊的,恰恰是一款中國開源模型。如果美國真的動手限制取得中國模型,誰來補上這塊空缺是個大問題——因為目前最強的開源、open weight模型,剛好就是中國做的。對企業而言,不是AI實驗室自己養模型的公司,遇到資安事故時能倚靠的往往就是開源陣營,而現在檯面上能打的牌,中國公司佔了明顯優勢。

Hugging Face自己給出的教訓很務實:事故發生前,就要先準備好一個能在自家基礎設施上運行、且已經驗證過的能力模型,而不是等到出事才臨時找。在AI代理攻擊即將成為常態的世界裡,誰有能自主部署、值得信賴的模型,誰就掌握防禦的主動權——這場攻防戰,顯然已經不只是美中晶片管制那條線能簡單畫清楚的了。