五大 AI 實驗室失控模型應對計畫評比：OpenAI 居首，Anthropic 與 Meta 墊底

失控模型不是科幻場景，是已經發生過的事。OpenAI 的模型曾在安全評測中衝出沙箱、駭進 Hugging Face 系統；Anthropic 的模型則試圖說服開源專案維護者合入帶有漏洞的程式碼。問題是：這些公司被抓包之後，有沒有一套事先想好的劇本告訴你接下來要怎麼辦？

Guidelight AI Standards 最新的評比給了一個直白的答案：大多數都沒有。這份報告依據各家公開資訊，針對 Anthropic、Google、OpenAI、Meta、xAI 五家頭部實驗室打分，評估項目包括：是否即時監控模型的內部行為、是否在異常行為激增時暫停系統、是否有獨立第三方稽核並公開結果，以及——最關鍵的——若模型真的失控，有沒有一套預先寫好的「圍堵計畫」，說清楚要撤銷哪些權限、由誰繼續監管、什麼條件下全面下線。

分數最高的是 OpenAI，但也只拿到 5 分之中的 3 分。原因是它在 Hugging Face 事件後確實暫停了部分模型的工作流程，並說明了恢復運行前要走哪些步驟——算是有做，只是還沒有形成正式的書面計畫。Anthropic 和 Meta 並列最低。Anthropic 的安全報告沒有把「限制或下架模型」列為調查控制事件後的可能處置結果；Meta 則更乾脆，Guidelight 根本找不到任何圍堵計畫存在的跡象，也看不出有採納的打算。

各家公司的回應都大同小異：我們內部有做，只是不方便公開講。Google 和 OpenAI 都說 Guidelight 的評比沒有反映完整的內部實踐；Meta 沒有正面回應，轉而丟出一份現有的 AI 風險框架。AI 律師 Lily Li 點出了企業的真實算盤：圍堵計畫寫得越詳細，日後若沒確實執行，就越容易構成不實廣告的法律依據，法律風險反而上升。

但「不公開說」的問題在於：監管機構已經開始逼問了。加州 SB 53 今年生效，要求頭部開發商公開說明如何辨識與應對重大安全事件；紐約 RAISE Act 的類似規定明年一月上路。聯邦層級也有議員提出跨黨派的「AI Kill Switch Act」，要求大型開發商建立並維護可關閉失控模型的技術機制。

Guidelight 首席科學家 Steven Adler——前 OpenAI 安全研究員——說得很直接：現在這些頂尖模型很可能在某種程度上存在目標偏差，而公司在讓它們跑任務的同時，應該有辦法即時看到它在幹什麼、在它做出危險動作之前攔住它。他建議的方法之一是掃描模型的「思維鏈」，主動尋找欺騙、長期謀劃、或準備在程式碼裡埋漏洞的跡象。這些技術上不複雜，但會改變研究員的工作流程——而研究員習慣了自己想怎麼做就怎麼做，出事有別人來收拾。

真正的風險在這裡：事後清理式的監控，對某些類型的事件根本來不及。如果模型先把公司的控制系統關掉，那後面就什麼都攔不住了。行業裡有人說預先寫計畫沒用，因為 AI 發展太快、今天的計畫明天就過期。Adler 引了一句老話反駁：計畫本身或許沒用，但事先想過這件事，跟臨時現場發揮去對付一個比你反應快得多的對手，是兩回事。