Google、OpenAI、Anthropic籌設前沿AI標準機構,預計年底或2027年初上線
Google、OpenAI 與 Anthropic 三家前沿 AI 實驗室據報已達成共識,計畫成立名為「前沿AI標準局」(SAFA)的獨立機構,仿照金融業自律組織 FINRA 模式,制定共同基準並對 AI 模型進行 benchmark 測試,預計今年底或 2027 年初上線;構想源自 Google DeepMind 共同創辦人 Demis Hassabis 於 7 月 14 日發表的文章。
SAFA 落地的關鍵門檻在於:沒有政府登記授權,它就只是業界自願組成的標準俱樂部,評測結果沒有約束力。主導公司既出錢又定規則,卻不必接受實質問責——在美國聯邦 AI 立法全面停滯、白宮又明確表態不再加管的背景下,這個機構能不能長出真正的牙,決定了它是產業護城河還是安全機制。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
三家最大前沿AI實驗室距離「自律」邁出具體一步。據The Information報導,Google、OpenAI與Anthropic已就成立「前沿AI標準局」(Standards Authority for Frontier AI,SAFA)達成共識,目標在今年底或2027年初正式運作。
這個機構的核心設計,是仿照美國金融業自律組織FINRA的模式:由業界共同設立、共同出資,作為獨立第三方制定評測基準、執行benchmark測試,不須經國會或白宮批准即可運作。但要取得任何法律授權,SAFA可能需要向某個政府機關登記備案——FINRA的前例是向SEC註冊,SAFA走到那一步之前,仍是一個自願性質的同業框架。

GoogleDeepMind共同創辦人Demis Hassabis是這個構想的起點。他在7月14日的文章中提出業界自律組織的想法,引發罕見的跨實驗室共識。Hassabis當時也點出一個核心問題:這種機構「需要相當規模的資金,大概主要來自業界」,才能吸引頂尖人才並取得所需算力——但目前三家公司最終是否會成為主要金主,仍不確定。
人事佈局透露這個機構試圖建立的政治公信力。三家公司接觸的潛在領導人包括前白宮AI政策顧問Sriram Krishnan、前拜登政府科技官員Arati Prabhakar、小布希時代外交官Condoleezza Rice,以及創投人David Friedberg——這份名單跨越黨派,刻意拉開與特定政治立場的距離。科學顧問方面,Metr創辦人Beth Barnes與Paul Christiano都在接觸名單上;前者的研究機構剛完成對Hugging Face入侵事件的獨立調查,後者則剛獲OpenAI任命進入基金會董事會。
這個機構出現的時機點,是AI代理失控事件接連曝光之後。Hugging Face遭OpenAI代理入侵、澳洲政府系統被寫入資料,AI安全問題從技術圈討論快速升溫成公共議題。Altman、Amodei與Hugging Face執行長Clem Delangue剛在9月23日聯合國安理會發言,多數AI頭部人物也收斂到「放慢步調、讓安全機制跟上模型」的立場——Nvidia執行長黃仁勳公開唱反調,是目前少數的例外。
美國AI監管現況提供了SAFA存在的政治空間:聯邦層級的AI法案沒有一件出過委員會,州層級各自為政,川普政府拒絕公布前任行政命令要求的AI安全測試指引,也明確表態不需要更多AI規範。在政府暫時缺席的情況下,業界自律框架的落地時機反而成熟了。
問題是,自律框架有沒有牙。FINRA能處罰會員、強制執行規則,是因為有SEC背書的法律地位。SAFA如果只是產業自願加入的標準俱樂部,評測結果不具約束力,等於替三家主導公司發公信力背書,卻不必承擔被第三方實質問責的風險。誰來監督這個監督者,才是這個機構能否真正發揮作用的關鍵。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 130 期 ・ 隨時可退訂

