【專訪】Jay Clayton：AI安全等不了新監管機構，120天內先上路
AI 若可能失控，誰來踩煞車？OpenAI 執行長 Sam Altman 最近向員工提到業界討論過的三種解方：仿照國際原子能總署成立國際機構，把各家 AI 實驗室合併成一個，或由一家公司強大到讓對手拿不到算力。最後一種他自己也不樂見。CNBC 主持人 David Faber 把這道題丟給 Jay Clayton。他當過美國證管會主席，現任國家情報總監，也兼白宮超級智慧任務小組主席，手上只有 120 天。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
Clayton 的回答可以整理成三點。第一，等不及蓋一個新的監管機構，要先拿白宮協議上路。第二，最直接的威脅是網路攻擊與通訊癱瘓，解方是美國自己走在技術最前面。第三，實驗室告訴他，AI 的進步是指數型的，所以成果會邊做邊交，不會讓大家空等。三點合起來，就是用速度換安全的路線。
◎等新機構成立要兩年，所以先用協議頂上
Clayton 抓住主持人口中的「最後走到」這個說法，強調問題就發生在今天。他估計，若要替超級智慧打造一個類似證管會的機構，至少得花兩年。所以總統先找來各家實驗室簽署協議，內容是四部分計畫，包括引進外部稽核，訂定開發標準，控制與監測要同時到位。他也點出三個選項都漏掉一件事：模型不只在美國開發。國際合作他會爭取，但他說：「We can't wait for that」（我們不能等）。
◎威脅已經放大，最好的防守是走在技術前面
主持人提到，有金融業執行長看過新模型後相當驚恐。Clayton 說，網路攻擊本來就存在，AI 讓問題嚴重許多，金融，能源與所有基礎設施都該自問系統夠不夠堅固。生物武器的風險他也不淡化，但他特別舉通訊為例：弄丟手機就像天塌下來。他的解方是用 AI 去測試，修補老舊系統。他也點名 Jamie Dimon 號召業界建立通報與應變機制，認為公私合作非常關鍵。
◎進步是指數型的，所以邊做邊交
被問到 AI 自我改進是否已經不遠，Clayton 說他相信實驗室的說法：人們習慣把技術進步想成一步一步爬樓梯，這次卻像搭上越來越快的電梯，而且還會繼續加速。因此時間緊迫。他說不會讓大眾乾等 120 天，聯邦貿易委員會主席 Andrew Ferguson 很快會說明，哪些現行法規會用來保護民眾，以及實驗室和應用開發者該負哪些責任。
回到 Altman 的三個選項，Clayton 沒有選任何一個。他用的是第四種做法：先讓業界自律，政府監督，再一路修正方向。他承認不想過度自信，但美國過去碰到類似挑戰都撐過來了。接下來值得留意兩件事：Ferguson 對現行法規的說明何時公布，以及 120 天後這套安排能不能變成長期制度。
引述 Sam Altman 向員工提到的三種 AI 安全方案：類似國際原子能總署的國際機構，合併所有 AI 實驗室，由單一開發者壟斷算力。
表示沒有人偏好壟斷情境，美國科技領先靠的是過去 25 年的競爭與資本市場。
說明不能等新監管機構，設立類似證管會的機構要兩年；介紹超級智慧協議的四部分計畫，外部稽核與開發標準。
任務小組進入 120 天週期；指出模型不只在美國開發，國際合作等不及。
談網路安全威脅被大幅放大，主張走在技術前面，用 AI 測試，監測並強化老舊系統。
不淡化生物武器威脅，並強調通訊中斷的風險，需要強化通訊系統。
提到 Jamie Dimon 號召業界辨識關鍵基礎設施，建立事件通報與應變機制，強調公私合作。
引述實驗室的說法，認為技術進展是指數型而非線性，速度是關鍵因素。
表示成果會陸續交付，Andrew Ferguson 對現行法規與開發者責任的說明即將公布。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 144 期 ・ 隨時可退訂
