【座談】大衛·薩克斯：Anthropic末日言論是監管操弄

這集值得注意的點有四個：第一，大衛·薩克斯用具體的放大路徑與時間軸，論證這篇辭職貼文是事先安排好的公關行動，不是員工的自發良知發聲；第二，Chamath 點出 Anthropic 正處於股票公開發行準備期（S1 靜默期），內部員工公開背書產品可能造成文明終結，在法律上是個燙手山芋；第三，Friedberg 用更長的歷史座標說明這種恐慌模式並不新鮮，並警告真正的風險是管制本身；第四，節目後半段切到一個對企業主更直接的實務問題：你用 ChatGPT 或 Claude 處理公司機密資料，那些資料很可能已經洩漏進模型的訓練語料裡——而你的 CIO 很可能還不知道。加起來，這集的底層論點是：AI 危機的最大受益者不是你我，而是想用恐慌換來監管話語權的那些人。

◎辭職帖文不是良知發聲，而是一場有劇本的公關行動

大衛·薩克斯把幾個事實排在一起看：這個帳號在發文前幾乎沒有任何歷史紀錄，帖文上線後 15 分鐘內，三個由同一批 EA（有效利他主義）金主資助的政策遊說團體同步轉發——而這些金主裡有人恰好是 Anthropic 的 A 輪投資人。《華爾街日報》的報導時間戳還比帖文本身更早出現，代表媒體已提前收到消息，在協議下等待發布。最後一塊拼圖：Jacob Coxin 答應來節目接受訪問，當天早上取消了。把這些加在一起，這不是一個員工的良知覺醒，這是一場分工明確的輿論行動，目標是讓 AI 監管在美國政治上變得理所當然。

◎Anthropic 的 IPO 現在夾在兩個不可能同時成立的主張之間

Anthropic 正準備以數兆美元估值向公開市場募資——這是一個非常資本主義的動作。與此同時，公司的安全負責人 Evan Hubinger 公開背書說AI 在十年內有超過 10% 機率殺死所有人類。Chamath 把這個矛盾說得很清楚：在 IPO 的 S1 說明書（即公開發行申報文件）裡，你必須誠實揭露重大風險。如果你的核心產品有可能造成文明滅絕，這件事現在已經有公司高管在公開場合說了，你還能跳過去嗎？不行。但如果你揭露了，公開市場投資人要求的折扣會讓估值暴跌。要切割這個員工？安全團隊裡一堆人剛剛跟著附和。Anthropic 現在被自己的文化卡住了，想往哪邊走都走不順。

◎恐慌管制的終點不是安全，而是壟斷

Friedberg 拉出一個清單：Al Gore 的氣候預測，COVID 封鎖政策，三哩島事件之後美國核能開發幾乎停擺，而法國和中國繼續建核電廠，今天一千兆瓦核電的建造成本，美國要 150 億美元，法國 40 億，中國 10 億。每一次都是同一套劇本：說有大災難要來，要求集中管控，由專家來保護大家。大衛·薩克斯把這套邏輯的終點講出來：一旦成立聯邦 AI 監管機構（FDAI），它第一個要處理的就是開源 AI。原因很簡單：開源模型一旦發布，無法收回，不符合可監控，可撤回的監管標準。開源被禁掉之後，市場上只剩 OpenAI 和 Anthropic。然後這兩家公司一邊拿壟斷利潤，一邊替政府管制 AI 生成的內容——這個結果對誰最好，答案呼之欲出。

◎你公司的機密資料，很可能已經進了這些模型

節目後半段切到一個對企業主更直接的問題。OpenAI 在解釋 Navier-Stokes 方程式（描述流體運動的 200 年老數學難題）突破時，官方聲明說無法排除模型曾向使用者的提問學習。Chamath 說得更直白：所謂的零資料保留（ZDR）條款，是商業上的盡力而為，不是技術保證。Freeberg 說他有親身經歷：在某個模型裡討論過的新穎科學想法，換一個帳號，換一個版本問同樣的問題，模型給出了幾乎一樣的思路。你的 API 合約裡很可能沒有保護你 IP 的條款。Chamath 說得很直接：在未來一年內，會有一批 CIO 因為這件事被公開開除，因為董事會的審計委員會已經開始問這個問題了。如果你還在用標準的 API 方案處理公司的核心資料，這個風險你需要認真評估。

看三十年科技產業，我們會被新技術殺死這齣戲我大概看過十幾遍了。每一次都有人說得很有道理，每一次結局都是恐慌過後日子繼續過。但這次有一點確實不一樣：資料洩漏進 AI 模型這件事，不是末日預言，是現在進行式。Anthropic 的 IPO 最後怎麼收場不是你我該操心的，但你公司的機密資料有沒有在你不知情的狀況下替別人訓練模型，這個問題值得今天就去問你的技術主管。