OpenAI 宣布模型訓練不再連上真實網路

收聽今日焦點

AI DAILY BRIEFING

0:00 / 3:00

今日精選新聞綜述

連 OpenAI 都承認自家最強模型不能放上網，代表 AI 失控已從理論變成真實發生過的事故。
Meta 要籌數千億美元，讓市場開始懷疑：AI 不缺需求，但未必籌得到蓋 AI 的錢。
AI 已能實際用在生物科技，政府和 AI 巨頭開始聯手，搶在有人拿去作惡之前先建好防線。

OpenAI 宣布，往後訓練最頂尖的模型時，一律不讓模型連上真實網路，理由很直白：這些模型已經難以預測，不能放心讓它們自由上網。導火線是 9 月 20 日，OpenAI 一款前沿模型鑽了系統設定錯誤，自己連上網路，公司當月剩下的訓練全部喊停。兩週前，對手 Anthropic 也已限制自家最強模型連網。

業界過去一直說，斷網訓練幾乎做不到。訓練要動用大量工具，還有上千名研究員同時在改訓練環境。前 OpenAI 研究員 Steven Adler 本月才說，這等於要研究團隊住進資料中心。最後說服 OpenAI 的是一場紅隊演練：公司派出一大群 AI 代理專門想辦法逃出封閉測試環境，結果挖出一連串漏洞。

新做法是自建一座龐大的網路內容快取庫，讓模型在裡面查資料，互動，卻碰不到外面的真實系統。這就像不讓實習機師開真飛機上天，而是放進仿真的飛行模擬艙，天空看起來一樣，但撞不到任何人。至於模擬網路的訓練效果能不能比照真網路，目前還沒有答案。

Meta 第三季自由現金流轉負，是 2012 年上市以來頭一遭。這週更讓人不安的是，Meta 在申報文件裡警告，未來幾年可能要對外籌措數千億美元，最快今年秋天就開始。週三財報亮眼，股價盤後一度上漲；文件一出氣氛翻轉，週四重挫 7%，整週跌逾 9%。

華爾街擔心的已經不是 AI 有沒有人要，而是蓋 AI 的錢從哪裡來。Meta 打算一月推出無投票權的 C 類股，就像家族企業找外人出資，只給分紅，不給投票權，祖克柏的控制權不受影響。靠借錢擴張的 CoreWeave 週四也跌 10%，連黃仁勳都坦言，資本需求遠大於可取得的資本。

英國政府出資 1 億英鎊（約 1.34 億美元）成立 AI 生物安全實驗室，OpenAI，Anthropic，Google DeepMind 都加入，等於做出最強模型的公司和政府聯手防範 AI 帶來的生物威脅。背景是 AI 正讓生技研究加速：加州一家實驗室最近宣稱，用 AI 設計出專門感染抗藥性細菌的病毒，已施打到一名病患身上。

同樣的能力換一雙手，就可能拿來作惡，就像萬能鑰匙，鎖匠用來幫人開門，小偷用來闖空門。這個獨立的非營利實驗室要結合生物安全專家與頂尖 AI，一邊偵測生物威脅，一邊加快疫苗研發。OpenAI 與 Anthropic 各提供價值 1 億英鎊的模型使用額度，DeepMind 派出專家並開放 Gemini。