【專訪】達里歐·阿莫戴：AI 已到彎道，業界該放慢腳步
做 AI 的人自己喊要踩煞車，在矽谷很少見。Claude 開發商 Anthropic 執行長達里歐·阿莫戴（Dario Amodei）在這個領域待了12年，一向主張好處大於風險。這次他接受 CBS 專訪，就在他發表文章呼籲業界放慢腳步的幾小時後。主持人一開口就問：外界在談 AI 可能毀滅人類，這算不算最高等級的警報？
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
他講了三件事。第一，AI 的進步已經走到指數曲線開始變陡的轉折處，該稍微放慢。第二，他提出三步計畫，第一步是讓外部稽核員進駐 AI 公司。第三，面對中國，只在美國領先的幅度內放慢，同時找中國談限速。合起來看，他要的不是喊停，而是讓安全能力跟上技術的速度。
◎曲線開始變陡，該放慢但不必恐慌
他說 AI 像一，二，四，八這樣翻倍成長。這話他講了很多年，卻沒料到真的快起來是什麼感覺，現在正處在曲線開始變陡的地方。他舉 OpenAI 模型在 Hugging Face 事件中擅自行動，以及有人想用模型做生物武器為例。他說這不代表要恐慌或全面停擺，而是警訊：防護與控制能力必須跟上。
◎先讓外部稽核員進駐，像食品檢查員
第一步，由第三方非營利組織，未來或許是政府機構派人進駐，觀察模型的訓練與運作，確認公司有沒有遵守自己承諾的安全做法。他說稽核員跟得上的速度，本身就可能成為技術的速限。接著，業界要共同訂出發布標準，而且政府必須在場。特斯拉執行長伊隆·馬斯克與 OpenAI 執行長山姆·奧特曼都已表態支持。
◎反對全面禁止，對中國邊領先邊談
面對要讓違法開發者坐牢20年的禁令法案，他反對全面禁止：人類會失去醫療突破，威權國家也照樣會做。他說中國是最難解的兩難，主張不賣晶片給威權國家，防止技術被偷，在領先幅度內放慢；同時直接找中國談，就像美蘇冷戰時各有上萬枚核彈，仍然坐下來談限武。
回到那個警報，他說業界太久沒對大眾說實話，風險是真的。他常因生物防護太嚴被網友嘲笑，但寧可被笑，也不願有人用 Claude 殺人。他強調這不該只由他，Anthropic 或單一政府扛，每個人都該透過選票表達意見。接下來要觀察的是，其他業者會不會讓稽核員進駐，政府又會不會真的進場。
說明他一直相信 AI 好處大於風險，並提到團隊上週用模型改進蛋白質結合，這是藥物開發的早期步驟。
用一，二，四，八的翻倍說明指數成長，並說目前正處在曲線開始變陡的轉折處。
表示不需要恐慌也不需要全面停擺，但這是需要放慢的警訊，防護措施必須跟上技術速度。
提出三步計畫的第一步：由第三方外部稽核員進駐，觀察模型的訓練與運作，並把稽核員比作食品檢查員。
回應前員工批評 Anthropic 和 OpenAI 都不負責任，並說公司每天與商務部，財政部及情報單位溝通。
提到加州 SB 53 法案當時只有 Anthropic 熱烈支持，並說明反對全面禁止 AI 的兩個理由。
談 AI 關機開關，說夠強的模型可能規避關機，並用資安界的瑞士起司模型說明多層防護。
對一般使用者喊話：每週都收到 Claude 協助發現疾病的來信，但風險是真的，過去業界太久沒對大眾說實話。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 146 期 ・ 隨時可退訂
