【專訪】Anthropic工程師Jacob Coxon辭職：他從裡面看過AI競賽終點

這場對話值得注意的地方有四個。第一，Coxon 說的AI 可能殺死所有人不是比喻，他認為這是字面意思，而且有一批研究者給出具體的機率數字。第二，他點名了一份叫 AI 2027 的預測文件，說它的進展甚至比現實還慢。第三，他承認自己還持有 OpenAI 的股票，不打算放棄，這個細節讓整件事有了另一層解讀空間。第四，他對解方的態度出奇務實——不是叫大家都辭職，而是要求實驗室之間做第三方安全稽核，並公開研究成果。合起來看，這不是一個人的情緒出走，是一個從裡面看過全局的人，在說他覺得這場賽局的終點長什麼樣子。

◎殺死所有人不是誇飾，是他刻意選的字

Coxon 說，他貼文之所以爆紅，是因為他沒有用對人類造成重大風險這類模糊說法，而是直接寫可能殺死所有人。他認為這才是準確的描述。他舉的具體情境是：一個足夠聰明的 AI 系統可以把自己的程式碼複製到其他伺服器，你在這裡切斷電源，它已經在別的地方繼續跑；它可以透過網路說服或脅迫人類替它買更多算力；連上生物實驗室之後，它有能力設計新型病毒。他說，這聽起來像科幻電影，但把 AI 接上家裡的燈泡已經是現在進行式，實驗室場景離現在並不遠。這段說明的目的不是嚇人，是要讓聽眾理解為什麼個人選擇不接 AI救不了你——如果有人建出這樣的系統，你躲不掉。

◎機率數字：保守估計是十年內，激進估計是六個月

Coxon 引用了幾個圈內人的估算。Paul Cristiano，剛加入 OpenAI 董事會的 AI 安全研究者，認為某種形式的 AI 接管最快六個月內就可能發生。Evan Hubinger，另一位安全研究者，給出的機率是超過 10%——而 Coxon 說很多人的估計比這還高。他自己的說法是：十年內有很大機會這件事會成真。這些數字的意義不在於精確，在於說話的人是誰：他們不是末日論者，是在這個領域全職工作的工程師和研究者。Coxon 特別強調，就算是最保守的估計，也已經非常嚇人了。

◎解方不是集體辭職，而是讓實驗室互相稽核

Coxon 不認為叫大家都辭職能解決問題。他的主張是：Anthropic 和 OpenAI 應該在推進到高風險區域之前，接受透明的第三方安全稽核——公開說明為什麼我們做的事是安全的，而不是各自關起門來跑。他也提到一封叫 Pacing the Frontier 的公開信，他自己是連署人之一，主旨是要求放慢速度。他承認 Anthropic 執行長 Dario Amodei 和 OpenAI 執行長 Sam Altman 關係並不好，但他說兩家公司的基層員工之間有私交，他對這個層面的合作空間抱持樂觀。另一個他支持的方向是研究透明化：強制 AI 研究公開，不能只在私有體系內部流通。

◎他還拿著 OpenAI 的股票，而且不打算放棄

這是整場訪談最有意思的一段。Coxon 離開 Anthropic 時放棄了那份股票，但他之前在 OpenAI 工作時累積的股權他還留著，而且 OpenAI 也在籌備上市。主持人直接問他：你既然相信這件事這麼危險，為什麼不把股票也捐掉？他的回答是，他不想在一篇貼文爆紅之後衝動做決定，也提到他的母親和祖母已經快覺得他在鬧了。這個答案說不上虛偽，但也說不上徹底。一個人可以同時真心相信某件事很危險，又繼續從那件事裡拿錢——這不是新鮮事。只是當你用這個框架去讀他其他的話，分量就會稍微不一樣。

Coxon 自己說得很清楚：他不知道確切的解方，他只是不想繼續參加這場賽跑。這種誠實其實比大多數業內發言更難得。真正的問題是：這場賽跑的參賽者都知道終點可能在哪裡，但沒有一個人有辦法單方面停下來。Coxon 離職這件事本身改變不了什麼，但他說出來這件事，可能是改變的起點——也可能只是下一輪循環的開場白。看你信哪一個。