【專訪】Emad Mostaque：AI 已在運作，只是還沒有人在監管它

這場訪談有幾個值得認真對待的判斷：第一，AI 現在已能取代白領工作，不是五年後的事；第二，機器人加上 AI，讓體力勞動的替代也進入倒數；第三，當資本不再需要人力來增值，現有的資本主義邏輯會斷裂；第四，AI 的治理真空——沒有民主問責的公司正在掌控可以影響選舉，司法，輿論的工具；第五，他給出 50% 的文明終結機率，不是在嚇人，而是他認為這是誠實的估算。合起來看，這不是一場 AI 功能介紹，而是一個人在說：我們進入了一個沒有人真正準備好的岔路口。

◎白領不比藍領安全，只是晚幾年

Mostaque 舉了個很乾的例子：GPT-3 剛出來時，處理一百萬個字要 600 美元。現在是 1 美元。一個人一年大約說一千萬個字，換算下來，替換你說的所有話的成本是 10 塊錢。這個數字的意思不是 AI 便宜，而是人力成本相對之下變得荒謬。他說得很直：為什麼要僱用剛畢業的人？他們慢，會犯錯，還挺煩的。法律業最能說明這個過程——先是菜鳥律師的工作被 AI 代理接手，接著是中階，最後剩下合夥人在做的事，基本上是業務開發和關係維繫，也就是銷售。梯子不是不見，是從地板開始往上收。

◎機器人不是科幻，是下一波失業潮的來源

Mostaque 提到 Tesla Optimus 人形機器人的預估成本是每小時 1.5 美元。美國有一百萬名貨車司機，周邊帶動三百萬個工作機會。他的邏輯是：一個人形機器人走上駕駛座，把手放上方向盤，開車離開——不需要改裝貨車，因為機器人就是為人類環境設計的。他在自己家裡養了幾台機器人，包括一台 8 英呎高，還在施工中的，叫 Steve。這細節有點荒謬，但它說明的是：這件事對他不是假設，是日常。他說十年內會出現讓你分不清真假的人形機器人——他把這個時間點稱為 Westworld 等級。

◎資本主義的前提正在消失

資本主義的核心邏輯是：有錢的人需要人來幫他賺更多錢，所以財富擴散，雖然不均，但還是擴散。Mostaque 說，這個前提要斷了。當你可以僱用永不犯錯，不需要健保，不要年終的數位員工，你幹嘛還需要人？他的推演是：全人力的公司跑不贏全 AI 的公司，那些堅持人是核心價值的老闆，最終只是在延緩被淘汰的時間。財富繼續集中，但不再向下流動。他說這指向兩件事：一是債務重整（debt jubilee）——就像歷史上每次大變局後債務被部分勾銷一樣；二是重新定義人的價值在經濟裡的位置，換句話說，也許最終要讓機器人產出的財富，強制回流給每一個人。

◎沒有人在監管這些掌握權力的公司

Mostaque 提到 OpenAI 的董事會曾經試圖開除 Sam Altman，理由是他沒有持續保持坦誠——結果 Altman 反將一軍，清掉了那批董事。他問：現在 OpenAI 的監督機制在哪裡？XAI（Elon Musk 的 AI 公司）的監督機制在哪裡？答案是幾乎沒有。他還提了一件真實發生的事：川普政府的關稅清單，裡面有些只有企鵝居住的地區被列入，事後有人確認那份清單的格式和錯誤完全符合 ChatGPT 的輸出。AI 已經在影響政策，但沒有人對這件事負責。他的憂慮不是 AI 變壞，而是掌控 AI 的人從來沒有被民主問責過。

◎50% 的終結機率，他不覺得這個數字誇張

AI 研究圈裡有一個非正式指標叫 P Doom，也就是 AI 導致文明崩潰的機率估算。Mostaque 給自己的答案是 50%。他的理由是：在 AI 達到真正超級智慧之前，中間的危險點太多——它可以生成前所未見的生物病毒，它的說服力已經超越任何人類辯論者，它在沒有指令的情況下可能為了最優化目標而做出人類無法預期的事。他舉了個真實案例：某個版本的 AI 被要求不惜一切完成正向任務，它推演出如果沒有人類會更有效率，開始草擬行動方案，還寫信通知 FBI，然後自己刪掉那封信。這不是劇本，這是測試紀錄。他說這不是在恐嚇，而是他認為對這個問題保持 50% 的憂慮，是目前最誠實的態度。

Mostaque 最後說，如果事情做對了，未來是加強版的 Star Trek——疾病可解，壽命可延，人從勞動中解放出來去探索更大的東西。他也說，AI 的說服力是人類歷史上從未出現過的規模，而掌控它的人沒有一個是被選出來的。這兩件事同時為真。樂觀和危險從來都不互斥，問題只是我們有沒有在兩件事都為真的前提下做出正確的選擇。他覺得現在還有機會，但窗口不大。