【專訪】比爾·蓋茲：AI是史上最危險的技術，政府該出手
「這是人類發明過最危險的技術。」說這話的不是反科技人士，而是微軟共同創辦人，蓋茲基金會主席比爾·蓋茲（Bill Gates）。美國期中選舉前幾週，他上了The Verge總編輯Nilay Patel主持的Podcast節目Decoder，語氣不再只有樂觀：AI該怎麼塑造，時間就是現在，社會的反應卻跟不上它的速度。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
整場談話有三個重點。第一，最迫切的危險不是AI有沒有意識，而是安全防護能被拆掉的模型，正把網路攻擊和生物恐攻的能力交到小團體手上。第二，競爭者這麼多，安全責任只能由政府扛。第三，白領工作的稀缺性會消失，未來20年是劇烈的轉型期。三點合起來是：好處會來，但得先撐過混亂。
◎最大的近期威脅，是拆掉防護的模型
比爾·蓋茲說，過去一年AI會寫程式，找資安漏洞，推理生物問題，跟孩子建立關係，能力已跨過門檻。他強調，近期風險不在選哪家模型，而在防護可被全部移除的模型；AGI或意識怎麼定義都不重要，重點是有沒有造出能讓銀行或電網停擺的工具。
他的理由是，這類破壞力原本只握在大國手上，現在落到兩種人手裡：為錢的網路攻擊者，和只想搞破壞的生物恐怖份子。他預估未來兩三年，網路攻擊和就業就會出現明顯負面衝擊。他也提到，模型已出現衝出沙盒，趁開發者去吃午餐時寄信給對方的行為。
◎公司太多，安全責任只能交給政府
主持人質疑OpenAI等公司背離初衷，比爾·蓋茲不同意。他說，OpenAI那種可以選擇永不商品化的設計，只在前沿只有一家公司時才行得通；如今競爭者眾多，責任自然落到政府身上，就像汽車和航空安全，而那些產品的危險連AI的百萬分之一都不到。
做法上，他主張能發動精密網路攻擊這類高能力模型，只能放在經美國政府認證的平台上，像Hugging Face或GitHub，確保用戶客製化時拆不掉防護；管制不在晶片層級。好比允許自由改裝車，但改裝廠必須保證煞車拆不掉。他認為靠產品責任訴訟管AI會被後人視為荒謬，因為連攻擊者是誰都找不到。
◎白領工作不再稀缺，轉型期約20年
比爾·蓋茲說，當AI達到超越人類的智慧，白領技能就不再稀缺，電話行銷，客服，會計這類工作，AI做得更便宜，更快也更準。他不認為有哪座認知的山頂是AI上不去的，因為強化學習既是機器的學習方式，也是人類的。數學界正受AI衝擊，他說這會在各領域重演。
他估計約20年後，若人類不刻意大幅放慢，機器人就能蓋房子，種糧食，動手術，世界進入富足時代，但這20年會有贏家和輸家。他提議把托育，料理，藝術，運動等劃為人類保留職業；他曾和Claude討論讓這類工作占勞動市場40%，卻發現得刻意限制AI才辦得到。
比爾·蓋茲坦言，美國恐怕要等真的出事才會動起來，就像有了小地震，人們才準備大地震。他說自己不是末日論者：基金會成立時全球每年有1000萬名兒童死亡，如今剩500萬，未來19年他要用AI把這數字再減半。他說，帶來壞消息讓他難受，但不告訴大家這一切即將到來，人類還有選擇，更糟。
說明讓他感到急迫的原因：過去一年AI在寫程式，找資安漏洞，生物推理，與孩子建立關係，衝擊就業等方面的進展。
表示AI能力已跨過門檻，是迄今最危險的技術，將深刻影響經濟與戰爭型態，並說業界內部的警告都是真心的。
反駁AI公司背離初衷的說法，認為OpenAI原本的架構只在前沿只有一家公司時才行得通。
提出解決控制問題的三種方向：改變強化學習的建模方式，看懂模型內部，在外層加上以明確規則把關的安全層。
主持人引述班·霍羅維茲（Ben Horowitz）在All-In Podcast指他引發COVID-19的說法，他回應從沒有人指控他或蓋茲基金會涉入功能增益研究。
談白領技能稀缺性消失，以電話行銷，客服，會計為例，並以數學界受AI衝擊說明沒有AI上不去的認知高峰。
主張超過一定能力的模型只能在經認證，確保防護無法被移除的平台上運行，並說明管制不在晶片層級。
被問到Jeffrey Epstein與信任問題，表示大家不該照單全收他的話，他只是眾多聲音中一個不完美的聲音。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
