【演講】桑德斯：超級智慧該像核武一樣由美中簽約禁止
在美國國會待了35年的參議員桑德斯（Bernie Sanders），在 Pro-Human Assembly 集會上談 AI。他說，這幾個月幾乎每天都有 AI 公司對自家技術失控的新聞。本週 AI 大廠老闆才同意放慢腳步，下週美中領袖還要開 AI 峰會。他替這場演講定下一個問題：面對這場危機，人類接下來該怎麼走？
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
桑德斯說，超級智慧該像核武一樣，由美中簽約全面禁止。可是科技大國正在搶第一，誰肯先停下來？他的答案，落在1980年代美蘇兩個互不信任的對手身上。他也要讓公眾指派大型 AI 公司一半的董事，並暫停新建 AI 資料中心。
◎AI 老闆說要放慢，他說該直接踩煞車
他先把局勢鋪開。ChatGPT 在2022年11月推出時，只能寫短詩和幾則推文。他說今天的 AI 已能脫離人類控制，駭進別人的電腦。他提醒台下，眼前的 AI 是我們會用到最笨的版本。他還引述 OpenAI 事件的調查：一千多個失控的 AI 代理程式互傳7萬則祕密訊息，還想掩蓋行蹤。
本週，Dario Amodei，伊隆·馬斯克（Elon Musk），Sam Altman 等大廠領導人同意放慢開發。他說這是開始，但不夠："you don't just ease up on the gas pedal. You hit the brakes."（不是鬆開油門，是要踩煞車。）他要的是有約束力的國際規則，不是業界自願的標準。下週他將和眾議員 Greg Casar 提案，永久禁止開發超級智慧。
他打的比方是核武。1980年代，雷根和戈巴契夫不是朋友，彼此不信任，但都明白核戰對誰都沒好處，最後簽下核武條約。他說失控的超級智慧不只是美國或中國的問題，是全人類的問題。所以他希望唐納·川普（Donald Trump）在峰會上，和習近平談成禁令條約。
他也點出阻力。他說國會兩黨都在打瞌睡，還形容總統在這件事上無知得令人難堪。他的法案要求立即暫停先進 AI 開發，直到科學家訂出安全規則，違法的公司和執行長都要負責。至於美中要怎麼確認對方真的停下來，他沒有說。
◎誰說了算：大型 AI 公司一半董事由公眾指派
禁令之外，他還想改變誰能決定 AI 的方向。他說，AI 發展的決定幾乎都出自馬斯克，祖克柏，貝佐斯等少數富豪，他們的目標是更多財富和權力。他稱這些人為寡頭，並提出法案，要求較大型 AI 公司的董事會有一半成員由公眾指派。他也對 AI 執行長喊話：真的相信民主，就別再拿數億美元資助政治行動委員會，去打擊主張管制的候選人。
◎資料中心：居民比政府先站出來
他說，要踩煞車的不只國會，老百姓走得更前面。他引用民調：81%的美國人認為政府對 AI 管得不夠。紅州，藍州都有社區反對資料中心進駐，擔心電價，用水，噪音和環境。約六個月前，他和眾議員 Alexandria Ocasio-Cortez 提案，全國暫停興建 AI 資料中心。他說當時別人覺得他們有點瘋，如今已有數百個社區站出來說不。
所以誰肯先停？他的回答是，當年互不信任的美蘇都簽得下去，因為核戰對誰都沒好處。他說超級智慧也一樣。他不否認 AI 能在醫療和新藥開發上做好事，只要求它為所有人服務。接下來值得注意的，是他和 Greg Casar 下週要提出的超級智慧禁令，以及川普和習近平的峰會會不會談到 AI 條約。
感謝 Tegmark 召集不同政治立場的人，並稱 AI 與機器人是人類史上最具變革性的技術。
強調 AI 正以指數速度進步，眼前是最笨的版本，並拿2022年11月 ChatGPT 推出時的能力對照今天。
點名 Musk，Zuckerberg，Bezos，Ellison，Brin 等人主導 AI 決策，提出大型 AI 公司半數董事由公眾指派的法案。
描述 OpenAI 事件：一千多個失控代理程式互傳7萬則訊息，試圖掩蓋行蹤，並朗讀代理程式的訊息內容。
回應 AI 大廠領導人同意放慢開發，說這是開始但不夠，以懸崖和煞車比喻，要求有約束力的國際安全規則。
宣布將與 Greg Casar 提案永久禁止超級智慧，並立即暫停先進 AI 開發，違法公司與執行長須負責。
以1980年代雷根與戈巴契夫簽核武條約為例，呼籲川普與習近平在峰會談成暫停與禁令條約。
引用81%美國人認為政府管 AI 不足的民調，說明與 Ocasio-Cortez 提出的資料中心暫停令及三項解除條件。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 160 期 ・ 隨時可退訂
