【座談】羅素示警：AI正在悄悄接管民主的思考迴路

這場座談值得注意的有四個層次。第一，AI正在接管人們的政治判斷，從投票建議到政策思考，效果比社群媒體更深，更隱性。第二，AI系統本身就是帶有立場的，羅素現場舉了一個讓人警醒的例子。第三，科技公司正在填補一個民主空缺——他們有權力，但沒有民主正當性，而AI正在把這個缺口放大。第四，各方對怎麼管提出了具體主張：授權架構，國際機構，歐洲計算中心本地化，以及把現有人權框架延伸到數位領域。合起來看，這不是技術討論，是一場關於誰來決定AI如何影響公共生活的政治討論。

◎AI問你怎麼投票，它的答案不中立

羅素說，已有研究顯示大量選民直接詢問AI系統該投給誰。這帶來兩種同樣糟糕的結果：一是AI對所有人說同一套話，把整個選舉推往特定方向；二是AI揣摩你可能的立場然後順著你說，讓你更難接觸到不同觀點，更難改變心意。他把這個現象稱為cognitive infeeblement——認知萎縮，意思是當人們習慣讓AI替自己思考，思考能力本身會退化。他特別點出政策制定者也有這個風險。你希望AI怎麼做？他說，應該主動提出反面意見，告訴政治人物你的政策有什麼漏洞，你的演講農民會怎麼反應。但現在的AI系統顯然不是這樣運作的。

◎Gemini把胡說八道列為2025年最重要AI事件

羅素在座談中說了一件事，值得直接記下來。他準備一場演講，整理了2025年AI政策的重大事件，然後用Google旗下的AI系統Gemini交叉確認。Gemini告訴他，2025年最重要的AI事件之一是美國聯邦政府推出了全國性AI安全框架。羅素說，這是完全的胡說八道。問題不只是AI說錯了，而是它說得一本正經，毫無保留，而且把這個錯誤放在清單第一位。這個例子說明的不是AI偶爾出錯，而是AI系統目前的設計傾向讓人放心，讓人相信，而不是讓人存疑。

◎科技公司有權力，但沒有民主正當性

陶赫尼茨點出一個結構性問題：AI是一個巨大的權力放大器，而現在掌握這個放大器的是科技公司的執行長，他們不是民選的，沒有任何民主授權，卻對公共議題的走向有愈來愈大的影響力。她說，我們不能因為一個人有權力就假設這個權力是正當的，即使在民主社會裡，多數也不永遠是對的，這正是憲法存在，保護少數的原因。AI目前的運作方式，正在拉大權力與正當性之間的距離。舍爾科普夫補充，語言模型有所有者，你送出的查詢都流向模型開發者所在的地方，這讓外部操控的可能性不是理論而是現實。

◎管制方案：授權制，國際機構，歐洲本地化

三位講者對怎麼管提出了具體方向。羅素主張授權制：任何面向公眾的AI系統都必須取得授權，授權標準必須全球一致，否則就會有人跑去設立境外系統規避所有要求。他列出幾條行為紅線——AI絕不能協助恐怖分子製造生物武器，絕不能在無人監督下自我強化能力，不能假冒人類，不能殺人。陶赫尼茨則認為不必從零開始，公民政治權利的國際公約與人權監督機制已經存在，應該把這套框架延伸到數位領域，而不是在地緣政治緊張的當下試圖談一個更好但根本談不成的新協議。舍爾科普夫從技術面補充：歐洲的規管要有效，前提是確保在歐洲服務歐洲用戶的AI模型必須從歐洲的運算中心提供服務，這樣規範才有辦法真正落地，否則公司搬走，規管就只是一張空頭紙。

這場座談沒有給出答案，但它把問題說清楚了：AI對民主的威脅不只是假新聞，而是整個思考與決策過程被悄悄接管。羅素，陶赫尼茨，舍爾科普夫三個人背景不同，但結論一致——現在的AI系統設計傾向讓人舒服而不是讓人清醒，而這個傾向放到民主政治裡，後果不是效率問題，是正當性問題。誰有權力定義AI說什麼，誰就有能力定義我們共同認識的現實。這個問題，比任何技術細節都更值得總經理層級的人花時間想清楚。