【演講】唐鳳：AI 該跑多快，該由航道下的一般人來定
史丹佛大學人工智慧研究院 HAI 的大會，開場交給台灣前數位發展部長唐鳳（Audrey Tang）。她提醒，九月以來，AI 實驗室的口風變了，上千名員工聯名寫信，說前沿模型必須放慢步調。HAI 的 AI 指數也顯示，約 30 國多數人懷抱希望，同時也有多數人感到害怕。可是放慢由誰決定，又要降落在哪裡？
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
唐鳳說，AI 要放慢多少，該由航道下的一般人決定，不是實驗室。但一般人連模型怎麼訓練都不懂，憑什麼替這麼複雜的技術定速度？她的答案落在一套借自民航的分工。她也拿台灣反詐騙法當預演，並主張從全球隨機抽出一千人，組成常設公民大會。
◎定速度的人在航道下，不在實驗室裡
唐鳳一開場就挑聯名信的毛病。信上說必須放慢前沿模型，她反問：這個我們，到底是誰？放慢也代表要飛向某處，安全降落點在哪裡，信裡也沒寫。她把民眾的恐懼當成資訊，說它標出關懷還沒抵達的缺口，好飛行員本來就該看儀表飛。她要的不只是放慢或暫停，而是讓公眾在下一步之前看到證據，真正有發言權。
她把這件事分成三樣：人人可查的證據，收買不了的見證者，限期回覆的義務。她借兩個行業打比方。核試管制靠地震儀，引爆的國家收買不了遠方的測站。民航變安全靠黑盒子，飛行員也能匿名通報差點出事而不受罰。她說八月已提出做法，把模型與測試打上指紋，在封閉環境做雙盲測試，Google 的 Gemini 舊版已經試過。
至於限期回覆，她說台灣和加州都有現成的零件。台灣的 Join 平台上，60 天內有 5,000 人附議，部會就得具體回應。200 多案裡，約 100 案獲全部或部分採納。加州 SB 53 則要求前沿開發者出重大問題後 15 天內通報。她總結："the people under the flight path need to set the pace"（航道下的人，該決定速度）。
主持人，HAI 副主任 Rob Reich 追問：圖靈獎得主約書亞·班吉歐（Yoshua Bengio）主張後訓練全面放棄強化學習，她怎麼看？她先反問：這裡的我們是誰？她也承認，盤旋等候比急著降落更費工，機組得一直守著無線電，儀表得一直能用。被問到台灣開戰的機率，她沒有給數字。
◎台灣反詐騙法，是一般人定方向的預演
要證明一般人定得了方向，她拿台灣當預演。2024 年 3 月，數位部隨機發出 20 萬則簡訊，邀民眾談深偽詐騙，1,700 多人報名，十人一組討論。她說十人小組裡，激進點子過不了關，留下的都是大家能接受的折衷。最後的方案有 85% 同意，其餘的人可以接受。方案寫進反詐騙法草案，在沒有政黨過半的立法院，幾個月就通過。
◎那個我們，是全球隨機抽出的一千人
至於那個我們該是誰，她和耶魯政治理論學者 Helene Landemore 在十一月提出方案：按經緯度在地球上隨機插針，抽出一千人組成常設公民大會，每幾個月輪換約三分之一。Reich 追問，過去沒有哪個科學突破需要全人類的大會，為何現在？她說氣候議題早有先例，受害者都離實驗室很遠。在美國，她建議先從 50 州做起。
回到那個反駁：她沒有要一般人懂模型，而是要懂技術的人把儀表造到人人看得懂，再由航道下的人決定速度。接下來值得觀察的是加州。她擔任顧問的 Engaged California 一月起成為常設制度，她說它和 SB 53 的通報義務之間，還缺一個把兩端接起來的機制。她談 AI 步調的新書，明年二月由 Wiley 出版。
提到九月以來上千名實驗室員工聯名主張放慢前沿模型，質疑信中的我們是誰，安全降落點在哪裡。
提出三個要件：人人可查的證據，不受實驗室與國家左右的見證者，限期回覆的義務，並開始講台灣反詐騙的審議經驗。
說明 85% 同意，其餘 15% 可以接受的方案進入反詐騙法草案，在三黨都不過半的立法院幾個月內通過。
以核試監測與民航黑盒子作比，介紹八月提出的雜湊指紋，可信執行環境與雙盲測試做法，並提到 Gemini 舊版已在試行。
介紹與 Helene Landemore 提出的全球一千人常設公民大會，按經緯度隨機抽選，定期輪換。
說明 SB 53 的 15 天與 24 小時通報規定，以及 Engaged California 一月起成為常設制度。
Reich 問班吉歐主張放棄後訓練強化學習的看法，唐鳳用臭氧層破洞與更換冷媒作比，說明技術倒逼政策。
回應台灣地緣政治提問，說沒有民主是孤島，並談公民肌肉的訓練與新書 the six pack of care。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 160 期 ・ 隨時可退訂
