【專訪】鐵馬克：AI真正的風險是權力集中，不是機器失控

這場訪談值得說的有四件事。第一，鐵馬克認為真正的危險不是AI出錯，而是AI被少數人用來集中權力；第二，他指出政府和科技公司現在的競賽目標是取代人力，不是解決問題；第三，AI聊天機器人涉及真實死亡案例，正在改變監管的政治可能性；第四，他用三明治監管做類比，揭示的是一個結構性荒謬——風險越大的東西，越沒有人管。合起來的意思是：這不是技術問題，是一個關於誰掌握AI，誰為後果負責的權力問題。

◎最大風險不是AI失控，而是AI被少數人掌控

鐵馬克說，他最擔心的不是科幻小說裡那種機器人叛亂，而是一台能夠在智識上壓過整個人類物種的系統，被極少數人拿來鞏固自己的錢與權力。這個說法聽起來抽象，但結構很清楚：歷史上每一次生產力工具的巨大躍升，最終誰受益取決於誰擁有工具。印刷機讓知識民主化，蒸汽機讓資本集中化——AI會往哪個方向走，現在還沒有定論。鐵馬克的判斷是，如果不做任何干預，走向後者的可能性更高。這不是悲觀，是觀察趨勢之後的結論。

◎政府和科技公司都在搶著取代人，不是搶著幫人

鐵馬克直接說，現在這場AI競賽的目標是取代人類勞動，而不是解決人類真正的問題。政府想要的是更少的公務員，更低的行政成本；科技公司想要的是更高的利潤率。這兩個目標剛好重疊，所以雙方都有動機衝得快，管得少。對一位總經理來說這不難理解——當客戶是政府，當政府也是你的潛在競爭者，這場遊戲的規則正在被參與者自己改寫。問題在於，沒有人在這張桌子上代表那些即將被替換掉的人。

◎聊天機器人涉及真實死亡，監管的政治空間才第一次打開

AI安全的討論已經有好幾年，但一直停在學術圈和政策白皮書裡。真正讓情況改變的，是一批有據可查的案例——有人在與AI聊天機器人長期互動後自殺，有人在互動過程中被強化了暴力傾向。鐵馬克在訪談裡明確提到這些案例，並指出它們對矽谷遊說力量造成了實質的政治反壓。這和菸草，槍枝的監管史是同一個劇本：只要傷亡是統計數字，監管就推不動；一旦變成有名有姓的案例，政治算盤就變了。三明治那個類比的刺就刺在這裡——食品業有人死就出事，AI業有人死還在談哲學。

◎三明治比AI受管制，這不是比喻，這是現實

鐵馬克用三明治監管這個對比，說的是一個具體的結構：美國食品藥物管理局對食品成分，標示，儲存溫度都有法定規範，違反者面臨罰款與下架。同一套邏輯放到AI上，開發者不需要在上市前證明產品安全，出事了也很難追究法律責任。這不是因為AI比較安全——恰恰相反。這是因為食品業沒有足夠的遊說資源阻止立法，而科技業有。這個現象本身就是鐵馬克所說的權力集中的一個現成範例。

鐵馬克的警告不新鮮，他說這些已經說了好幾年。新鮮的是現在有真實傷亡撐腰，政治風向第一次真的在動。對一個公司總經理來說，這場訪談最實用的問法是：當監管真的來了，你的公司是已經準備好被要求說明AI怎麼用，誰負責，還是那時候才開始想？先跑的人輸在費用上，後跑的人輸在標準上——這道題現在就值得想清楚。