AI情報誤判險使美軍扣押中國船隻，五角大廈加速導入AI卻無統一驗證規範

這不是AI「失控」的末日場景，而是一個更日常、也更危險的問題：人類拿著AI吐出的錯誤資訊，差點做出改變地緣政治格局的決定。

去年春天，美國特種作戰司令部一名分析師將一艘中東海域中國船隻的貨物清單輸入聊天機器人，系統整合了開源資料與政府機密訊號情報後，得出結論：該船正在運送與核武開發計畫相關的零組件。這份報告隨即在美軍內部流傳，引發高度警戒。武裝人員準備登船、軍機已經升空——直到行動前夕，官員才決定仔細重新審視這份報告，才發現整件事建立在AI的幻覺（hallucination）上。一名知情人士直接說：「這份報告完全是假的，差點引發一場戰爭。」

這個案例有幾個細節值得注意。第一，分析師用AI做了兩件事：先讓它分析貨物清單、得出判斷，再讓它把結果格式化成標準情報報告——那種軍事決策者習慣視為可靠來源的文件格式。AI不只產生了錯誤內容，還把它包裝成看起來最可信的形式。第二，目前不清楚分析師用的是商業聊天機器人還是政府專用系統；一名熟悉國防情報AI工具的前高層官員表示，政府內部工具「不見得在本質上與商業AI產品有根本差異」。第三，這不是孤立事件，多名資深情報官員表示類似情況已不只一次發生。

問題的結構性根源在於：五角大廈正在以去中心化的方式快速導入AI，軍方與情報界各單位使用不同工具、遵循不一致的指引與安全標準。國防部長Hegseth今年一月推出「AI加速戰略」，目標是讓約300萬名軍事與文職人員跨越所有機密等級都能使用AI，但目前沒有任何統一規範定義AI生成資訊在用於作戰決策前必須如何驗證。一名知情人士說得很直白：「AI讓你更快得出一個爛結論。」

這件事對企業經營者的意義，不只是軍事領域的警示。AI工具在組織內部快速普及、各部門各自為政地採用不同系統、沒有統一的輸出驗證機制——這個結構在企業裡同樣存在。差別只是，企業的錯誤決策代價通常不是「差點開戰」，但在高風險的採購、法律、財務判斷上，AI幻覺加上格式化包裝的組合，同樣足以讓決策者在沒有察覺的情況下被帶著走。速度與驗證機制之間的張力，是AI導入的核心矛盾，而這個案例說明，這個矛盾在最高風險的場景下會長什麼樣子。