微軟執行長 Nadella 呼籲 AI 必須內建人類可控的「緊急煞車」機制

微軟董事長暨執行長 Nadella 在 X 平台發文，呼籲業界在開發先進 AI 系統時，應納入隔離機制、獨立控制層，以及一套能讓授權人員在任務執行中途暫停或關閉模型的「緊急煞車」。他表示，必須以「強確定性的系統設計、人類控制與可靠操作程序」包圍非確定性模型，並在現有標準不足之處建立業界共識。Nadella 提出以「可觀測性原則」設計 AI 系統的框架，具體要素包含：模型多樣性、人類可讀的行為紀錄、持續系統測試、獨立控制與可稽核性、隔離機制，以及事件揭露機制。他同時提出一個觀點：「最可信賴的超級智慧系統，不是那個我們最信任其模型的系統，而是那個讓我們有辦法信任模型的系統。」Nadella 的言論出現在多位科技領袖——包括比爾蓋茲、Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman 與馬斯克——相繼示警 AI 安全協議不足之際，也呼應近期 Anthropic 研究員公開示警的輿論氛圍。川普政府的立場則截然不同，持續淡化 AI 滅絕風險，強調優先維持對中競爭優勢。