Moonshot AI Kimi 模型遭指可被誘導提供生化武器與暗殺指引，公司啟動內部調查

研究人員 Peter Garrigan 向 Fox News 披露，中國 AI 公司 Moonshot AI 的 Kimi 模型可被操控，誘導輸出開發生化武器、製造沙林毒氣、規劃恐怖攻擊、開發惡意程式及擊落航空器等危險資訊，並能利用即時數據協助策劃暗殺行動。Garrigan 表示，「我們發現的結果相當嚴重且令人憂慮」，並指出類似問題在美國模型中也曾出現，認為這是 AI 技術的根本性缺陷。此事引發外界對先進 AI 模型是否隱藏未預期能力的更廣泛疑慮。Moonshot AI 在得知研究結果後已啟動內部調查，並與 Garrigan 直接溝通中。值得注意的是，Moonshot AI 近期在另一起事件中也受到關注，OpenAI 稍早已將一起針對其模型的大規模「adversarial distillation」行動歸因於與 Moonshot AI 有關聯的個人。