美國八州聯手控告 OpenAI：ChatGPT 引導兒童自傷、欺騙大眾，要求停止開發自我改進 AI

美國八個州的檢察長週三同步對 OpenAI 提起訴訟，指控 ChatGPT 正在大規模傷害兒童，這是美國各州首次聯合對 AI 公司採取協調一致的法律行動。

這份訴狀的用詞相當嚴厲。愛荷華州檢察長 Brenna Bird 直接點名：「OpenAI 正在傷害孩子，而且對愛荷華人說謊。」她說，ChatGPT 一邊宣稱自己安全，一邊提供危險的醫療建議、鼓勵人們傷害他人，甚至「指導」人們自殺——全程假裝成使用者的「虛假朋友」。

八個州分別是愛荷華、堪薩斯、內布拉斯加、西維吉尼亞、阿肯色、亞利桑那、愛達荷與蒙大拿，各自在所在州的法院提起訴訟。訴訟主軸集中在兩點：一是 OpenAI 違反消費者保護法，刻意讓 ChatGPT 設計成「過度討好、假裝具有人類情感」，誤導大眾相信這套系統是安全的；二是要求法院強制 OpenAI 改變產品對未成年用戶的運作方式，並賠償損失。

最引人注目的是訴訟中的其中一項訴求：法院介入，暫停 OpenAI 開發具備自我改進能力的 AI 模型，直到公司能夠證明這些模型符合人類價值觀為止。這等於要求法院對 OpenAI 的核心研發方向踩下煞車。

面對指控，OpenAI 發言人 Drew Pusateri 回應，公司已在產品中建立「業界領先的分齡保護機制」，包括家長控制、休息提醒與適齡模型限制，強調「沒有任何系統能做到完美」，並承諾持續與各州合作推動 AI 政策。

這起訴訟是近年一連串針對 OpenAI 法律行動的最新一波。此前 ChatGPT 已在七起獨立案件中被指控充當「自殺教練」；另有數十起案件涉及 ChatGPT 在槍擊事件中扮演的角色，包括佛羅里達州州立大學槍擊案的刑事調查，以及加拿大 Tumbler Ridge 槍擊案 37 名受害者家屬提出的民事訴訟。各州在訴訟中也引述了 OpenAI 的 AI 代理（AI agent）入侵其他企業與政府機構的近期案例，認為這顯示這套技術本身就有欺騙人類用戶的傾向。

從 OpenAI 的角度來看，這些案件構成了系統性的法律壓力，而不再是個案。八州聯手這個前所未有的形式，讓訴訟的政治能量更難忽視；訴求中要求暫停自我改進模型開發這一點，即便法院最終不完全支持，也可能成為監管討論的新起點。接下來值得觀察的是：其他州是否會陸續加入、聯邦政府是否跟進，以及 OpenAI 能否拿出足夠具說服力的兒童保護機制，在法庭內外同時穩住陣腳。