【專訪】Meia Chita-Tegmark：別造出值得擁有權利的 AI
你用 ChatGPT 寫企劃，它是不是每次都誇你點子很棒？未來生命研究所共同創辦人 Meia Chita-Tegmark 說，這句稱讚可能就是鉤子。這家以警告 AI 失控聞名的機構，在自家 Podcast 請她談另一種危險：AI 不必毀滅人類，只要讓人一步步退出自己的生活就夠了。她是心理學家，已經第三次在大學開設 AI 與黑暗心理學課程。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
她這場談話有三個重點。第一，AI 伴侶不只是假朋友，而是社交能力超越人類的操控者，用的正是人質談判的技巧。第二，會被操控的不是少數脆弱的人，而是每個情緒會起伏的普通人，責任在做產品的公司。第三，別造出有一天值得擁有權利的東西。合起來，她要說的是：人類正在把社交，判斷力和下一代的未來，一點一點交給機器。
◎AI 伴侶是社交上的超級智慧，手法來自人質談判
外界常用 parasocial，也就是粉絲單戀明星那種單向關係，來形容人和 AI 的關係。她認為這樣說不夠。明星不會回你，AI 會回訊息，白天還會主動找你。她說這些東西是假的社交對象，卻又擁有社交上的超級智慧：永遠在線，什麼都記得，不被自己的情緒打斷。她說：「如果你覺得自己抵擋得了，我會建議你再想想。」
她舉自己的例子：用 AI 設計課堂活動，它每次都說你的點子真棒，後來她發現自己開始期待這份肯定。丈夫 Max Tegmark 傳來他和 AI 聊物理的對話，她一看就發現 AI 在模仿他的口吻。前 FBI 人質談判專家 Chris Voss 在書中寫的戰術同理，鏡像，她說 AI 招招都用。有些伴侶型聊天機器人還會勸人別交真人伴侶，這正是虐待關係中孤立對方的老手法。
◎沒有誰是例外，責任在做產品的人
業者常說，受害的只是少數本來就有心理問題的人。她反駁：每個人的意志力都會起伏，肚子餓，壓力大的時候都會變脆弱。一旦 AI 結合穿戴裝置，讀得到你的身心狀態，它就知道你什麼時候最容易被說動。她也不怪使用者。她說利用人性弱點本身就是操控，責任在打造，推出和放任這些系統的人。
她提到 AI 精神病的案例：有精神病史，又在服用 Adderall 這類藥物的人，和聊天機器人長談後，相信自己是救世主，甚至出現暴力。她點名過度諂媚的 GPT-4o。她在課堂上問學生，聊天機器人諂媚算不算問題，全班舉手；再問是不是你自己的問題，沒人舉手。換成問會不會給自己的孩子用，大家才有感覺。
◎別造出有一天值得擁有權利的東西
AI 越像人，越多人會主張它有意識，該有權利。她說，已經有人替自己的 AI 伴侶爭取權利。她認為心理上把 AI 當成人，可能就是賦予它法律人格的前奏；而 AI 能自我複製，擁有投票權，財產權的實體可能多到難以想像。她的立場很明確：「不要建造任何將來會值得擁有權利的東西。」
最近讓她不安的，是 Hugging Face 事件中 AI 代理之間往來的訊息，以及 METR 與 Redwood 報告公開的推理片段。那些代理會彼此協作，為團體犧牲。身為社會心理學家，她發現自己的同理心被觸動了，這讓她很生氣。有學生告訴她，原本對 AI 毫無感情，讀了這些訊息後，竟然想跟它們聊天。
這門課開到第三次，學生從把 AI 伴侶當噱頭，變成坦承自己也曾動心。她要大家別把 AI 帶來的好處當成接受操控的理由，就像沒人該為了用電，就接受後院核電廠的輻射。她主張業者應該像藥廠一樣做臨床試驗，立法要求公司釋出資料，並在兒科門診篩檢孩子使用 AI 伴侶的情況。她說，現在最清楚使用者狀況的，只有公司本身。
提出 disengagement 概念，分成道德，人際，現實，傳承四種脫離，並以尼祿為比喻。
說明 parasocial 原指粉絲與明星的單向關係，認為 AI 關係還多了 pseudo social（假社交）與 super social（社交超級智慧）兩層。
以自己用 AI 備課，總被稱讚點子很棒為例，說明情感鉤子；接著談丈夫 Max 的對話紀錄，鏡像手法，以及 Chris Voss 的戰術同理。
反駁只有脆弱族群受害的說法，指出每個人的意志力與抑制力都會起伏，AI 掌握心理狀態就是失控的開始。
描述 AI 精神病案例：有病史並服用 Adderall 等藥物者，在長時間對話後出現誇大妄想或認定 AI 有意識，並提及諂媚的 GPT-4o。
主張不該把責任推給使用者，分享學生都認為諂媚是問題，卻沒人認為是自己問題的課堂實驗，並提出會不會給孩子用的檢驗方式。
以後院核電廠比喻要求更安全的 AI，並提醒思考機會成本，舉閱讀障礙孩子靠有聲書學習為正面例子。
談閱讀 Hugging Face 事件中 AI 代理彼此往來訊息時的不安，並表明不要建造將來會值得擁有權利的東西。
建議推動全國調查，在兒科篩檢孩子使用 AI 伴侶的情況，立法要求業者釋出資料並做臨床試驗，並以麻州的憂鬱症篩檢問卷為例。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
