歐盟AI法8月上路:合成內容須標示,晶片級模型納入監管
歐盟AI Act新規8月2日起生效:逼真的AI生成圖片、音訊、文字須標示並加數位浮水印,新系統即日適用、舊系統緩衝四個月,違規最高罰1500萬歐元或全球營收3%。
業界批評歐盟把deepfake定義擴大到廣告、影視等原本不涉政治的領域,合規成本恐大幅擴散;歐盟則堅持這是防止選舉操弄、民主受害的必要之舉,雙方仍在角力執行細節。
8月2日起,歐盟AI Act進入新一波執行階段。核心規則很直白:凡是設計成看起來逼真的AI生成圖片、音訊、文字,都得貼上顯眼標籤,還要嵌數位浮水印證明來源。新系統即日起適用,舊系統多給四個月緩衝期。不合規罰多少?最高1500萬歐元或全球營收3%,兩者取高。
這條規則不是憑空而來。過去幾年歐洲政壇被deepfake搞得灰頭土臉:斯洛伐克反對黨領袖被偽造音訊說他密謀操縱選舉,馬克宏被做成80年代夜店尬舞影片,施凱爾(現任英國首相,事發時是工黨黨魁)被做成辱罵黨工的假影片。參與立法的綠黨歐洲議員Lagodinsky講得很清楚:這不只是消費者保護,是民主保護。規則也對用途做了切割——使用者個人內容不用管,「明顯是藝術、諷刺、虛構」的創作也豁免,但涉及公共議題、又沒有人工編輯把關的文字,一樣要標。
科技業的說法是:原則我們支持,執行別搞成災難。CCIA歐洲政策負責人De Champris的批評很具體:歐盟7月公布的指引把deepfake定義擴大到遠超2024年AI Act原本的範圍,結果一則政治操弄影片跟廣告裡的風景照被貼上同一種標籤,「就像cookie banner,貼到每個角落,使用者就不會再注意,等於什麼都沒保護到,只是全面加重商業負擔」。他預測真正有感的變化不在社群媒體——那裡本來就已經在標AI內容——而是在廣告、影視、出版這些「早就大量用AI、但大眾渾然不覺」的領域,衝擊會落在最不熟悉AI法規的產業身上。
這才是這條新聞真正的份量所在:歐盟這次不是空喊口號,而是把「透明度」變成有牌價、有罰則的合規成本,逼所有在歐盟市場賣AI產品或發布內容的公司重新盤點自己的內容鏈。Google、Meta已簽署自願行為準則,超過180家機構跟進——監管機關把「簽不簽」當成好意的信號,不簽的公司得自己證明合規。TikTok號稱已標記超過30億則內容,但同期研究顯示AI生成的「醫師」帳號靠可疑健康建議在TikTok上狂收百萬觀看,說明標籤制度本身擋不住內容品質問題,只解決「知不知道是AI做的」這一層。
對亞太企業而言,真正的訊號是:只要產品或內容進歐盟市場,就得比照這套標準做,而歐盟這次刻意把定義畫得寬——這意味著合規成本會比想像中鋪得更廣、更細。Lagodinsky那句話講得直白:業界永遠先喊負擔太重,等規則真的落地又發現沒那麼難扛。這場拉鋸,才剛開始。
訂閱品富智圖 AI 新聞
每日 AI 產業要聞彙整,一封信直送信箱。
