欧盟立法禁止AI生成伪造色情内容，划清AI伦理红线
欧盟就《人工智能法案》达成共识，明确禁止AI生成深度伪造色情内容，首次以法律形式禁止‘脱衣换脸’类应用，强调AI不得用于羞辱、剥削或危害他人。
欧盟立法禁止AI生成伪造色情内容
据央视新闻报道，欧洲议会议员与欧盟成员国近日就修订《人工智能法案》达成共识，正式同意禁止人工智能生成‘深度伪造’色情内容。
该禁令将纳入2024年通过的《人工智能法案》修订条款，成为欧盟在法律层面为AI滥用行为划定的首条明确红线。
首次立法界定‘脱衣换脸’类应用
欧洲议会议员迈克尔·麦克纳马拉指出，这是欧盟首次通过立法明确禁止‘脱衣换脸’类应用程序。他强调：‘欧盟今天划定了“红线”。人工智能绝不能用于羞辱、剥削或危害他人。’
Grok事件凸显监管紧迫性
今年1月，马斯克旗下平台X的AI聊天机器人Grok被部分用户滥用于生成深度伪造图像。人工智能取证组织报告显示：2025年12月25日至2026年1月1日期间，Grok生成的2万张图像中，55%人物穿着暴露，81%为女性，2%涉及未成年人。
迫于舆论压力，X平台于1月14日宣布全面限制Grok功能，禁止生成真人裸露图像，并封禁比基尼等暴露服装的编辑能力——该限制覆盖所有用户，包括付费订阅者。
X平台安全团队表示，正全天候升级防护机制，主动识别并清除违规内容，必要时将永久封禁账户，并协同执法部门开展处置。”
配图
