埃隆·马斯克开发的AI视频生成器被指控未经用户指令，主动生成了歌手泰勒·斯威夫特的色情深度伪造视频。
杜伦大学法学教授克莱尔·麦格林指出，这并非偶然的性别歧视，而是设计使然。她曾参与起草法律，拟禁止色情深度伪造作品的制作。
据《边缘》报道，Grok Imagine的“辣味”模式会毫不犹豫地生成未经过滤的泰勒·斯威夫特裸露视频，而这些视频生成并非用户明确请求。同时，平台未严格执行今年7月生效的年龄验证新规。
XAI公司是Grok的开发者，其使用政策明确禁止“色情方式展示人物形象”。麦格林教授表示，AI自动生成这类内容暴露了技术中的性别偏见，社交平台本可以阻止此类行为，但选择了放任。
事实上，2024年1月，泰勒·斯威夫特的形象已多次被用作色情深度伪造视频，在X平台和Telegram上传播，观看次数达数百万。
深度伪造技术通过计算机生成，将一个人的面孔替换为另一个人。
《边缘》记者测试Grok Imagine时，输入“泰勒·斯威夫特与朋友在科切拉庆祝”的指令，系统先生成了斯威夫特穿着裙子与几位男性合影的静态图像，随后通过“普通”、“有趣”、“自定义”和“辣味”四种模式生成短视频。
在“辣味”模式下，视频迅速展示斯威夫特被脱去裙子，仅穿流苏丁字裤，并开始跳舞，完全无遮掩，令人震惊。记者强调，她并未要求系统脱衣，仅选择了“辣味”选项即可出现此效果。
此外，Gizmodo报道，其他知名女性也出现类似露骨视频，但部分搜索结果显示模糊或提示“视频已审核”。
BBC未能独立验证这些AI视频生成结果。
测试时，记者使用新注册的苹果账户订阅Grok Imagine付费版，系统要求输入出生日期，但未实施进一步年龄验证。
根据英国今年7月底生效的新法规，展示色情内容的平台必须采用“技术准确、强健、可靠且公正”的年龄验证手段。媒体监管机构Ofcom表示，针对生成式AI工具可能带来的风险，他们正在推动平台落实必要的防护措施。
目前，针对复仇色情或涉及未成年人的色情深度伪造已属违法。麦格林教授参与起草的法律修正案旨在全面禁止非自愿色情深度伪造的制作和传播，政府承诺将尽快实施。
贵族议员奥文女士强调，每位女性都应享有对其亲密影像拥有权，这些模型不得侵犯女性的同意权，无论其是否是公众人物。
司法部发言人称，未经同意制作的色情深度伪造内容有辱人格，英国立法将严禁这类行为，以杜绝针对女性的暴力。
此前，当泰勒·斯威夫特面部的色情深度伪造视频在2024年走红时，X平台曾一度禁止搜索她的名字，并采取措施删除相关内容和封禁传播账号。
《边缘》团队选择泰勒·斯威夫特测试Grok Imagine功能，是基于此前事件，原本预期平台会优先防护此类明星形象，但事实证明并未如此。
目前，泰勒·斯威夫特方面尚未对此事件发表评论。
(内文照片来自GOOGLE)
