泰勒·斯威夫特 (Taylor Swift) 深度假货两个月后，Facebook 启动内部调查 – Libération

通过接手两起涉及人工智能（AI）生成的虚假色情图片的案件，Meta 正在开展一项调查，以评估其审核方法。

Facebook 反思的时候到了。 Meta（Facebook、Instagram）监事会本周二（4 月 16 日）宣布，在泰勒·斯威夫特 (Taylor Swift) 深度假货丑闻两个月后，该公司正在受理两起涉及女性公众人物虚假色情图片的案件。 两个案例被选中 “评估元法规及其应用是否有效治疗 [le problème] 人工智能（AI）生成的性本质图像”在一份新闻稿中指出，该委员会绰号为“最高法院”。

该委员会由社交媒体巨头设立，由独立成员组成，负责决定内容审核的棘手问题。 生成式人工智能的兴起，可以自动生成复杂的内容，为深度伪造现象提供了新的动力，特别是出于恐吓或骚扰的目的而对女性进行操纵和色情化的图像。

Meta 监事会选择的第一个案例涉及发布在 Instagram 上的人工智能生成的裸体女性图像， “像印度公众人物”，表示新闻稿。 一位用户抱怨说，这家加州公司没有删除这张图片。 “Meta 认为其保留所发布内容的决定是错误的，并以违反其关于欺凌和骚扰的规定为由删除了该帖子。” 理事会指出。

照片浏览量达 4700 万次

第二个案例涉及 Facebook 群组上发布的用于使用人工智能进行内容创建的图像，显​​示 “一个裸体的女人和一个摸她乳房的男人”。 妻子 “好像 美国公众人物»，也在传说中得名。 Meta 已删除该图像，并将其添加到作为其执行系统一部分的内容库中，以自动查找并从其平台中删除员工已识别为有问题的图像。

由于董事会拒绝提供有关此人身份的详细信息，因此未透露这位明星的姓名，但该案件与涉及泰勒·斯威夫特的案件非常相似。 去年 1 月，这位美国巨星的虚假色情图片在 X（以前称为 Twitter）上被观看了 4700 万次，然后在发布到网上大约 15 小时后被该社交网络删除。 这件事引起了他的粉丝、许多名人甚至白宫的愤怒。 根据荷兰人工智能公司 Sensity 2019 年的一项研究，网上 96% 的虚假视频都是未经同意的色情内容，其中大多数描绘的是女性，无论名人与否。