Meta 的监督委员会正在调查人工智能色情 Deepfakes

• Meta 的监督委员会正在调查两起人工智能生成女性公众人物图像的案件。
• 其中一个案例涉及 Facebook 上一名美国女性人物的色情深度伪造。
• 董事会将审查 Meta 关于如何处理显式人工智能图像的政策。

Meta 的监督委员会 周二宣布 它将调查该公司关于女性明显的人工智能深度假货的政策。

这家科技巨头董事会表示，正在调查两起具体案件，一起发生在 Instagram 上，另一起发生在 Facebook 上。

其中一个案例涉及人工智能生成的图像，该图像类似于一名裸体美国女性公众人物，而一名男子正在抚摸她。 该人物在标题中被命名，并发布在 Facebook 的人工智能创作小组中。

Meta 的监督委员会没有具体说明 AI Deepfake 中使用了哪位女性公众人物。

监督委员会表示，在 Facebook 群组分享之前，另一名用户已经发布了人工智能生成的裸照。 这张露骨的照片因违反“侮辱性色情 Photoshop 或图画”的欺凌和骚扰政策而被删除。

发布照片的用户对删除提出上诉，但被自动化系统拒绝。 该用户随后向委员会提出上诉。

泰勒·斯威夫特 (Taylor Swift) 在 X 上的色情深度假货一月份在互联网上引起了轰动。 许多照片显示这位流行歌星在足球场进行性行为。

X（以前称为 Twitter）上的一位经过验证的用户上传的一篇帖子吸引了超过 4500 万次浏览，大约 17 小时后被版主删除。

另一项调查涉及人工智能生成的裸体女性图像，该图像类似于印度公众人物。 该内容发布在一个 Instagram 帐户上，该帐户仅分享人工智能生成的印度女性图像。

本例中，Meta在两次举报后均未能删除该内容。 用户向董事会提出上诉，Meta 发现其保留内容的决定是错误的。 随后，该帖子因违反欺凌和骚扰社区标准而被删除。

委员会表示，选择这些案例是为了了解 Meta 是否有效地解决了人工智能生成的显式图像问题。

政治家、公众人物和商界领袖都公开谈论了深度造假及其带来的风险。

白宫新闻秘书卡琳·让-皮埃尔此前表示，深度造假的执法不严对女性和女孩造成了不成比例的影响，“她们是压倒性的目标”。

让-皮埃尔还表示，虽然立法应该在解决这个问题上发挥作用，但社交媒体平台应该自行禁止有害的人工智能内容。

微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 称裸体深度假货 泰勒·斯威夫特“令人震惊且可怕” 并呼吁对这些图像采取更多保护措施。

忘记色情片吧； 深度造假还可以用来影响选举。 人工智能生成的伪造总统乔·拜登信息的电话已经出现在初选中。

Meta 的监督委员会希望公众对这两起案件发表意见。 它要求就如何解决这一问题提出建议策略，并就其严重性提供反馈意见。

公告中称，监督委员会将在未来几周内审议这些决定，然后发布结果。 虽然委员会的建议不具有约束力，但 Meta 必须在 60 天内做出回应。