泰勒·斯威夫特 Deepfake 丑闻显示出一个更大的问题

虽然迄今为止，人们对生成式人工智能的担忧主要集中在美国大选前夕可能出现的错误信息、工人可能被取代以及美国教育体系受到破坏，但还有另一个真实存在的危险——使用人工智能人工智能创造深度伪造的、未经同意的色情内容。

上个月，虚假的露骨色情照片 泰勒斯威夫特 是 流传的 在 X（该平台以前称为 Twitter）上，并允许在该平台上停留几个小时，然后最终被删除。 X 上的一篇帖子获得了超过 4500 万次浏览， 据 The Verge 报道。 稍后 X 被阻止的搜索结果 该公司业务运营主管称，出于安全原因，完全取消斯威夫特的名字是“临时行动”。

斯威夫特并不是唯一一个成为目标的人，但她的案件再次提醒人们，不良行为者利用生成式人工智能技术的进步，在未经同意的情况下创建虚假色情内容变得多么容易和廉价，而受害者却法律选择很少。

就连白宫也对这一事件发表了意见，呼吁国会立法，并敦促社交媒体公司采取更多措施，防止人们利用其平台。

“深度伪造”一词指的是合成媒体，包括照片、视频和音频，这些媒体通过使用人工智能工具进行操纵，以显示某人在做他们从未真正做过的事情。

这个词本身是由一位 Reddit 用户于 2017 年创造的，其个人资料名为“Deepfake”，并使用换脸技术在该平台上发布虚假色情剪辑。

Sensity AI 2019 年报告前身为 Deeptrace 的公司报告称，96% 的 Deepfake 内容都是色情内容。

与此同时，根据Similarweb在线流量数据，9月份共有2400万独立访问者访问了34家合成非自愿亲密图像提供商的网站 Graphika 引用。

这 联邦调查局 发出了 公共服务声明 6 月，该公司表示注意到“性勒索受害者报告使用虚假图像或视频的情况有所增加，这些图像或视频是根据其社交媒体网站或网络帖子上发布的内容创建的，根据请求提供给恶意行为者，或在视频聊天期间捕获。”

联邦机构最近也发出警告 企业 关于深度造假可能给他们带来的危险。

制作深度伪造色情内容的许多令人担忧的方面之一是，由于有大量可用的工具使这种做法民主化，制作它变得多么容易和便宜。

哈尼·法里德（Hany Farid），加州大学伯克利分校教授 告诉《麻省理工科技评论》 在过去，犯罪者需要数百张图片来创建深度伪造，包括深度伪造色情内容，而现有工具的复杂性意味着现在只需一张图像就足够了。

“我们刚刚给了高中生所有核武器之母，”法里德补充道。

虽然斯威夫特的深度伪造图像的传播引起了人们对这个话题的急需关注，但她远不是唯一一个成为目标的人。

“如果这可能发生在地球上最有权势的女性身上，你可能会说，她拥有许多保护措施，那么这也可能发生在高中生、青少年身上，而且它确实正在发生，”资深科技记者兼创始人劳里·西格尔 (Laurie Segall) 说道。探索技术与人性交集的公司 Mostly Human Media 的首席执行官告诉《赫芬顿邮报》。

事实上，许多女性，包括立法者和年轻女孩，都曾公开表示未经她们同意就出现在深度假货中。

“我们代表泰勒·斯威夫特感到愤怒，更对数以百万计的人感到愤怒，他们没有资源来收回自己形象的自主权，”强奸、虐待和乱伦国家网络公共政策副总裁斯特凡·特克海默 (Stefan Turkheimer) （RAINN），在一份声明中说。

佛罗里达州参议院少数党领袖、儿童性虐待幸存者劳伦·布克 (Lauren Book) 此前曾透露，自 2020 年以来，她和她丈夫的露骨色情深度假货一直在网上流传和出售。 告诉人们 一年多后，她在联系佛罗里达州执法部门后才发现此事，因为一名男子声称拥有她的裸照，并发送了威胁短信。

这名 20 岁男子后来被捕，并被指控敲诈勒索和网络跟踪。 在此事件中，图书​​赞助 SB 1798，除其他外，这使得“故意和恶意”传播露骨的色情深度假货是非法的。 佛罗里达州州长 Ron DeSantis（右）于 2022 年 6 月将该法案签署为法律。

布克告诉《赫芬顿邮报》，她至今仍必须面对深度伪造图像的存在。

“即使在今天，这也非常困难，例如，我们知道，如果有一项有争议的法案或右翼不喜欢的问题，我们知道我们必须在线搜索，或者密切关注 Twitter，因为他们会开始重新传播这些图像，”布克告诉《赫芬顿邮报》。

新泽西州青少年弗朗西斯卡·马尼 (Francesca Mani) 是她所在高中的约 30 名女生之一，她们在 10 月份接到通知，她们的肖像出现在据称由学校同学使用人工智能工具制作的深度伪造色情内容中，然后在 Snapchat 上与其他人分享。

玛尼本人从未见过这些照片，但她的母亲多罗塔·玛尼 (Dorota Mani) 说，学校校长告诉她，其他四人已经认出了她的身份， 据美国全国广播公司新闻报道。

弗朗西斯卡·马尼 (Francesca Mani) 创建了一个网站来提高人们对这一问题的认识，她和她的母亲于 12 月访问华盛顿，向立法者施压。

多罗塔·马尼说：“这一事件为国会提供了一个巨大的机会，表明它可以在无党派问题上采取行动，并且能够迅速采取行动，以保护学生和年轻人免受不必要的剥削。”

虽然包括加利福尼亚州、德克萨斯州和纽约州在内的少数州已经制定了针对深度造假的法律，但其范围各不相同。 与此同时，至少目前还没有直接针对深度造假的联邦法律。

上议院司法委员会的两党参议员小组 介绍 上个月通过的《反抗法案》，对“在‘数字伪造’中可识别的受害者”处以民事处罚。该术语被定义为“通过使用软件、机器学习、人工智能或任何其他方式创建的视觉描述”。其他计算机生成的或技术手段来虚假地显得真实。”

主席迪克·德宾（伊利诺伊州民主党人）表示：“尽管这些图像可能是假的，但传播露骨的色情深度假货对受害者造成的伤害是非常真实的。” “通过这项立法，我们将权力交还给受害者，打击深度伪造图像的传播，并追究那些对图像负责的人的责任。”

然而，西格尔指出，研究表明，肇事者“可能会受到刑事处罚的威慑，而不仅仅是民事处罚”，这略微限制了参议院法案的有效性。

在众议院，众议员乔·莫雷尔（Joe Morelle）（纽约州民主党人）介绍了 防止亲密图像深度伪造法案一项“禁止披露亲密数字描述”的法案。 该立法还得到了共和党众议员汤姆·基恩（新泽西州）的支持，并希望该法案能够获得两党的支持。

众议员伊薇特·克拉克（DN.Y.）介绍 DEEPFAKES责任法案 这需要在人工智能生成的内容上应用数字水印，以保护国家安全，并为受害者提供合法的斗争途径。

莫雷尔和克拉克过去提出类似立法的努力未能获得足够的支持。

网络民权倡议组织 (Cyber​​ Civil Rights Initiative) 的总裁兼立法和技术政策总监玛丽·安妮·弗兰克斯 (Mary Anne Franks) 是一家致力于打击网络滥用行为的非营利组织，被要求就莫雷尔的法案提供反馈。成为肇事者，禁止继续制造未经同意的深度伪造品。

“重点是要让它成为一项刑事禁令，让人们注意到这种情况的严重性，因为它不仅会给他们带来负面后果，而且人们希望它能传达这样的信息：对受害者造成的令人难以置信的负面后果永远不会发生。”结束，”弗兰克斯 告诉“你的全神贯注”播客 在本月早些时候发布的一集中。

布克在接受《赫芬顿邮报》采访时表示，必须承认不可能完全让这些图像从互联网上消失。

“听着，我不得不接受这样一个事实：我和我丈夫的那些照片都在网上，我永远不会把它们找回来，”布克说。 “在某些时候，我将不得不和我的孩子们谈论他们是如何存在的。 这将伴随我一生。”

她继续说道：“这是一件非常非常困难的事情，因为你没有参与的事情而被判处无期徒刑。”

拥有一些人工智能工具的科技公司也可以成为解决方案的一部分，这些工具可以用来制造深度伪造品，这些伪造品可能会落入不良行为者手中。

Facebook 和 Instagram 的母公司 Meta，上周 宣布 “未来几个月”，它将开始为发布在其平台上的一些人工智能生成的内容贴上标签。 然而，该政策的缺点之一是它仅适用于最初推出的静态图像。

据称，斯威夫特的一些虚假的色情图片是使用微软的 Designer 工具创建的。 虽然这家科技巨头尚未确认其工具是否被用来创建其中一些深度伪造品，但微软 此后放置了更多护栏 以防止其用户滥用其服务。

首席执行官兼董事长萨蒂亚·纳德拉 (Satya Nadella) 告诉 NBC 的《晚间新闻》，斯威夫特事件“令人震惊”，并补充说像他这样的公司可以在限制肇事者方面发挥作用。

纳德拉补充道：“特别是当你拥有可以整合在一起的法律、执法和技术平台时，我认为我们可以治理的事情比我们想象的要多得多。”

西格尔警告说，如果我们不领先于这项技术，“我们将创造出全新一代的受害者，但我们也将创造出全新一代的施虐者。”

“我们有大量数据表明，我们在数字世界中所做的事情常常会在现实世界中转化为危害，”她补充道。