泰勒·斯威夫特案：打击深度伪造色情内容的三种方法

上周，流行歌星泰勒·斯威夫特的露骨色情视频在互联网上疯传。 数百万人在 X 等社交媒体平台上观看了由身份不明的人制作的 Deepfake Swift 色情内容。 此后，短信服务部门采取了严厉措施来阻止传播—— 例如，针对该歌手的所有搜索查询都被屏蔽。 这并不是一个新现象：深度造假已经存在多年了。 然而，过去两年生成式人工智能的兴起使得创建此类内容变得更加容易——即使是明确的内容。

广告

这使得一种全新类型的性骚扰成为可能，并导致大规模侵犯个人权利。 研究合成媒体领域的人工智能专家 Henry Ajder 表示，女性尤其受到影响。 然而，还是有一些希望的：新的工具和法律应该会让人们更难使用深度伪造的人作为武器——而且它们还可以帮助追究肇事者的责任。 新的可能性涉及三个中心领域。

水印

社交平台自动部分屏蔽上传的帖子 人类内容管理员 – 并删除违反其政策的内容。 然而，这个过程充其量是不完整的，并且确实允许有问题的内容通过，正如 X 上的假 Swift 色情内容所示。 此外，区分真实内容和人工智能生成的内容变得越来越困难。

一种技术解决方案可以是所谓的水印。 然后，隐形数字水印将允许计算机确定录音是否是使用人工智能生成的。 比如Google很早就开发了一个叫SynthID的系统， 它使用神经网络来改变图像中的各个像素并添加人眼不可见的水印。 如果图像已被编辑或已截取屏幕截图，则该标记也应该能够被读取。 理论上，此类工具可以帮助社交媒体公司改善审核并阻止虚假内容，包括有问题的内容 深度造假， 以便更快地被认可。

优点： 水印是一种有用的工具，可以更轻松、更快速地检测人工智能生成的内容并识别应删除的有害帖子。 人工智能公司 Hugging Face 的研究人工智能系统偏见的研究员 Sasha Luccioni 表示，标准化所有图像上水印的使用也将使恶意行为者更难制造有问题的深度伪造品。

缺点： 水印仍处于实验阶段，尚未广泛普及。 坚定的攻击者仍然可以操纵它们。 互联网公司和软件提供商也没有将该技术全面应用于所有图像。 AI图像生成器的用户 图片来自谷歌 例如，您可以选择是否为 AI 生成的图像添加水印。 这些因素限制了该技术在对抗中的有用性 深假色情片 A。

保护软件

目前，任何人都可以免费访问我们放在网上的所有图像，以便在必要时创建深度伪造品。 由于创建图像的最新人工智能系统非常复杂，因此证明人工智能生成的内容实际上是假的变得越来越困难。 但许多新的防御工具使用户能够保护他们的图像免受这种形式的数字利用——然后人工智能系统只能以扭曲或失真的方式显示此类人的图像。

一种这样的工具称为 PhotoGuard 由麻省理工学院的研究人员开发。 它的工作原理就像一种盾牌，以人眼看不见的方式改变照片中的像素。 如果有人使用像图像生成器这样的人工智能应用程序 稳定扩散 用于操纵经过 PhotoGuard 处理的图像，结果看起来不切实际。 Fawkes，芝加哥大学研究人员开发的类似工具，用隐藏的数字信号掩盖图像，使面部识别软件难以识别人。

另一个名为 Nightshade 的新工具 可以帮助人们防御人工智能系统使用他们的肖像。 该程序由芝加哥大学的研究人员开发，为图像添加了一层看不见的数字“毒药”。 该工具旨在保护艺术家的版权图像免遭人工智能公司在未经他们同意的情况下利用。 然而，从理论上讲，该软件可以用于所有者不希望人工智能系统评估的任何图像。 如果科技公司未经同意从互联网上获取培训材料，这些有毒图像将会扰乱人工智能模型。 而且它非常实用：如果需要的话，猫的照片可以变成狗，泰勒·斯威夫特的照片也可以变成动物。

优点： 新工具使攻击者更难使用图像来创建恶意内容。 人工智能研究员 Ajder 表示，在保护个人免遭人工智能图像滥用方面，它们令人兴奋，尤其是当约会应用程序和社交媒体公司默认使用它们时。 Luccioni 表示同意：“我们在互联网上发布的每张图片都应该使用 Nightshade。”

缺点： 该保护软件仅适用于当前一代的AI模型。 但是，不能保证未来的版本将无法轻松覆盖这些机制。 该技术也不适用于已经在线的图像 – 并且更难用于名人的图像，因为名人很少控制他们的哪些照片上传到网上。 “这将是一场巨大的猫捉老鼠的游戏，”人工智能道德咨询公司 Parity Consulting 的经营者鲁曼·乔杜里 (Rumman Chowdhury) 说。

新法律

而且技术维度无论如何也不够。 卢奇奥尼表示，唯一能带来持久变化的是更严格的监管。 像泰勒·斯威夫特 (Taylor Swift) 那样的病毒式深度假货，为美国打击此类内容的法律行动注入了新的动力。 白宫称这一事件“令人震惊”，并呼吁国会采取立法行动。 迄今为止，该技术仅在美国各州进行零散的监管。 例如，加利福尼亚州和弗吉尼亚州已禁止未经同意生产色情深度伪造品。 纽约和弗吉尼亚州也禁止分发此类内容。

但现在联邦层面终于可能发生一些事情。 美国国会最近重新提出了一项新的两党法案，将分享虚假裸照定为重罪。 新泽西州一所高中的深度伪造色情丑闻 还促使立法者通过一项名为《防止亲密图像深度伪造法案》的法案做出回应。 斯威夫特案引起的对该问题的关注可能会带来更多两党的支持。

世界各地的立法者也在推动针对这项技术制定更严格的法律。 去年通过的英国在线安全法禁止传播深度伪造色情内容，但不禁止其创作。 肇事者将面临最高六个月的监禁。

在欧盟，这个问题正在通过一系列新法律从不同角度得到解决。 影响深远的那一位 人工智能法 要求深度伪造的创建者明确披露该材料是由人工智能创建的，而《数字服务法》则要求科技公司更快地删除有害内容。

中国的深度造假法于2023年生效， 走得最远。 在中国，深度造假者必须采取措施防止将其服务用于非法或有害目的，在将图像变成深度造假之前获得用户的同意，验证人们的身份，并标记人工智能生成的内容。

优点： 该规定为受害者提供了补救，对未经同意的深度伪造色情内容的肇事者追究责任，具有强大的震慑作用。 它还发出了一个明确的信息，即未经同意创建深度伪造品是不可接受的。 阿杰德说，法律和公众意识活动明确表明制作此类深度伪造色情内容的人是性掠夺者，这可能会产生真正的影响。 “这将改变一些人认为此类内容无害或不是真正形式的性虐待的冷漠态度，”他说。

缺点： 阿杰德说，执行此类法律将很困难。 使用目前的技术，受害者将很难识别肇事者并对该人提起诉讼。 制造深度伪造品的人也可能位于另一个司法管辖区，这使得起诉更加困难。

（ETC）