拜登音频 Deepfake 在选举前夕向专家发出警报

氮o 政治深度造假比世界各地的虚假信息专家更令世界各地的虚假信息专家感到震惊 篡改的音频消息 美国总统乔·拜登的言论于周末开始流传。

在电话留言中，一个声音被编辑成拜登的声音，敦促新罕布什尔州选民不要在周二的民主党初选中投票。 电话留言写道：“为 11 月的选举保留你的选票。” 它甚至使用了拜登的标志性短语之一：“真是一群胡言乱语。” 事实上，总统并未出现在新罕布什尔州竞选的选票上，而且初选投票并不妨碍人们参加 11 月的选举。

许多人警告说，新的人工智能驱动的视频和图像生成器今年将被用来获取政治利益，而世界近一半地区的代表在民意调查中面临着风险。 但现在专家们担心的是音频深度假货。 它们易于编辑，生产成本低廉，而且特别难以追踪。 研究人员表示，将令人信服的电话留言与选民登记数据库结合起来，坏人就拥有了即使是最先进的选举系统也无力应对的强大武器。

消费者权益倡导智囊团 Public Citizen 总裁罗伯特·韦斯曼 (Robert Weissman) 表示：“政治深度造假时刻已经到来。” 他呼吁立法者针对虚假音频和视频记录采取保护措施，以避免“选举混乱”。

拜登的虚假信息发布之际，越来越多的美国政治竞选活动使用人工智能软件来接触全体选民，而且投资者正在向语音克隆初创公司投入资金。 周一，当 Deepfake 手机短信流传开来时，人工智能语音复制初创公司 ElevenLabs 宣布已筹集新一轮资金 有价值的 该公司价值11亿美元。

被篡改的政治录音并不是第一次。 去年，在斯洛伐克议会选举之前，音频深度造假在社交媒体上传播，其中包括党领袖米哈尔·西梅卡 (Michal Simecka) 似乎正在讨论购买选票计划的一段视频。 与此同时，视频和音频深度伪造的政治用途已被证明是有限的。

目前还不清楚拜登的信息到底是如何产生的。 新罕布什尔州总检察长周一正在调查这起电话。 但波士顿大学新闻学和新兴媒体研究助理教授琼·多诺万表示，追踪虚假音频的来源将特别困难，因为它是通过电话而不是在线传播的。 通过电话传送的音频消息不带有相同的数字轨迹。

“这是下一代肮脏伎俩的迹象，”多诺万说。

假拜登剪辑让虚假信息研究人员和选举官员特别担忧还有另一个原因。 这证实了他们最大的担忧：不良行为者利用深度造假不仅是为了影响公众舆论，也是为了阻止选民完全参加投票。

研究操纵音频和选举的西北大学教授尼克·迪亚科普洛斯 (Nick Diakopoulos) 表示：“即使此类错误信息带来的混乱只会影响几百或几千张选票，但它对结果和成果而言可能是有意义的。”

美国联邦选举委员会在监管政治深度造假方面已经采取了一些小步骤，但尚未取缔有助于生成深度造假的技术。 一些州已经提出了自己的法律来遏制深度造假。

选举官员正在进行训练演习，为猛攻做好准备。 8 月，约 100 名联邦和州官员聚集在科罗拉多州，集思广益，针对一段包含虚假选举信息的假视频，制定最佳应对措施。 Deepfakes 是去年 12 月在亚利桑那州举行的另一场演习的焦点，当时官员们模拟了国务卿阿德里安·丰特斯 (Adrian Fontes) 的一段视频被伪造以传播不准确信息的场景。

与此同时，深度造假检测工具仍处于起步阶段，仍然没有定论。

例如，周一，ElevenLabs 自己的检测工具表明，拜登的通话不太可能是使用克隆软件创建的，尽管 Deepfake 检测初创公司 Clarity 表示，该通话有超过 80% 的可能性是 Deepfake。