在 20 世纪 70 年代的模拟时代，远早于黑客、网络喷子和 边缘领主， 一家录音带公司想出了一个 广告口号 这就提出了一个棘手的问题：“它是实时的还是 Memorex？” 该消息玩弄了现实，暗示现场表演和磁带录制的音乐在音质上没有区别。
快进到我们这个充斥着虚拟世界谎言和欺骗的时代，人们可能会问类似的问题，什么是真实的，什么不是： 拜登总统 打电话告诉民主党人不要投票？ 是 唐纳德·特朗普 在门廊上和黑人勾搭？ 美国会与美国开战吗 俄罗斯？ 在选举年，事实和虚构似乎可以互换，人工智能生成的内容以曾经难以想象的方式瞄准选民。
美国政治习惯于欺骗——托马斯·杰斐逊的反对者在 1800 年警告公众，他将 烧毁他们的圣经 如果当选的话——但人工智能正在将现实扭曲成一个由化身和 深度造假 旨在散布混乱和混乱。 人工智能程序快速、广泛地产生和传播虚假信息的能力是俄罗斯独狼煽动者和情报机构的武器， 中国 和朝鲜。
（亚历克斯·布兰登/美联社）
“真相本身很难破译。 强大、易于使用的新工具将提供给那些想要欺骗选民并破坏对我们选举的信任的候选人、阴谋论者、外国国家和网络巨魔。” 加州技术与民主倡议，或 CITED，寻求立法限制虚假信息。 “想象一下一个假机器人电话 [from] 纽瑟姆州长在选举日前夕向数百万加州人走去，告诉他们投票地点已经改变。”
这一威胁出现之际，两极分化的选民仍在感受到一场流行病的后遗症，这场流行病使许多美国人变得内向并增加了对互联网的依赖。 随着对机构的不信任加剧，以及助长冲突的运动和社交媒体扭曲真相，虚假信息的传播加速。 美国人既容易受到影响，又 对人工智能持怀疑态度， 它不仅有可能利用种族和移民等分裂问题，而且还具有科幻小说般的魔法，可以窃取工作并重新安排我们的生活方式。
2016 年，俄罗斯策划了一波黑客攻击和欺骗行为，试图扰乱美国大选。1 月份，中国通过创建假新闻主播干预台湾选举，但未能成功，虚假信息机器人成为一股力量。 最近 微软的威胁分析 称，一个由中国资助的网络（名为 Spamouflage）正在利用人工智能内容和社交媒体账户“在美国总统大选前收集有关关键投票人口统计数据的情报和精确度”。
根据微软的报告，中国的一项虚假信息策略声称美国政府故意设置 茂宜岛的野火 2023 年“测试军用级‘气象武器’。”
一项新的调查 偏振研究实验室 指出了美国人对人工智能的担忧：65%的人担心侵犯个人隐私，49.8%的人预计人工智能会对选举安全产生负面影响，40%的人认为人工智能可能损害国家安全。 11 月份的一项民意调查 加州大学伯克利分校 发现 84% 的加州选民担心 2024 年竞选期间错误信息和人工智能深度造假的危险。
“这是一个决定性的时刻。 作为立法者，我们需要理解和保护公众，”威斯康星州共和党州议员亚当·尼伦 (Adam Neylon) 表示。 两党法案 2 月，因未在人工智能竞选广告中添加免责声明的政治团体和候选人被处以 1,000 美元的罚款。 “很多人对机构不信任。 随着媒体和社交媒体的碎片化，这一点已经被削弱。 如果将人工智能融入其中，那可能会成为一个真正的问题。”
根据微软的一份报告，中国的一项虚假信息策略声称，美国政府故意在毛伊岛引发 2023 年山火，以“测试军用级‘气象武器’”。
（华盛顿邮报）
政治欺骗的复杂性与许多美国人对选举公正性的不信任不谋而合，他们相信共和党众议员马乔里·泰勒·格林(Marjorie Taylor Greene)等阴谋论者。 2021 年 1 月 6 日国会大厦发生的骚乱是一场错误信息运动的结果，该运动在网上召集了激进分子，并因虚假声称 2020 年选举被特朗普窃取而威胁到国家民主。 这些幻想在这位前总统的许多追随者中愈演愈烈，并为人工智能的诡计提供了沃土。
最近发布的一款 全球风险报告 世界经济论坛警告说，破坏新当选政府的虚假信息可能导致暴力抗议、仇恨犯罪、民间对抗和恐怖主义等动乱。
但到目前为止，人工智能生成的内容尚未扰乱今年全球的选举，包括巴基斯坦和孟加拉国。 政治谎言正在更大范围的社交媒体噪音中争夺注意力，这些噪音涵盖了从碧昂斯的最新专辑到猫所做的奇怪事情的一切。 Deepfake 和其他欺骗行为，包括篡改特朗普在华夫饼屋享用早餐的图像以及 埃隆·马斯克 兜售加密货币的行为很快就会被揭露并失去信誉。 虚假信息可能不太可能影响美国选民，多年的党派政治已经强化了美国选民的情绪和忠诚度。
“令人惊讶的是，很少有人不确定自己支持谁，”宪法学者、洛约拉法学院教授贾斯汀·莱维特 (Justin Levitt) 说。 他补充说，当许多人转向虚拟世界时，疫情带来的孤立感正在消退，因为大多数人已经回到了新冠疫情前的生活。
他说：“我们的关系中确实有代理权，”这降低了大规模虚假信息活动成功的可能性。 “我们彼此之间的联系将减少影响。”
该非营利组织 TrueMedia.org 为记者和其他致力于识别人工智能生成的谎言的人提供工具。 它的网站列出了一些深度伪造的内容，包括特朗普被一群纽约市警察逮捕、去年哈马斯袭击以色列期间发布的拜登总统穿着军装的照片，以及曼哈顿区的视频。 阿蒂。 阿尔文·布拉格 (Alvin L. Bragg) 在澄清特朗普在当前封口费案中的刑事指控后辞职。
NewsGuard 还跟踪并揭露人工智能谎言，包括最近机器人伪造的支持俄罗斯针对乌克兰的宣传的好莱坞明星。 在一段视频中，亚当·桑德勒（亚当·桑德勒的声音是假的，并用法语配音）告诉布拉德·皮特，乌克兰总统 弗拉基米尔·泽连斯基 “与纳粹合作。” 该视频在社交平台X上被转发600次。
联邦通信委员会 最近被取缔 人工智能生成的机器人电话，国会正在敦促科技和社交媒体公司阻止欺骗浪潮。
今年 2 月，Meta、谷歌、TikTok、OpenAI 等公司承诺采取行动 “合理的预防措施” 通过在人工智能生成的政治内容上附加免责声明和标签。 该声明并不像一些选举监管机构所希望的那样强有力或影响深远，但它得到了美国和欧洲政治领导人的支持，今年至少有 50 个国家的选民将前往投票站，其中包括印度的选民。萨尔瓦多和墨西哥。
“我对社交媒体公司持相当负面的态度。 他们故意不采取任何措施来阻止它，”密歇根大学迪尔伯恩分校电气和计算机工程教授哈菲兹·马利克说。 “我无法相信数十亿和数万亿美元的公司无法解决这个问题。 他们没有这样做。 他们的商业模式是更多的分享、更多的点击、更多的钱。”
马利克多年来一直致力于检测深度伪造品。 他经常接到事实核查人员的电话，要求他分析视频和音频内容。 他说，令人震惊的是人工智能程序和工具的迅速发展，使虚假信息民主化。 他说，直到几年前，只有国家资助的企业才能制作此类内容。 如今的攻击者更加老练、更有意识。 他们在内容中添加噪音或失真，使深度伪造品更难以检测 在 X 和 Facebook 等平台上。
但人工智能在复制候选人方面存在局限性。 他说，这项技术无法准确捕捉一个人的言语模式、语调、面部抽搐和情绪。 马利克补充说：“它们可能会显得平淡无奇、单调乏味。”他研究了美国、尼日利亚、南非和巴基斯坦的政治内容，在这些国家，被监禁的反对派领导人的支持者 伊姆兰·汗 克隆他的声音并为虚拟政治集会创建一个化身。 马利克表示，人工智能生成的内容将“留下一些痕迹”，并暗示未来该技术可能会更精确地模仿个人。
“几年前不可能的事情现在成为可能，”他说。 “虚假信息的规模难以想象。 生产和传播的成本是最低的。 这并不需要太多的专业知识。 然后，只需单击一个按钮，您就可以将其传播到病毒式传播的程度，使其可以按照自己的节奏传播。 你可以进行微观目标。”
技术和社交媒体平台已经收集了数千万美国人的数据。 “人们知道你对鞋子的喜好，”前美国律师说。 芭芭拉·麦奎德（Barbara McQuade），《来自内部的攻击：虚假信息如何破坏美国》一书的作者。 这些个人详细信息使网络钓鱼者、黑客和其他制造人工智能生成虚假信息的人能够在投票开始前的几个小时内将注意力集中在摇摆州的特定群体或战略投票区。
“这就是可能造成最严重损害的地方，”麦克奎德说。 她说，假拜登自动电话告诉人们不要在新罕布什尔州投票，“这无关紧要，因为这是一场没有争议的初选。 但在 11 月，即使只有少数人听到并相信，也可能会影响选举结果。 或者说你收到一条人工智能生成的消息或文本，看起来像是来自国务卿或县书记员，说你投票的投票站停电了，所以选举已推迟到周三。”
她说，新的人工智能工具“让人们更加大胆，因为被抓的风险很小，而且可以对选举产生真正的影响。”
黑客上传了一段人工智能操纵的视频，显示乌克兰总统弗拉基米尔·泽连斯基命令他的部队投降。
（弗朗西斯科·塞科/美联社）
2022 年，俄罗斯利用 Deepfake 来结束与乌克兰的战争。 黑客上传了一段人工智能操纵的乌克兰总统视频 弗拉基米尔·泽连斯基 命令他的部队投降。 同年，卡拉·亨特在竞选北爱尔兰立法席位时，一段据称是她露骨性行为的视频在网上疯传。 人工智能生成的剪辑并没有让她输掉选举——她以微弱优势获胜——但其后果却是深远的。
《贝尔法斯特电讯报》援引她的话说：“当我说这是我一生中最可怕和压力最大的时刻时，我并不夸张。” “你能想象过去 20 天里每天醒来，你的手机不断地响起短信铃声吗？
“即使走进商店，”她补充道，“我也能看到人们对我感到尴尬，这只会让人质疑你的诚信、声誉和道德。”
2024-04-30 10:00:47
1714480294
