俄罗斯美国大选干预目标是在缓慢启动后支持乌克兰

由于初选竞争较少，外国恶意影响美国总统选举的速度比 2016 年和 2020 年要慢。 俄罗斯的努力重点是破坏美国对乌克兰的支持，而中国则寻求利用社会两极分化并削弱人们对美国民主制度的信心。 此外，人们对复杂的人工智能深度造假视频能否成功操纵选民的担忧尚未得到证实，但更简单的“浅层”人工智能增强和人工智能音频造假内容可能会取得更大的成功。 这些见解和分析包含在 第二份微软威胁情报选举报告 今天发布。

俄罗斯投入巨资破坏美国对乌克兰的支持

俄罗斯影响力行动（IO）在过去两个月中势头强劲。 微软威胁分析中心 (MTAC) 追踪到至少 70 名俄罗斯行为者，他们利用传统媒体和社交媒体以及秘密和公开的活动，参与针对乌克兰的虚假信息。

例如，微软追踪的 Storm-1516 演员已成功使用跨多种语言的一致模式向美国受众洗白反乌克兰叙事。 通常，该小组遵循三个阶段的过程：

最终，美国观众可能不知道原始来源而重复并转发虚假信息。

图 1：Storm-1516 向美国观众空间传播虚假信息的过程
中国寻求扩大社会分歧并破坏民主制度

中国在其以选举为重点的活动中采用了多层次的方法。 它利用现有的社会政治分歧，并将其攻击与党派利益结合起来，以鼓励有机循环。

图2：与中共有联系的马甲账户冒充美国选民发布以美国为中心的选举内容

中国在与选举相关的影响力活动中越来越多地使用人工智能，这是它与俄罗斯不同的地方。 虽然俄罗斯对人工智能的使用影响力不断发展，但中华人民共和国 (PRC) 和中国共产党 (CCP) 相关的参与者利用生成式人工智能技术来有效地创建和增强图像、模因和视频。

到目前为止，伊朗的活动有限，经常出现游戏后期剧透的情况

伊朗过去的行为表明，它可能会在临近美国选举日时发起激烈的网络影响行动。 德黑兰的选举干预战略采用了一种独特的方法：将网络和影响力行动结合起来，以产生更大的影响。 中东持续的冲突可能意味着伊朗将改变其针对美国的计划目标和努力

2024 年选举中的生成式人工智能——风险依然存在，但与预期不同

自 2022 年底生成式人工智能民主化以来，许多人担心这项技术将被用来改变选举结果。 MTAC 与 Microsoft 的多个团队合作，识别、分类和分析民族国家在影响力行动中恶意使用生成式人工智能的情况。

简而言之，迄今为止，使用世界领导人和候选人的高产量合成深度伪造视频尚未造成大规模欺骗和广泛的混乱。 事实上，我们已经看到，观众更有可能被吸引并分享简单的数字伪造品，这些伪造品在过去十年中一直被有影响力的演员所使用。 例如，虚假新闻报道上印有真实新闻机构的徽标。

观众有时确实会喜欢生成式人工智能内容，尽管成功的场景有相当大的细微差别。 我们今天的报告解释了以下因素如何影响 2024 年选举的生成人工智能风险：

• 人工智能增强的内容比完全人工智能生成的内容更具影响力
• AI音频比AI视频更有影响力
• 声称来自私人环境（例如电话）的虚假内容比来自公共环境（例如世界领导人的深度伪造视频）的虚假内容更有效
• 在危机和突发新闻时期，虚假信息传递更具穿透力
• 模仿不太知名的人比模仿世界领导人等知名人士效果更好

在选举日之前，MTAC 将继续识别和分析恶意生成人工智能的使用，并将逐步更新我们的评估，因为我们预计随着 11 月的临近，俄罗斯、伊朗和中国都将加快影响和干扰活动的步伐。 需要注意的一个警告是：如果有一个复杂的深度伪造品旨在影响 11 月的选举，那么用于操纵的工具很可能尚未进入市场。 越来越复杂的视频、音频和图像人工智能工具几乎每天都进入市场。 上述评估来自 MTAC 迄今为止的观察结果，但很难知道从现在到 11 月我们会从生成人工智能中观察到什么。

上述评估来自 MTAC 迄今为止的观察结果，但随着俄罗斯、伊朗和中国的生成式人工智能和地缘政治目标从现在到 11 月的演变，2024 年大选的风险可能会随着时间而变化。

标签：人工智能、中国、网络影响力、网络安全、深度造假、生成人工智能、影响力行动、伊朗、MTAC、俄罗斯