把你的思想向前推进。 现在是 2028 年 11 月 8 日， 另一场总统选举后的第二天。 这一行动进展顺利——没有指控存在猖獗的作弊行为，也没有明显的欺诈行为——这在很大程度上要归功于民主最新敌人——深度造假的失败。
这样的未来可能吗？ 到目前为止，政府和科技行业都没有就针对深度造假的有效防护措施达成一致。 但这份常见问题解答（未来五年）表明 2024 年发生的事件很可能会迫使这个问题出现——并且解决方案是可能的。
为什么花了这么长时间才找到有效的方法来对抗深度造假？
2022 年末，复杂的低成本人工智能软件出现，可以轻松创建逼真的音频、视频和照片，即所谓的 Deepfakes。 随着这些生成式人工智能程序的迅速改进，人们越来越清楚地意识到，深度造假内容将对民主构成威胁。
政治深度造假——包括音频和视频——很快就出现了：拜登总统宣布美国人将应征入伍去乌克兰作战。 唐纳德·特朗普拥抱并亲吻安东尼·福奇博士的照片。 马萨诸塞州民主党参议员伊丽莎白·沃伦 (Elizabeth Warren) 告诉 MSNBC，不应允许共和党人在 2024 年投票。只会说一种语言的纽约市长埃里克·亚当斯 (Eric Adams) 在人工智能生成的机器人通话中讲西班牙语、意第绪语和普通话。
很快， 白宫, 欧盟 和 各大科技公司 所有这些都提出了广泛的人工智能监管提案，其中包括对人工智能内容进行“水印”——将 ID 标签（一段永久的计算机代码）插入到任何人工智能生成内容的数字文件中，以识别其人工来源。
但事实证明，人工智能规则制定很复杂，而标签则体现了这种困境：法律是否需要人工智能水印？ 将如何执行？ 早在2023年，一些手机摄像头就在图像处理中使用了AI。 多少人工智能输入内容需要标识符？ Instagram 美容影响者需要在她的面部调整自拍照上添加水印吗？
由于过于复杂，没有一个系统被广泛采用。
发生了什么变化？
历史上最大规模的深度造假协同攻击发生在 2024 年 11 月大选后的第二天。 美国的每个社交媒体频道都充斥着描绘十几个摇摆州选举舞弊的虚假音频、视频和静态图像，这些高度真实的内容在数小时内就有数百万人观看。 媒体和政府的揭穿努力受到源源不断的新深度伪造品的阻碍，这些伪造品大多产自俄罗斯、朝鲜、中国和伊朗。 这次袭击引发了法律和民间混乱，并一直持续到 2025 年春季。
然而早期的认证工作都没有 曾是 采用？
正确的。 这一突破实际上是在 2026 年初由来自美国和国际新闻机构的数字记者组成的工作组实现的。 他们的目标是找到一种方法，让深度造假不再出现在新闻报道中，这样他们就可以保护主流媒体仍然保留的可信度。 这是一项合乎逻辑的任务：从历史上看，记者们会毫不留情地惩罚同事的不当行为，即使是轻微偏离事实严谨性的行为也会受到严厉批评。
新闻组织基于一个简单的见解组建了 FAC 联盟（“事实验证内容”）：世界上已经存在太多人工智能造假，无法尝试对虚假信息和错误信息实施水印系统。 即使是最严格的标签规则也会被不良行为者忽视。 但它 会 可以对内容片段添加水印 不是 深度赝品。
于是，自愿性 FACStamp 于 2026 年 5 月 1 日诞生了。
FACStamp 是什么样子的？
对于消费者来说，FACStamped 内容会在屏幕的一角显示一个小“FAC”图标或包含音频 FAC 通知。 用户可以关闭该信号，也可以将其设置为在媒体流开始时仅显示 5 秒或 10 秒。
FACStamp 完全是自愿的。 但 FAC 联盟的每个成员都承诺，他们的互联网、广播和实体报道将在其新闻版块中仅发布带有 FACSstamp 的媒体。
内容如何符合 FACStamp 资格？
最新的手机、平板电脑、相机、录音机和台式电脑都包含软件，可以在应用任何人工智能修改之前，在捕获的每一段视频或音频内容中自动插入 FACStamp 代码。 这证明图像、声音或视频不是人工智能生成的。 您还可以下载 FAC 应用程序，该应用程序对旧设备具有相同的作用。 FACStamp 被技术专家称为“脆弱的”：图像、视频或音频文件第一次被人工智能篡改时，标记就会消失。
目的人工智能 通常适当地用于执行诸如减少音频文件中的背景噪音之类的操作。 FacStamped 内容根本无法编辑？
当然可以。 但要保留 FACStamp，您的计算机必须连接到非营利性 FAC 验证中心。 该中心的计算机会检测是否进行了轻微的编辑（例如裁剪甚至面部调整），并且印记仍然存在。 任何更大的操作，从交换面孔到伪造背景，FACStamp 都会消失。
FACStamps 是如何传播到新闻业之外的？
事实证明，很多人都可以使用 FACStamp。 互联网零售商采用 FACStamps 来获取其产品的视频和图像。 个人很快就效仿，使用 FACStamps 在网上销售商品——当潜在买家评判一辆二手皮卡车或二手沙发时，知道图像没有被人工智能旋转或擦掉会让人放心。
2027 年，该邮票开始出现在社交媒体上。 任何父母都可以人工生成他们幸福的家庭站在埃菲尔铁塔前的完美逼真的图像，并将其发布或通过电子邮件发送给羡慕的朋友。 FACStamp 证明这家人确实去过那里。
没有 FACStamps 的约会应用程序个人资料最终变得越来越少。 视频会议应用程序具有 FAC 选项，以确保通话中的每个人都是真实的。 对于有影响力的人来说，如果没有偶尔的 FACStamp，就越来越难以声称“真实性”。
甚至人工智能行业也支持使用 FACStamps。 在互联网上运行的训练过程中，如果人工智能程序吸收了过量的人工智能生成的数据而不是真实的数据，它可能会经历“模型崩溃”并变得非常不准确。 因此，FACStamp 可以帮助人工智能公司仅根据现实训练他们的模型。
下一步是什么？
由参议员和众议院议员组成的两党小组计划在 2029 年 1 月下届国会开幕时提出《现实权法案》。该法案将强制要求在多个部门使用 FACStamp，包括地方政府、购物网站以及投资和房地产产品。 伪造 FACStamp 将构成刑事犯罪。 民意调查显示公众对该法案的广泛支持，FAC 联盟已经开始了一场品牌宣传活动。
标语：“那是FAC吗？ “
迈克尔·罗杰斯 (Michael Rogers) 是一位作家和未来学家，他的最新著作是《来自未来的电子邮件：来自 2084 年的笔记》。
2024-01-07 11:00:44
1704640998
