内容凭证是开始

对于如何应对通过人工智能等技术产生的媒体和企业深度造假的挑战，人们越来越达成共识。 今年早些时候，谷歌宣布将作为指导委员会成员加入内容来源和真实性联盟——C2PA 中的其他组织包括 OpenAI、Adobe、微软、AWS 和 RIAA。 随着人们对人工智能错误信息和深度伪造的担忧日益增加，IT 专业人士将希望密切关注该机构的工作，特别是内容凭证，因为行业正式制定了管理视觉和视频数据管理方式的标准。

什么是内容凭证？

内容凭证是一种数字元数据，创作者可以将其附加到其内容中，以确保正确的识别并提高透明度。 这种防篡改元数据包括有关创作者和创作过程的信息，这些信息在导出或下载时直接嵌入到内容中。 由于该概念背后的公司的影响力，内容凭证最有可能达成全球标准化和商定的内容标签方式。

请参阅：Adobe 将 Firefly 和内容凭证添加到 Bug 赏金计划中

使用内容凭证有几个好处。 通过提供有关创作者和创作过程的更多信息，它将有助于建立观众的可信度和信任。 这种透明度有助于打击网上的错误信息和虚假信息。 通过将身份和联系信息附加到他们的作品中，创作者可以让其他人更容易找到他们并与他们联系，从而提高他们的知名度和认可度。 同样，识别和取消平台或删除非法内容也将变得更加容易。

Deepfake 是澳大利亚正在努力应对的挑战

与世界其他地区一样，澳大利亚正在努力应对深度造假欺诈的大幅加速。 Sumsub第三届年会 身份欺诈报告 发现过去一年澳大利亚的深度造假激增 1,530%，并指出这些造假的复杂程度也在增加。

情况变得如此令人担忧，以至于政府最近 宣布了一项战略 反驳一些具体的例子，然后建立将其视为任何其他形式的非法内容的途径。

深度造假是虚假信息特别有效的来源，因为眼睛很快就会被欺骗。 研究表明，只需 13毫秒 识别图像的时间范围比处理并确定其有效性所需的时间短得多。 换句话说，深度造假是一种风险，因为它们在被分析和消除之前就已经对人产生了预期的影响。

请参阅：人工智能 Deepfakes 日益成为亚太地区组织面临的风险

例如，澳大利亚领先的科学机构 CSIRO 发布了有关“如何识别 Deepfake，”该指导需要进行广泛的分析。

“如果是视频，您可以检查音频是否与嘴唇运动正确同步。 言语与嘴相符吗？ 其他需要检查的事情包括眼睛周围不自然的眨眼或闪烁、奇怪的灯光或阴影，以及与演讲的情绪基调不相符的面部表情，”CSIRO 专家 Kristen Moore 博士在指导专题中说道。

因此，尽管这个建议很有用，但让深度造假的最终目标了解如何识别它们并不足以阻止它们对社会造成严重破坏。

政府和私营部门需要齐心协力打击深度造假

政府将深度造假定为非法，是保护那些可能成为深度造假受害者的人的积极一步。 然而，IT 行业需要开发识别和管理这些内容的方法。

迪克·史密斯 (Dick Smith) 和吉娜·莱因哈特 (Gina Rinehart) 等主要商业人物在一些引人注目的案例中“要求”Meta 等组织更加积极主动地预防人工智能诈骗。 相似度被用于深度伪造。

正如所指出的 澳大利亚电子安全专员，“帮助识别深度赝品的创新发展尚未跟上技术本身的步伐。” 就澳大利亚政府而言，它致力于通过以下方式打击深度造假：

• 提高人们对深度造假的认识，以便澳大利亚人能够对该问题有一个合理且基于证据的概述，并充分了解他们可以选择的选项。
• 通过投诉报告系统支持那些成为目标的人。 任何照片或视频经过数字修改并在网上分享的澳大利亚人都可以联系 eSafety 寻求帮助以将其删除。
• 通过开发有关深度造假的教育内容来防止伤害，以便澳大利亚人能够批判性地评估在线内容并更自信地畅游在线世界。
• 通过我们的“安全设计”计划支持行业，帮助公司和组织将安全融入其产品和服务中。
• 通过鼓励行业制定以下政策、服务条款和社区标准，管理滥用和非法深度伪造品的筛选和删除政策，识别和标记社区中深度伪造品的方法，支持行业努力减少或限制有害深度伪造品的再分配。

最终，要实现这一愿景，需要业界的支持，需要组织提供技术并对人工智能进行最深入的投资。 这就是内容凭证的用武之地。

帮助打击深度伪造的步骤

内容凭证是形成打击深度造假的标准的最佳机会。 由于这种方法是行业驱动的，并得到内容行业最重量级人物的支持，这意味着可以在互联网的大部分内容上标记非法内容 – 类似于如何对充满病毒的网站进行标记，直至它们被标记为非法内容。在搜索引擎上实际上变得无法找到。

因此，IT 专业人员和其他使用 AI 进行内容生成的人员将希望以 Web 开发人员了解安全性、SEO 以及保护内容不被标记的标准的方式来了解内容凭证。 他们应该采取的步骤包括：

• 实施内容凭证：首先，IT 专业人员需要确保其组织积极采用内容凭证并将其集成到工作流程中，以确保内容的真实性和可追溯性。
• 倡导透明度：在内部和外部，与合作伙伴和客户一起，倡导组织在人工智能的使用方面保持透明，并在内容创建和分发中采用道德实践。
• 支持监管：与行业机构和政府机构合作，制定政策和法规，应对深度造假带来的挑战。 这包括参与政府针对人工智能进行的各种调查，以帮助制定政策。
• 协作：与其他专业人士和组织合作，开发标准化实践和工具，以识别和减轻与深度伪造相关的风险。
• 准备应对策略：制定检测到深度伪造的计划，包括减轻损害和与利益相关者沟通的步骤。
• 利用社区资源：最后，利用网络安全社区和电子安全专员等政府机构的资源来保持更新和做好准备。

毫无疑问，深度造假将成为科技行业和 IT 专业人员需要解决的最重大挑战之一。 内容凭证提供了一个行业可以吸引的绝佳起点。