Adobe 将 Firefly 和内容凭证添加到 Bug 赏金计划

Adobe 漏洞赏金计划的安全研究人员现在可以通过发现 Adob​​e Firefly 和内容凭证中的漏洞获得奖励。 Bug 搜寻活动将向 Adob​​e 成员开放 私人的 Bug 赏金计划从 5 月 1 日开始。

Adobe 的成员 民众 bug 赏金计划将有资格在 2024 年下半年与 Adob​​e Firefly 和 Content Credentials 合作，并且私人计划的申请现已开放。

这两个错误赏金都托管在 黑客一平台，向全球安全研究人员开放。

黑客可以赚取 100 美元和 10,000 美元，取决于漏洞的类型和严重性。

“我们不仅简单地修复向我们报告的漏洞，而且还利用错误赏金计划以及我们从中获得的一些信号和趋势，作为对内部安全团队的反馈循环。” Adobe 产品安全事件响应团队经理 Daniel Ventura 在接受 TechRepublic 采访时说道。 “这样我们就可以一起学习，整体上提高我们的能力。”

文图拉指出，虽然生成式人工智能技术相对较新，但安全研究人员很快就掌握了如何在其中寻找错误的方法。 Adobe 已与 HackerOne 合作 漏洞赏金村，由 Ben Sadeghipour 组织的黑客会议，又名 纳汉塞克，为安全研究人员提供更多了解生成人工智能中的错误搜寻的途径。

“你知道，最大的挑战可能是，许多研究人员正在追赶与组织类似的速度，因为他们推出了新的服务和资产，”文图拉说。

Adobe Firefly 提出了独特的错误搜寻挑战

Adobe Firefly 是一系列生成式 AI 模型，用于在 Photoshop 和其他 Adob​​e 产品中创建图像。 Adobe 鼓励安全研究人员测试 Firefly 生成人工智能中的常见漏洞。 Adobe 特别指出研究人员 OWASP 大型语言模型应用程序前十名，其中指出 LLM 应用程序特别容易受到提示注入、数据泄露、沙箱不足和未经授权的代码执行的影响。

请参阅：我们的指南展示 使用 Adob​​e Photoshop 的提示和技巧 最有效。 （科技共和国）

内容凭证提供重要的出处信息

内容凭证为使用 Adob​​e Firefly、Photoshop、Lightroom 或其他程序制作的 AI 艺术添加了安全的元数据、水印和指纹识别。 内容凭证附加到有关图像创建以及可能对其进行的任何编辑的图像信息。

内容凭证必须发挥良好作用，以确保艺术得到正确归属，并防止欺骗性图像的传播。 Adobe 特别希望关闭附加虚假内容凭证的可能方式。

目标是通过共享有关内容凭证可能存在的漏洞的信息，帮助可能在工作中使用内容凭证的创建者以及更广泛的安全研究人员社区。

Adobe 执行副总裁、总法律顾问兼首席信托官 Dana Rao 在向媒体发表的一份声明中表示：“安全研究人员的技能和专业知识在增强安全性方面发挥着关键作用，现在可以帮助打击错误信息的传播。” “我们致力于与更广泛的行业合作，帮助加强我们在 Adob​​e Firefly 和其他旗舰产品中的内容凭证实施，将重要问题带到最前沿，并鼓励开发负责任的 AI 解决方案。”

Adobe 开设安全研究员名人堂

为了在金钱奖励中增加炫耀的资本， Adobe 开设了安全研究员名人堂 适用于在错误赏金计划中产生特殊影响的安全研究人员。 通过向错误赏金计划提交有效提交内容而在一个季度内得分最高的研究人员可以获得 Adob​​e 商品或 Adob​​e Creative Cloud Suite 12 个月的免费订阅，他们的名字将显示在名人堂中。

“总而言之，我们希望这一举措有助于为参与的研究人员培养更有价值的体验，” 文图拉在博客文章中写道。

其他人工智能错误赏金计划

去年，随着生成式人工智能产品和服务的兴起，人工智能漏洞搜寻活动激增。 谷歌在其错误赏金计划中添加了某些生成人工智能漏洞 2023 年 10 月。 OpenAI 有一个错误赏金计划 其人工智能模型。 微软提供高达 15,000 美元的奖金来寻找 副驾驶中的错误。

本文已更新，以更好地反映内容凭据的工作原理。