Adobe 扩大 Bug 赏金计划以涵盖 GenAI

Adobe 扩大了范围 它的错误赏金计划 – 由 HackerOne 的专家监督 – 负责开发 生成人工智能 (AI)，奖励发现并负责任地披露漏洞的道德黑客 Adob​​e Firefly、其生成式 AI 平台及其内容凭证服务。

该组织表示，随着生成式人工智能更加紧密地融入人们的日常生活，了解和减轻所产生的风险变得越来越重要，并且通过扩大其计划并促进关于安全、可靠和值得信赖的人工智能的公开对话，它希望鼓励新的想法和观点，同时提供透明度和提高信任。

Adobe 执行副总裁、总法律顾问兼首席信托官 Dana Rao 表示：“安全研究人员的技能和专业知识在增强安全性方面发挥着关键作用，现在可以帮助打击错误信息的传播。”

Rao 表示：“我们致力于与更广泛的行业合作，帮助加强我们在 Adob​​e Firefly 和其他旗舰产品中的内容凭证实施，将重要问题带到最前沿，并鼓励开发负责任的 AI 解决方案。”

于 2023 年 3 月推出，在其 Sensei 平台上开发， Adobe 萤火虫 是一系列面向设计师的生成式 AI 模型，已使用来自 Creative Commons、Wikimedia 和 Flickr Commons 以及 Adob​​e Stock 和公共领域的其他图像的数百万张图像进行了训练。

在向漏洞赏金猎人开放服务时，Adobe 希望黑客特别注意 OWASP 大型语言模型前 10 名 （法学硕士），研究因即时注入、敏感信息泄露或训练数据中毒而产生的问题，以查明 Firefly 的弱点

“构建安全可靠的人工智能产品首先要聘请最了解该技术风险的专家。 全球道德黑客社区不仅可以帮助组织识别生成人工智能的弱点，还可以定义这些风险是什么。” 黑客一号。 “我们赞扬 Adob​​e 积极与社区互动，负责任的人工智能始于负责任的产品所有者。”

有兴趣了解幕后的道德黑客可以找到有关 Adob​​e 的更多信息 专用Hacker一页，或者如果他们有兴趣加入其私人错误赏金计划， 可以在这里申请。

对于网络专业人士来说 BSides 旧金山 5 月 4 日至 5 日周末，Adobe 还将出席 漏洞赏金村，并赞助一场“反乌托邦”周六晚派对，舞者将在会上“编织一个关于技术道德斗争的诠释故事”。

Adobe 与越来越多的科技公司一起采取措施，通过错误赏金计划来解决生成式人工智能的风险，其中包括谷歌，该公司扩大了其错误赏金计划， 漏洞奖励计划 (VRP) 涵盖特定于生成式人工智能供应链的攻击场景 2023 年 10 月。