为了提高人工智能应用程序的安全性，Cloudflare 推出了其 防火墙 针对 AI – 旨在减少和防止针对大型语言模型 (LLM) 的攻击的新保护层。
法学硕士在解释人类语言和其他复杂数据方面发挥着重要作用，并且可以接受数十亿个参数的训练，但就像任何其他数字资产一样，威胁行为者一直在寻求利用漏洞。
Cloudflare 表示，随着 AI 的全面发展，其 AI 防火墙正值主动安全措施迅速变得至关重要之际。
Cloudflare 希望确保 LLM 级别的 AI 安全
该公司的公告引用了最近的一项研究，显示只有四分之一的首席高管对其组织应对人工智能风险的准备就绪充满信心。
然而，在解决他们的担忧时，Cloudflare 表示，保护 LLM 本身也存在挑战，因为尽管它们容易受到篡改、攻击和滥用，但在不妨碍用户交互的情况下很难应用足够的保护。
Cloudflare 首席执行官 Matthew Prince 强调了解决新兴人工智能威胁的重要性：“当新型应用程序出现时，新型威胁也会迅速跟进。 这对于人工智能驱动的应用程序来说没有什么不同。”
该公司的新人工智能防火墙将为安全团队配备新工具，以有效保护其法学硕士应用程序，包括快速威胁检测和自动阻止威胁，而无需人工干预。
尽管取得了令人鼓舞的进展，但 Cloudflare 似乎认为这只是多方面方法中的一个支柱，并引用 Gartner 的一份声明：“您无法孤立地保护 GenAI 应用程序的安全。 在规划和部署 GenAI 特定的安全控制之前，始终从云安全、数据安全和应用程序安全的坚实基础开始。”
该服务将免费向在 Cloudflare Worker AI 平台上使用法学硕士的客户提供。
TechRadar Pro 的更多内容
1709640361
#Cloudflare #正在添加防火墙以帮助确保您的 #LLM #安全
2024-03-05 12:00:44
