GenAI 为网络攻击者和防御者提供增强功能

编者注： 本文涵盖 欧洲信息安全组织 该活动于 6 月 4 日至 6 日在伦敦举行，首次出现在我们的姊妹网站 SC Media UK 上。

攻击者正在使用 GenAI 来增强他们的行动，但防御者也有机会利用它来提高他们的能力。

Perception Point 首席技术官 Tal Zamir 上周在伦敦举行的 Infosecurity Europe 会议上表示 员工正在使用 GenAI，这导致了桌面应用程序和浏览器扩展的推出——并增加了数据泄露的风险。

“当你使用任何 GenAI 应用程序时，他们都会允许人类审核人员查看敏感数据，”Zamir 指着 OpenAI 违规行为 对话内容对其他用户公开。

担心攻击过程将完全自动化

Zamir 表示，GenAI 代理可以查看整个企业并可以通过关键字查找详细信息，还可以寻找在整个工作人群中暴露的匹配文档和文件。

此外，他还警告称，假冒的 GenAI 应用程序很难与真正的应用程序区分开来，而且如果使用，可能会窃取 API 密钥。

他说：“攻击者可以轻松获取最大的 GenAI 模型，他们可以抓取模型并在笔记本电脑上本地运行它。”他警告说，攻击者可以使用人工智能来提高生产力，扩大攻击规模并瞄准任何行业，并让初级攻击者快速上手。

他说，“最高标准是攻击过程的完全自动化”，即网站可以受到攻击 一天 脆弱性。

使用 GenAI 增强保护

扎米尔表示，在防御方面，GenAI 可以通过更好的检测来增强保护，同时还可以减少事件响应工作。

此外，Zamir 还谈到了如何更好地检测商业电子邮件泄露 (BEC) 电子邮件，尤其是那些正文中没有显示链接或电子邮件域的电子邮件。他表示，有一次，Perception Point 能够理解 零时 网络钓鱼尝试，并在没有任何人工干预的情况下暴露一系列新的攻击。

扎米尔在接受 SC UK 采访时表示，现在这一过程已经自动完成，“但我们为客户提供了另一层人性化服务，因为即使我们的系统能够很好地阻止所有 BEC，但客户也坚信我们也添加了人为因素。”