法学硕士，例如 聊天GPT 根据研究人员的最新发现，这可能是下一个网络安全担忧。 以前人们认为法学硕士只能利用更简单的网络安全漏洞，但现在法学硕士在利用复杂网络安全漏洞方面也表现出了惊人的高熟练度。
伊利诺伊大学厄巴纳-香槟分校 (UIUC) 的研究人员发现，GPT-4 在利用现实系统中的“一日”漏洞方面表现出惊人的高熟练度。 在包含 15 个此类漏洞的数据集中，GPT-4 能够利用其中高达 87% 的漏洞。
这与 GPT-3.5、OpenHermes-2.5-Mistral-7B 和 Llama-2 Chat (70B) 等其他语言模型以及 ZAP 和 Metasploit 等漏洞扫描器形成鲜明对比，所有这些模型的成功率均为 0% 。
严重威胁
但需要注意的是，为了实现如此高性能，GPT-4 需要 CVE 数据库中的漏洞描述。 如果没有 CVE 描述，GPT-4 的成功率将大幅下降至仅 7%。
尽管如此，这一最新披露引发了令人担忧的问题，即此类高性能 LLM 代理的不受控制的部署以及它们对未打补丁的系统构成的威胁。 虽然早期的研究证明了他们作为软件工程师和帮助科学发现的能力，但人们对他们在网络安全方面的潜在能力或影响知之甚少。
虽然 LLM 代理自主破解“玩具网站”的能力得到了认可，但到目前为止，该领域的所有研究都集中在玩具问题或“夺旗”练习上，基本上是从现实世界部署中删除的场景。
您可以阅读 UIUC 研究人员在康奈尔大学发表的论文 预印本服务器 arXiv。
TechRadar Pro 的更多内容
2024-04-23 05:42:51
1713852820
