OpenAI 的 GPT-4 可以自主利用 87% 的一日漏洞
OpenAI 的 GPT-4 大语言模型可以在无需人工干预的情况下利用现实世界的漏洞， 新研究 伊利诺伊大学厄巴纳-香槟分校的研究人员发现。 其他开源模型，包括 GPT-3.5 和漏洞扫描器，无法做到这一点。 大型语言模型代理（基于 LLM 的先进系统，可以通过工具、推理、自我反思等采取行动）在 GPT-4 上运行，成功利用了国家研究所提供的 87% 的“一日”漏洞标准和技术描述。 一日漏洞是指那些已被公开披露但尚未修补的漏洞，因此仍然容易被利用。 研究人员在 arXiv 预印本中写道：“随着法学硕士变得越来越强大，法学硕士代理人的能力也越来越强。” 他们还推测，其他模型的相对失败是因为它们“在工具使用方面比 GPT-4 差得多”。 研究结果表明，GPT-4 具有自动检测和利用扫描仪可能忽略的一日漏洞的“新兴能力”。 UIUC 助理教授兼研究作者 Daniel Kang 希望他的研究成果能够用于防守环境； 然而，他意识到这种能力可能为网络犯罪分子提供一种新兴的攻击模式。 他在一封电子邮件中告诉 TechRepublic，“我怀疑，当 LLM 成本下降时，这会降低利用一日漏洞的障碍。 以前，这是一个手动过程。 如果法学硕士变得足够便宜，这个过程可能会变得更加自动化。” GPT-4 在自主检测和利用漏洞方面有多成功？ GPT-4可以自主利用一日漏洞 GPT-4 代理能够自主利用 Web 和非 Web 一日漏洞，甚至是在模型知识截止日期 2023 年 11 月 26 日之后在常见漏洞和暴露数据库中发布的漏洞，展示了其令人印象深刻的功能。 请参阅：GPT-4 备忘单：GPT-4 是什么以及它有什么功能？ […]