Vanna AI 即时注入漏洞可实现 RCE
由于提示注入漏洞，Vanna AI 库可能被利用进行远程代码执行 (RCE)。 JFrog 的研究人员 发现漏洞 在库的图表生成过程中，允许通过用户提示传递的有效载荷进行 RCE。该漏洞也是由中国科学院信息工程研究所的博士生刘彤独立发现的，他 已报告 通过 Huntr 漏洞赏金平台。 Vanna AI 可以将自然语言提示转换为 SQL 查询，并使用基于 Python 的图形库 Plotly 将查询结果以可视化图表的形式呈现给用户。Vanna AI 实现可以通过 Jupyter Notebook 等程序与数据库交互，并通过 Slackbot、Streamlit 应用程序或其他自定义 Web 应用程序等应用程序提供给最终用户。 在周四发布的一篇博客文章中，JFrog 研究人员详细介绍了该漏洞的工作原理，该漏洞被追踪为 CVE-2024-5565 启用 RCE。 用户的提示首先会发送给 LLM，其中包含预提示指令，告知 LLM 根据提示生成 SQL 查询。生成的 SQL 查询随后会发送到数据库，然后原始提示和查询结果都会传递给 Plotly 进行图表创建。 Python Plotly 代码是根据从 LLM 收到的提示动态生成的，然后通过 Python 的 exec 方法运行以生成查询数据的可视化。由于在此链末尾执行的 […]