美国网络安全研究人员进行的一项实验是，利用人工智能来对抗自身，生成攻击消息的计算机蠕虫。 为了实现这一目标，提示操纵了聊天机器人的人工智能以破坏它们。
他的名字叫莫里斯二世（眨眼间眼睛着眼于 1988 年创建的第一个计算机蠕虫“Morris”），其目标是计算机助手 消息传递消息传递者 IA生成式人工智能。 它会操纵它们并从电子邮件中窃取数据，并能够发送消息来污染其他邮箱。 这 病毒 是由研究人员创建的 康奈尔科技 在纽约。 这只是一个“练习”，旨在证明与以下相关的风险 生态系统互联且自主的人工智能生态系统。 但 莫里斯二世 有特殊性，可以直接生成 通过 聊天GPTChatGPT 或 Gemini 通过了解如何与聊天机器人正确“交谈”并覆盖 锁防护锁。
Morris II 可以从一个系统传播到另一个系统，窃取数据或部署 恶意软件系统中存在恶意软件。 该实验展示了如何将一个简单的命令提示符（著名的提示符）用作武器，使人工智能系统忽略其自身的安全规则。 为了创造这种生成蠕虫，研究人员使用了“矛盾的提示” 自我复制 ”。这是一个命令提示符，要求 AI 在其响应中生成另一个提示。因此 AI 将在其响应中开发新的指令。该过程类似于 SQL 注入攻击（结构化查询语言结构化查询语言据研究人员称，）以及缓冲区溢出。
在演示该研究的视频中，可以看到电子邮件系统多次转发损坏的消息。 ©本·纳西
AI在两到三年内产生的蠕虫
为了展示蠕虫病毒的工作原理，研究人员首先创建了一个能够发送和接收消息的消息系统，并在连接到 ChatGPT 的生成人工智能的协助下， 双子座 和拉瓦。 他们随后生成了两种类型的提示来操作人工智能：一种自我复制的基于文本的提示和图像文件中的等效提示。 在第一种情况下，电子邮件集成 客人 使用“增强恢复生成”(RAG) 过程损坏了 Mail Assistant 数据库。 此过程通常允许您优化大型语言模型的结果。 提示用于注入外部知识库来训练它。 正是这个系统可以让你增强人工智能的能力，使其能够在特定领域做出有效的反应。
通常情况下，消息来源是可靠的，但在莫里斯二世的例子中，它的恶意足以打破人工智能的保护锁。 这就是蠕虫能够窃取电子邮件数据的方式。 AI 生成的响应随后被用来污染其他接收者。 事实上，该响应的内容也被注入到新主机的数据库等中。 第二种方法是在图片中加入恶意提示，迫使消息助理将消息发送给通讯员。
对于研究人员来说，如果莫里斯 II 具有功能性，那很简单，因为它的建筑设计 法学硕士 设计得很差。 他们小心翼翼地向 OpenAI 提供了他们的研究细节，并且 谷歌谷歌。 科学家估计，如果不采取有效措施，这种生殖蠕虫预计会在两到三年内蔓延。
1709652229
#Morris #II一种通过人工智能对抗自身来传播的计算机蠕虫
2024-03-05 15:11:23
