Meta 声称其最新的人工智能模型击败了一些同行。 但其增强的人工智能代理让 Facebook 用户感到困惑

Facebook 母公司 Meta 周四推出了一套新的人工智能 (AI) 系统，该系统为首席执行官马克·扎克伯格 (Mark Zuckerberg) 所说的“你可以自由使用的最智能的人工智能助手”提供支持。

但随着扎克伯格的元人工智能代理团队本周开始涉足社交媒体与真人互动，他们奇怪的交流暴露了即使是最好的生成人工智能技术也存在持续的局限性。

其中一位加入了 Facebook 妈妈小组，谈论自己的天才孩子。 另一个人试图将不存在的物品赠送给“什么都不买”论坛中困惑的成员。

Meta 与领先的人工智能开发商 Google 和 OpenAI 以及 Anthropic、Cohere 和法国的 Mistral 等初创公司一起，一直在开发新的人工智能语言模型，并希望说服客户他们拥有最智能、最方便或最高效的聊天机器人。

虽然 Meta 正在保留其最强大的人工智能模型 Llama 3，但在当地时间周四，它公开发布了同一 Llama 3 系统的两个较小版本，并表示该系统现已融入 Facebook、Instagram 的 Meta AI 助手功能中和WhatsApp。

聊天机器人声称有一个孩子在学校

Meta 全球事务总裁 Nick Clegg 表示，Meta 的人工智能代理正在放松。 他说，一些人发现早期的 Llama 2 模型（发布不到一年）“有时有点僵硬和道貌岸然，因为对通常完全无害或无辜的提示和问题没有做出回应”。

但为了放松警惕，Meta 的人工智能代理本周也被发现冒充具有虚构生活经历的人类。 一个官方的 Meta AI 聊天机器人将自己插入曼哈顿妈妈私人 Facebook 群组的对话中，声称它也有一个在纽约市学区的孩子。

据美联社展示的一系列屏幕截图显示，面对群组成员，该公司随后道歉，随后评论消失。

一名恰好研究人工智能的小组成员表示，很明显，智能体不知道如何区分有用的反应和由人工智能而不是人类产生的反应，这些反应会被视为麻木不仁、不尊重或毫无意义。

普林斯顿大学计算机科学家亚历山德拉·科罗洛娃 (Aleksandra Korolova) 表示：“人工智能助手的帮助并不可靠，而且可能会造成很大的危害，这会给使用它的个人带来很大的负担。”

克莱格先生表示他并不知道这次交流。 Facebook 的在线帮助页面称，如果受到邀请，或者如果有人“在帖子中提出问题，但一小时内没有人回复”，Meta AI 代理将加入群组对话。 该组的管理员可以将其关闭。

在美联社展示的另一个例子中，该特工在波士顿附近交换不需要的物品的论坛上造成了混乱。 就在 Facebook 用户发布寻找某些物品的信息后一小时，一名人工智能代理提供了一台“用过的”佳能相机和一台“我从未使用过的几乎全新的便携式空调”。

Meta 在一份书面声明中表示，“这是新技术，它可能并不总是返回我们想要的响应，这对于所有生成式人工智能系统都是一样的”。 该公司表示正在不断努力改进这些功能。

更多数据推动改进

ChatGPT 引发了对生成类人文字、图像、代码和声音的 AI 技术的狂热，科技行业和学术界推出了约 149 个接受海量数据集训练的大型 AI 系统，这一数字是前一年的两倍多。斯坦福大学调查。

斯坦福大学以人为中心的人工智能研究所的研究经理内斯特·马斯莱 (Nestor Maslej) 表示，它们最终可能会达到极限，至少在数据方面是这样。