谷歌承认其人工智能概览搜索功能存在问题

上周，谷歌新推出的 AI 概览功能生成的搜索查询结果奇怪且具有误导性，在社交媒体上疯传。随后，该公司发表声明，淡化了该技术存在问题的说法。周四晚些时候，该公司搜索部门负责人利兹·里德 (Liz Reid) 承认，这些失误凸显了需要改进的地方，她写道：“我们想解释发生了什么，以及我们采取了哪些措施。”

Reid 的帖子直接引用了两个最热门、最不准确的 AI 概览结果。其中一个结果是谷歌的算法支持 吃石头 因为这样做“对你有好处”，而另一个人建议使用无毒胶水 勾芡披萨酱。

吃石头并不是很多人在网上写过或问过的问题，所以搜索引擎可以利用的资源并不多。据 Reid 说，人工智能工具发现 《洋葱报》的一篇文章一家软件公司转发了讽刺网站 上的内容，并将其误解为事实。

至于谷歌告诉用户在披萨上涂胶水，里德实际上将错误归咎于幽默感的缺失。“我们看到人工智能概述包含来自论坛的讽刺或恶搞内容，”她写道。“论坛通常是真实、第一手信息的重要来源，但在某些情况下，可能会带来不太有用的建议，例如使用胶水将奶酪粘在披萨上。”

最好不要在未仔细阅读之前就制作任何由人工智能生成的晚餐菜单。

里德还表示，仅凭热门截图来判断谷歌新搜索功能的质量是不公平的。她声称，该公司在推出新搜索功能之前进行了广泛的测试，该公司的数据显示人们重视人工智能概览，包括表明人们更有可能停留在通过这种方式发现的页面上。

为什么会出现如此尴尬的失败？里德认为，引起关注的错误是互联网审计的结果，而审计并不总是出于好意。“没有什么比数百万人使用该功能进行许多新奇的搜索更令人难受的了。我们还看到了一些毫无意义的新搜索，似乎旨在产生错误的结果。”

谷歌声称，一些广为流传的 AI 概览出错的截图是假的，根据《连线》杂志自己的测试，这似乎是真的。例如，X 上的一名用户 发布了截图 这似乎是一篇 AI 概述，回答了“蟑螂能住在你的阴茎里吗？”这个问题，搜索引擎热情地确认这是正常的。这篇帖子的阅读量超过 500 万次。然而，经过进一步检查，截图的格式与 AI 概述实际呈现给用户的方式不一致。WIRED 无法重现任何接近该结果的内容。

被虚假 AI 概览的误导性截图欺骗的不仅仅是社交媒体用户。《纽约时报》 发布了更正 并澄清说，AI 概览从未建议用户在抑郁时跳下金门大桥——那只是社交媒体上的一个黑暗梗。“其他人暗示，我们针对诸如将狗留在车内、怀孕期间吸烟和抑郁等话题返回了危险结果，”里德周四写道。“那些 AI 概览从未出现过。”

然而，里德的帖子也明确指出，谷歌新推出的大型搜索升级的原始形式并非完全正确。她写道，该公司对 AI Overviews 进行了“十多项技术改进”。

仅描述了四个：更好地检测不值得 AI 概述的“无意义的查询”；使该功能减少对 Reddit 等网站用户生成内容的依赖；在用户认为 AI 概述无用的情况下减少提供 AI 概述的频率；并加强禁用有关健康等重要主题的 AI 摘要的护栏。

Reid 的博客文章中没有提到大幅缩减 AI 摘要功能。谷歌表示将继续监控用户反馈并根据需要调整功能。