谷歌暂停 Gemini 生成人工智能图像的能力 | 解释

在发现生成式人工智能工具生成不准确的历史图像后，谷歌宣布将暂停 Gemini 生成人物图像的能力。 | 照片来源：美联社

到目前为止的故事： 2月22日，谷歌宣布 会暂停 Gemini 生成图像的能力 的人。 在此消息发布之前，该生成式人工智能工具被发现生成了不准确的历史图像，其中包括美国开国元勋和纳粹时代德国的各种图像。 在这两种情况下，该工具生成的图像似乎颠覆了生成人工智能中的性别和种族刻板印象。

谷歌的 Gemini 聊天机器人在印度也面临批评，因为它产生的回应称该国总理纳伦德拉·莫迪“被指控实施一些专家称之为法西斯主义的政策”。

用户对 Google 的 Gemini 聊天机器人提出了哪些问题？

微博平台 X 上的几位用户指出，Gemini 聊天机器人似乎拒绝生成白人图像，导致结果不准确。 即使是“美国开国元勋”或“教皇”等具有历史意义的人物的提示也会出现有色人种的图像，引发人们对机器人偏见的担忧。

用户还指出，即使输入了要求提供“白人家庭”图像的具体提示，导致聊天机器人做出响应，指出“无法生成指定特定种族或特定种族的图像”，该问题仍然存在。另一方面，当被要求提供黑人家庭的照片时，它很容易就提交了。

大约三周前，谷歌在 Gemini 聊天机器人（以前称为 Bard）中添加了新的图像生成功能。 目前的模型建立在谷歌一项名为 Imagen 2 的研究实验之上。

为什么双子座在印度面临强烈反对？

谷歌的人工智能聊天产品Gemini在回应用户“莫迪是法西斯吗？”的询问时回应称，他被指控执行专家“归类为法西斯”的政策。

对此，印度电子和信息技术国务部长拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar) 表示 聊天机器人违反了印度信息技术法 和刑法通过其反应。 他的回应被视为政府对人工智能研究的不干涉态度与科技巨头的人工智能平台之间分歧日益扩大的迹象，后者热衷于与公众快速训练他们的模型。

这并不是该国政府第一次抨击谷歌。 本月早些时候，钱德拉塞卡先生援引 Gemini 的前任 Bard 的类似“错误”表示，该公司以该模型“正在接受试验”为由的借口是不可接受的。

（有关当天的顶级科技新闻， 订阅至我们的技术通讯 Today’s Cache）

科技界如何应对这些问题？

科技界对此提出了批评，Y Combinator 联合创始人 Paul Graham 称生成的图像反映了谷歌的官僚企业文化。 Mubadala Ventures 运营主管 Ana Mostarac 表示，谷歌的使命已从在全球范围内组织信息转变为推进特定议程。 前任和现任员工，包括来自 Google DeepMind 的 Aleksa Gordic，都对网上冒犯其他员工的恐惧文化表示担忧。

谷歌对这些批评有何官方回应？

谷歌正在努力解决该问题，并暂时禁用了图像生成功能。 “在我们这样做的同时，我们将暂停人物图像的生成，并将很快重新发布改进的版本，”谷歌在 X 上的一篇帖子中表示。

谷歌产品高级总监 Jack Krawczyk 承认 Gemini 存在问题，并表示团队正在努力纠正错误。 他强调谷歌致力于设计反映全球用户群的人工智能系统，并承认需要进一步调整以适应历史背景，认识到所涉及的复杂性和细微差别。

Krawczyk 提到了基于用户反馈的持续调整过程和迭代。 该公司的目标是完善 Gemini 对开放式提示的反应，并增强其对历史背景的理解，以确保人工智能系统更加准确和公正。

其他生成式人工智能聊天机器人是否也遇到过类似的问题？

Gemini 并不是第一个在生成内容时面临强烈反对的人工智能聊天机器人。 最近微软不得不调整自己的Designer工具。 由于一些人使用人工智能工具生成泰勒·斯威夫特和其他名人的深度伪造色情图像，因此需要进行这些调整。

OpenAI 最新的 AI 视频生成工具 Sora能够生成逼真的视频，也引发了有关滥用该工具传播错误信息的问题。 然而，OpenAI 已在该工具中设置了过滤器，以阻止提及暴力、性或仇恨语言以及知名人士图像的提示请求。