ChatGPT：反乌托邦作为营销：为什么 OpenAI 认为我们想爱上机器人 | 技术

本文是每周科技通讯的一部分，每周五发送。 如果您想注册接收完整的内容，其中包含类似的主题，但更加多样化和简短， 您可以通过此链接进行操作。

“哇，这件小衣服穿在你身上真好看。”新版 ChatGPT 在演示过程中出人意料地对 OpenAI 员工说道。 这名名叫 Barret Zoph 的员工在机器帮助他解决了一个问题后，刚刚在一张纸上写下了“我喜欢 ChatGPT”。 “你真可爱，”ChatGPT 回答道。

在上周一的 ChatGPT-4o 版本（o 代表“omni”）演示的不到半小时中，这段对话只持续了几秒钟。 它的新功能首先是消除延迟，这给人一种实时聊天的感觉，以及“观看”、理解和谈论你所看到的内容的能力。 它仍然是一种语言模型，就像我们在网络版 ChatGPT 中看到的那样。 但现在他说话了，嘲笑自己的笑话，用讽刺的声音，当然，似乎在调情。 在 YouTube 上的 OpenAI 剪辑中，他们剪掉了该片段。

我们对调情人工智能的重要参考是 她， 由斯嘉丽·约翰逊配音。 我又看了一遍这部电影，很难相信 OpenAI 声称希望人类拥有这样的未来。 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 发推文 “她” 演示期间。 该公司的其他研究人员也发了同样的推文：“你们都会坠入爱河”（幸运的是他没有添加“和她”），其中一位说，然后添加了一位用户的推文，该用户与一段视频中写道：“ChatGPT 的声音……很性感？”

还有另一名员工写道： “我又看到了 她 上周末我想看 感染 2020 年 2 月”。 作为 她从2013年开始， 感染 是一部关于流行病的 2011 年电影。

电影 她 因此，它对于 ChatGPT-4o 的创建者来说有一定的参考意义。 或者至少是他们内部争论过的一个话题。 很难不这样做。 正如专业记者布莱恩·麦钱特 (Brian Merchant) 在他的文章中回忆的那样 通讯, 反乌托邦科幻小说参考资料是硅谷的常见资源。 最可能的解释是营销。 打广告更容易 “她” 而不是“从未见过的对话语言模型”。

谷歌周二推出了 Project Astra，该项目与 ChatGPT-4o 相同，但声音和语气更加无菌。 放下手机后，这位谷歌员工戴着眼镜与她的模特聊天。 谷歌在营销方面更加谨慎，但其创始人谢尔盖·布林(Sergey Brin)在与记者的非正式谈话中表示，谷歌眼镜来得太早了。 在谷歌演示中，摄像机看着窗外并说：“我想说这是国王十字车站。” 他们距离终结者的愿景并不遥远。

在他那个时代，埃隆·马斯克（Elon Musk）吹嘘他的新车 Cyber​​truck，就像他们驾驶的那辆一样 银翼杀手。 或者也许最好的例子是Metaverse，由Meta使用，它来自 准备好一号玩家。 反乌托邦转化为参考。 值得强调的是 营销 他故意忘记了电影的细节：

1. 电影结局很糟糕。 由斯嘉丽·约翰逊配音的机器人萨曼莎最终因公司关闭而消失。 不久前，主角发现他并不是她唯一的男朋友：“我爱着641个人，”她告诉他。 他一次对超过 8,000 人发表讲话。 这是一门生意，就像数字世界中的几乎所有事物一样，我们只租用它。

为了进行真正的性爱，机器人派出一名女性来充当身体。 机器否认是卖淫，主角却相信了。 最终他错了，但他的信念的力量是无与伦比的。

2.这项技术的人性化存在现实问题。 这就是这项技术的大问题所在：一个看起来像人类的声音，会笑，会谈论它所看到的东西，会让我们相信很多事情。 四月底， 超过两打谷歌研究人员发表了一篇科学论文 标题为 高级人工智能助手的道德规范。 他们说：“实证研究结果表明，当数字虚拟助理使用真实的声音而不是合成的声音时，人们往往会在情感上更加信任，并对社交存在感有更好的印象。 此外，说话更像人类的助理会让人产生智力和能力的认知，让人们更有可能信任他们承担更多任务。”

对于 OpenAI 来说，最好让它的助手看起来像真人。 让我们更多地使用它。 但我们也要给他更多的爱，但我们没有那么多。

3、永远都是感性女人的声音。 OpenAI 演讲中出现的模因之一是“女朋友”价值的下降。 如果机器人能够充当有趣、善良、感性的女朋友，那为什么还要一个真正的女朋友呢？

故事的主人公也面临着同样的问题。 尽管他也让他的机器人萨曼莎失望了。

女声也很有趣。 主角的一个朋友也有一个虚拟男友，但她的声音始终没有发出来。 在这场辩论中，几乎没有谈论这些人类助手成为“男朋友”。

谷歌研究人员的文章谈到了刻板印象：“当数字虚拟助理的模拟声音模仿语气时 女性人们赋予性别刻板印象，尽管将性别概念应用于没有性别刻板印象的实体是没有意义的。”

4.这都是赚钱的伎俩。 从逻辑上讲，如果 OpenAI 没有参与主导人工智能代理领域以及很快的搜索引擎的竞赛，那么这一切都不会存在。 OpenAI 将评估认为放置更有利 她 并以其感性的语气来吸引注意力，并让谷歌以负责任的公司的形象出现。

2023 年 10 月另一篇关于人性的文章 这些系统中的一些人强烈建议不要这样做：“我们建议未来开发对话系统的工作在设计、开发、发布和描述时要特别小心； 并注意许多可以促使用户将其人性化的语言线索。”

萨姆·奥尔特曼发布 一个赞扬 ChatGpt-4o 的小帖子。 这正是它的突出之处，它的现实主义。 “新的语音模式是我用过的最好的界面。 它看起来就像电影中的人工智能。” 当然，看起来确实如此，但其后果却难以预见。

5.电影的大错误。 由于缺乏想象力，这部电影包含了其中一个奇妙的错误。 主角在一家手写信件的公司工作。 他的网站是 美丽的手写字母，今天有空。 这种能力正是ChatGPT在成为她女朋友之前就已经具备的能力。

确实，写信人的优点（除了抄写笔迹之外）是了解这对夫妇成员的详细信息。 但它仍然很容易修复。

6. 很难相信我们会单独交谈。 尽管 ChatGPT-4o 像人类一样说话，但我很难想象整个地铁车厢对着耳机窃窃私语，就像电影中出现的那样。 或者几十个人在街上自言自语。

也许这是一个世代相传的问题，10 岁的孩子最终会用他们的设备聊天（而今天的父母则沉迷于屏幕）。

奥特曼表示，这很快就会变得自然：“对我来说，与计算机交谈从来没有感觉很自然，但现在却很自然。” 但我们不知道奥特曼是否是真心的。 他的生意也取决于我们的情绪。

您可以关注 EL PAÍS 技术 在 Facebook 是 X 或在这里注册以接收我们的 时事通讯。

_