前员工表示，OpenAI 将华而不实的产品置于安全之上技术

Jan Leike 认为 OpenAI“正在代表全人类承担巨大的责任。” 雷克的意见很重要，因为到目前为止，他一直负责分析这一责任并消除其风险。 在 X 上的一个长帖子中，创建 ChatGPT 的公司的安全经理表示，该公司优先考虑创建新的、有吸引力的产品，而不是安全。 出于所有这些原因，他为自己的离开辩护。

Leike 和几天前离开公司的 Ilya Sutskever 一起担任超级对齐部门的联合总监。 他的下属威廉·桑德斯·利奥波德·阿申布伦纳完成了伤亡名单。 OpenAI 因此解散了其安全团队，该团队负责确保强大的人工智能系统尊重人类价值观和目标。

整个科技界都在关注这家旧金山公司，但出于其他原因。 本周，它推出了 ChatGPT-4o，这是其对话聊天机器人的免费和改进版本。 在演示过程中，许多人对与会者与活动主持人调情的能力以及公司首席执行官萨姆·奥尔特曼 (Sam Altman) 对电影的引用感到震惊 她，其中一个男人爱上了对话。 反乌托邦作为 营销。

在此背景下，发生了一系列人员伤亡事件。 伊利亚·苏茨克韦尔 (Ilya Sutskever) 的作品最受欢迎，因为他是该技术公司的创始人之一，直到最近还是该技术公司的核心成员。 Sutskever 在 X 宣布离职的帖子中写道，他相信 OpenAI 将在他目前的领导下“建立一个安全且有益的 AGI”。

Sutskever 代表了公司中最保守的一派，因此，去年 11 月，他是试图突然解雇 Altman 的人之一，他们指责 Altman 过于鲁莽。 奥特曼在一部至今仍在产生影响的商业剧中重新获得了自己的地位。 现在，随着一连串的辞职，这个想法正在增强：公司里会有一系列工程师主张在营销此类先进模型之前等待。 但他们正在放弃它。

OpenAI预计很快将推出ChatGPT Search，这是一款人工智能支持的搜索引擎，它将颠覆目前由谷歌控制的搜索引擎领域，以及期待已久的ChatGPT5，这是其明星工具的新版本。 该公司还开发了Dall-E图像生成器和Sora视频生成器等其他产品。

随着市场上的所有这些新发展以及关于人工智能风险的公开辩论，雷克的反思很清晰，并且不会让他的前公司处于一个好的境地。 “相当长一段时间以来，我与 OpenAI 管理层在公司核心优先事项上一直存在分歧，”他解释道。 “直到我们最终达到了临界点。” 该工程师认为，OpenAI应该在其下一代模型的安全性、社会影响、保密性和安全性等问题上投入更多的资源。 “这些问题很难解决，我担心我们没有走在正确的道路上，”他写道。

在同一个社交网络上，奥特曼回应了他的前雇员，对多年来提供的服务表示感谢，并声称对他的离开感到“非常难过”。 在他承诺在未来几天内扩展的信息中，他承认工程师的批评是合理的：“他是对的，我们还有很多事情要做，我们致力于这样做。”

您可以关注 EL PAÍS 技术 在 Facebook y X 或在这里注册以接收我们的 时事通讯。