随着人们对人工智能的担忧加剧，OpenAI 成立安全委员会

ChatGPT 的创建者 OpenAI 周二表示，随着人们对使用快速发展的人工智能技术的担忧日益加剧，它已成立了一个安全委员会来评估公司的流程和保障措施。

该委员会预计将用 90 天完成评估。该公司在一份声明中表示，此后，它将向公司全体董事会提出有关 OpenAI 项目和运营的关键安全决策的建议。 博客文章。

此前，联合创始人 Ilya Sutskever 和高管 Jan Leike 两位高层领导已从公司辞职。他们的离职引发了人们对公司优先事项的担忧，因为他们都专注于在人工智能崛起的背景下确保人类安全未来的重要性。

Sutskever 和 Leike 领导着 OpenAI 所谓的超级协同团队，该团队旨在创建系统来遏制该技术的长期风险。该团队的任务是“实现科学和技术突破，以引导和控制比我们聪明得多的人工智能系统”。在离职时，Leike 表示 OpenAI 的“安全文化和流程已经让位于闪亮的产品。”

OpenAI 的新安全委员会由董事会主席 Bret Taylor 领导， 董事 Adam D'Angelo 和 Nicole Seligman 以及首席执行官 Sam Altman。多位 OpenAI 技术和政策领导人也在该委员会中。OpenAI 表示，它将“聘请并咨询其他安全、安保和技术专家来支持这项工作。”

该委员会的成立正值该公司开始训练其所谓的人工智能“下一个前沿模型”之际。

OpenAI 在其博客文章中表示：“虽然我们很自豪能够构建和发布在功能和安全性方面均处于业界领先地位的模型，但我们欢迎在这个重要时刻进行激烈的辩论。”

有关人工智能使用的争议一直困扰着这家总部位于旧金山的公司，包括在娱乐业，该公司担心该技术对知识产权的影响以及潜在的工人流失。

演员斯嘉丽·约翰逊 (Scarlett Johansson) 上周批评了该公司对 ChatGPT 语音功能的处理，她和其他人表示 听起来和她很像约翰逊曾在奥斯卡获奖导演斯派克·琼斯执导的电影《她》中为一个人工智能程序配音。她说，奥尔特曼曾联系她，要求她提供自己的声音，但她拒绝了，后来她在一个 OpenAI 演示。

OpenAI 以 ChatGPT 和 Sora 而闻名， 文本转视频工具 这对于电影制作人和电影制片厂来说具有重大的潜在影响。

OpenAI 和其他科技公司一直在 与好莱坞的讨论娱乐业正在努力应对 人工智能对就业和创造力的长期影响。

一些影视导演表示，人工智能让他们思考得更大胆， 测试想法 不受视觉效果和差旅预算的限制。其他人担心，通过人工智能工具提高效率可能会 削减工作岗位 化妆、制作和动画等领域。

由于面临安全问题，OpenAI 的业务 由微软支持，还必须应对来自其他正在构建自己的人工智能工具和资金的公司的竞争。

总部位于旧金山的 Anthropic 收到数十亿 亚马逊和谷歌的资金。周日，埃隆·马斯克领导的 xAI 宣布 该公司已完成一轮 60 亿美元的融资，用于研发、基础设施建设和将首批产品推向市场。