随着人们对人工智能的担忧加剧，OpenAI 成立安全委员会
ChatGPT 的创建者 OpenAI 周二表示，随着人们对使用快速发展的人工智能技术的担忧日益加剧，它已成立了一个安全委员会来评估公司的流程和保障措施。 该委员会预计将用 90 天完成评估。该公司在一份声明中表示，此后，它将向公司全体董事会提出有关 OpenAI 项目和运营的关键安全决策的建议。 博客文章。 此前，联合创始人 Ilya Sutskever 和高管 Jan Leike 两位高层领导已从公司辞职。他们的离职引发了人们对公司优先事项的担忧，因为他们都专注于在人工智能崛起的背景下确保人类安全未来的重要性。 Sutskever 和 Leike 领导着 OpenAI 所谓的超级协同团队，该团队旨在创建系统来遏制该技术的长期风险。该团队的任务是“实现科学和技术突破，以引导和控制比我们聪明得多的人工智能系统”。在离职时，Leike 表示 OpenAI 的“安全文化和流程已经让位于闪亮的产品。” OpenAI 的新安全委员会由董事会主席 Bret Taylor 领导， 董事 Adam D'Angelo 和 Nicole Seligman 以及首席执行官 Sam Altman。多位 OpenAI 技术和政策领导人也在该委员会中。OpenAI 表示，它将“聘请并咨询其他安全、安保和技术专家来支持这项工作。” 该委员会的成立正值该公司开始训练其所谓的人工智能“下一个前沿模型”之际。 OpenAI 在其博客文章中表示：“虽然我们很自豪能够构建和发布在功能和安全性方面均处于业界领先地位的模型，但我们欢迎在这个重要时刻进行激烈的辩论。” 有关人工智能使用的争议一直困扰着这家总部位于旧金山的公司，包括在娱乐业，该公司担心该技术对知识产权的影响以及潜在的工人流失。 演员斯嘉丽·约翰逊 (Scarlett Johansson) 上周批评了该公司对 ChatGPT 语音功能的处理，她和其他人表示 听起来和她很像约翰逊曾在奥斯卡获奖导演斯派克·琼斯执导的电影《她》中为一个人工智能程序配音。她说，奥尔特曼曾联系她，要求她提供自己的声音，但她拒绝了，后来她在一个 OpenAI […]