前董事会成员表示 OpenAI 应由国家监管

两名前 OpenAI 董事会成员表示，不能相信人工智能公司能够自我监管。 相反，第三方的监管对于追究他们的责任是必要的。

Helen Toner 和 Tasha McCauley 是 OpenAI 的董事会成员。 但随后他们于 11 月辞职，原因是在混乱的推动下罢免首席执行官萨姆·奥尔特曼 (Sam Altman) 的浪潮中。 奥特曼在被解雇几天后很快就恢复了首席执行官的职位。 五个月后他重返董事会。

也读一下

我的大脑里有埃隆·马斯克 (Elon Musk) 的 Neuralink 芯片 – 现在我用它来学习日语并浏览 Instagram

在周日发表的一篇评论文章中，“经济学家托纳和麦考利写道，他们坚持解雇奥特曼的决定。 在这种背景下，他们引用了高管的声明，称联合创始人创造了一种“有毒的说谎文化”。 他的行为也可以被形容为“心理虐待”。

自 Altman 三月份重返董事会以来，OpenAI 因其对安全的承诺而面临批评。 该公司还因在 Chat GPT-4o 上使用人工智能语音而受到批评，该语音听起来与女演员斯嘉丽·约翰逊极其相似。 Toner 和 McCauley 写道，在 Altman 的掌舵下，我们不能再相信 OpenAI 能够控制自己。

也读一下

我是一名软件开发人员，研究过AI——如果你有这3个特征，我建议你不要学习

他们写道：“我们还认为，自他重返公司以来的事态发展——包括董事会的重新加入和专注于安全的人才的离开——对于 OpenAI 的自治实验来说并不是好兆头。”

托纳和麦考利认为，政府现在需要介入并创建“有效的监管框架”。 这是 OpenAI 履行其既定使命、造福“全人类”的唯一途径。

政策制定者必须“独立”于 OpenAI 等人工智能公司行事

然而，托纳和麦考利也相对地对待了他们对国家监管的呼吁。 他们承认，设计不当的法律可能会给小公司带来负担，从而阻碍“竞争和创新”。

他们解释说：“在制定新法规时，政策制定者必须独立于领先的人工智能公司行事，这一点至关重要。” “他们必须警惕漏洞、使早期进入者免受竞争的监管‘护城河’以及被监管捕获的可能性。”

也读一下

德国 OpenAI 经理指责 Sam Altman 将“令人眼花缭乱的产品”置于安全之上，并辞职

4月，美国国土安全部宣布成立人工智能安全委员会。 它旨在为美国关键基础设施中的“人工智能的安全开发和使用”提供建议。 除奥特曼外，该委员会的22名成员还包括其他大型科技公司的负责人。 其中包括 Nvidia 首席执行官黄仁勋 (Jensen Huang) 和 Alphabet 首席执行官桑达尔·皮查伊 (Sundar Pichai)。

尽管安全委员会包括来自非营利性科技公司的代表，但来自营利性公司的高管人数过多。 人工智能伦理学家“Ars Technica发言者担心，营利性公司的巨大影响力可能会导致有利于工业而不是安全的政策。

也读一下

斯嘉丽·约翰逊 vs 山姆·阿尔特曼：OpenAI 必须在聊天机器人中将类似明星的声音下线

“如果我们都同意在使用人工智能时确保人们的安全对我们来说很重要，那么我认为我们可以同意让关心这一问题的人参与进来也很重要，“专注于将人置于技术之上， ” 玛格丽特·米切尔告诉 Ars Technica。 她是 Hugging Face 的人工智能伦理专家。

美国国土安全部没有回应置评请求。

Business Insider 的母公司 Axel Springer 已达成一项全球协议，允许 OpenAI 根据其媒体品牌的报道来训练其模型。