斯嘉丽·约翰逊的人工智能之争让人想起硅谷过去的糟糕岁月
“快速行动，打破陈规”这句座右铭在年轻的马克·扎克伯格 (Mark Zuckerberg) 提出大约 20 年后，仍然困扰着科技行业。 这五个词象征着硅谷最糟糕的一面——无情的野心和令人震惊的傲慢的结合——以利润为导向的创新，不惧怕后果。 这周，我想起了这句话 演员斯嘉丽约翰逊与 OpenAI 发生冲突。 约翰逊女士声称，她和她的经纪人都拒绝让她担任新产品 ChatGPT 的代言人——但当新产品发布时，听起来却和她一模一样。OpenAI 否认这是故意模仿。 这正是创意产业所担心的典型例子——被人工智能模仿并最终取代。 上周，全球最大的音乐出版商索尼音乐 写道 谷歌、微软和 OpenAI 要求了解其艺术家的歌曲是否被用来开发人工智能系统，并表示他们没有获得这样做的许可。 这一切都与昔日那些充满男子气概的硅谷巨头相呼应。 将寻求宽恕而不是许可作为非正式的商业计划。 但 2024 年的科技公司极力摆脱这种声誉。 OpenAI 并不是按照这个模式塑造的。 它最初是作为一个非营利组织而创建的，它将把任何额外的利润投资回业务中。 2019年，当它组建盈利部门时，他们表示盈利部门将由非营利部门主导，并对投资者可以获得的回报设定上限。 并不是所有人都对这一转变感到高兴——据说这是原联合创始人埃隆·马斯克决定离开的一个关键原因。 去年年底，当 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 突然被自己的董事会解雇时，其中一个理论是他想远离最初的使命。 我们从未确定过。 但即便OpenAI已经变得更加以盈利为目的，它仍然必须正视自己的责任。 在政策制定领域，几乎所有人都同意，需要明确的界限，才能让 OpenAI 这样的公司在灾难发生之前保持一致。 到目前为止，人工智能巨头基本上都在纸上谈兵。 六个月前，在全球首届人工智能安全峰会上，一群科技巨头签署了一项自愿承诺，致力于打造负责任、安全的产品，最大限度地发挥人工智能技术的优势，并将其风险降至最低。 这些风险最初是由活动组织者确定的，它们简直就是噩梦。当时我问起人工智能工具对人类造成的更现实的威胁，比如歧视人类或取代人类的工作，他们非常肯定地告诉我，这次聚会只讨论绝对最坏的情况——这是终结者、世界末日、人工智能失控并摧毁人类的领域。 六个月后，当峰会重新召开时，“安全”一词已从会议标题中被彻底删除。 上周，由 30 名独立专家组成的英国政府报告草案得出的结论是， “还没有证据” 人工智能可以产生生物武器或进行复杂的网络攻击。 报告称，人类失去对人工智能控制的可能性“极具争议”。 业内一些人一直在说，人工智能工具最直接的威胁是它们将取代工作或无法识别肤色。人工智能伦理专家 Rumman Chowdhury […]
斯嘉丽约翰逊的人工智能之争让人想起硅谷过去的糟糕时光
斯嘉丽约翰逊的人工智能之争让人想起硅谷过去的糟糕时光 文章信息 作者 Zoe Kleinman 角色，技术编辑 推特，@zsk 1小时前 “快速行动，打破陈规”这句座右铭在年轻的马克·扎克伯格 (Mark Zuckerberg) 提出大约 20 年后，仍然困扰着科技行业。 这五个词象征着硅谷最糟糕的一面——无情的野心和相当惊人的傲慢的结合——以利润为导向的创新而不担心后果。 本周，当演员斯嘉丽约翰逊与 OpenAI 发生冲突时，我想起了这句话。 Johansson 女士声称，她和她的经纪人都拒绝让她担任 ChatGPT 新产品的代言人，但当该产品推出时，它听起来就像她一样。 OpenAI 否认这是故意模仿。 这正是创意产业所担心的典型例子——被人工智能模仿并最终取代。 上周，全球最大的音乐出版商索尼音乐写信给谷歌、微软和 OpenAI，要求了解其艺术家的歌曲是否被用来开发人工智能系统，并表示他们没有获得这样做的许可。 这一切都与昔日那些充满男子气概的硅谷巨头相呼应。 将寻求宽恕而不是许可作为非正式的商业计划。 但 2024 年的科技公司非常希望摆脱这种声誉。 OpenAI 并不是按照这个模式塑造的。 它最初是作为一个非营利组织而创建的，它将把任何额外的利润投资回业务中。 2019年，当它组建盈利部门时，他们表示盈利部门将由非营利部门主导，并对投资者可以获得的回报设定上限。 但并非所有人都对这一转变感到高兴——据说这是最初的联合创始人埃隆·马斯克决定退出的一个关键原因。 去年年底，当 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 突然被自己的董事会解雇时，其中一个理论是他想远离最初的使命。 我们从未确定过。 但即便OpenAI已经变得更加以盈利为目的，它仍然必须正视自己的责任。 在政策制定领域，几乎所有人都同意，需要明确的界限，才能让 OpenAI 这样的公司在灾难发生之前保持一致。 到目前为止，人工智能巨头基本上都在纸上谈兵。 六个月前，在全球首届人工智能安全峰会上，一群科技巨头签署了一项自愿承诺，致力于打造负责任、安全的产品，最大限度地发挥人工智能技术的优势，并将其风险降至最低。 这些风险最初是由活动组织者确定的，它们简直就是噩梦。当时我问起人工智能工具对人类造成的更现实的威胁，比如歧视人类或取代人类的工作，他们非常肯定地告诉我，这次聚会只讨论绝对最坏的情况——这是终结者、世界末日、人工智能失控并摧毁人类的领域。 六个月后，当峰会重新召开时，“安全”一词已从会议标题中被彻底删除。 上周，由 30 名独立专家组成的英国政府报告草案得出结论， […]