担心人工智能？ 加州立法者计划如何在 2024 年应对该技术的风险

乔迪·朗（Jodi Long）对装满相机的笼子感到措手不及，这些相机旨在捕捉她的脸部和身体图像。

“我有点害怕，因为在我走进那里之前，我说我不记得这在我的合同中，”这位演员说。

朗被告知，电影制片人需要她的数字扫描，因为他们想确保她的手臂在她抱着计算机生成的角色的场景中正确定位。

2020 年的那一刻让 SAG-AFTRA 洛杉矶当地总裁 Long 难以忘怀，当时她正在就人工智能使用的保护进行谈判，当时演员们罢工了。 11 月，演员工会与好莱坞电影公司达成一项协议，其中包括要求使用工人的数字复制品获得同意并给予补偿。

工会并不是唯一试图限制人工智能潜在威胁的组织。 随着加州州长加文·纽瑟姆 (Gavin Newsom) 于 9 月签署一项关于人工智能的行政命令，加州立法者提出了一系列立法，为 2024 年加强监管奠定了基础。其中一些提案侧重于保护工人、打击可能导致性别平等的人工智能系统和种族偏见，并制定新的要求，以防止人工智能被滥用于网络犯罪、武器开发和宣传。

不过，加州立法者能否成功通过人工智能立法仍不清楚。 他们将面临微软、谷歌和 Facebook 等价值数十亿美元的科技公司的游说，这些政治巨头成​​功阻止了今年推出的几项人工智能法案。

人工智能已经存在了几十年。 但随着技术的迅速进步，机器执行与人类智能相关的任务的能力引发了人们的疑问：人工智能是否会取代工作、助长错误信息的传播，甚至导致人类灭绝。

当立法者试图监管人工智能时，他们也试图了解该技术是如何工作的，这样他们就不会阻碍其潜在的好处，同时试图减轻危险。

教授丹尼尔·何（Daniel Ho）表示：“核心挑战之一是这项技术具有双重用途，这意味着同一种技术可以带来医疗保健的巨大改善，但也可能会造成相当严重的伤害。”斯坦福大学法学院的教授，为白宫人工智能政策提供建议。

政客们感到了一种紧迫感，他们指出，他们在试图控制社交媒体和其他科技产品加剧的一些心理健康和儿童安全问题时已经面临阻力。 虽然一些科技高管表示他们并不反对监管，但他们也表示批评者夸大了风险，并担心他们将不得不应对世界各地各不相同的规则。

TechNet——一个包括苹果、谷歌和亚马逊等多家公司的贸易集团——概述了其 网站 在人工智能监管方面，成员会支持什么，不会支持什么。 例如，TechNet 表示，政策制定者应避免“全面禁止人工智能、机器学习或其他形式的自动化决策”，并且不应强迫人工智能开发人员公开共享专有信息。

州议员阿什·卡尔拉（D-San Jose）表示，政策制定者不相信科技公司能够自我监管。

“作为一名立法者，我的目的是保护公众和工人，并防止不受监管的人工智能可能带来的风险，”卡尔拉说。 “业内人士有不同的优先事项。”

据 4 月份的一份报告称，人工智能可能会影响 3 亿个全职工作岗位 报告 由高盛。

九月，Kalra 推出 立法 这将为演员、配音艺术家和其他工作人员提供一种取消模糊合同的方法，这些合同允许工作室和其他公司使用人工智能以数字方式克隆他们的声音、面孔和身体。 卡尔拉表示，他目前没有计划搁置该法案，该法案得到了 SAG-AFTRA 的支持。

联邦立法者 还出台了旨在保护工人的声音和肖像的立法。 拜登总统签署了 行政命令 十月份关于人工智能的文章，指出该技术如何提高生产力，但也会取代工人。

拜登总统和州长加文·纽瑟姆 (Gavin Newsom) 六月份就人工智能进行了讨论。 拜登和纽瑟姆都发布并签署了有关人工智能的行政命令。

（苏珊·沃尔什/美联社）

SAG-AFTRA 国家执行董事兼首席谈判代表 Duncan Crabtree-Ireland 表示，他认为州和联邦立法者立即监管人工智能非常重要。

“它必须来自多种来源， [be] 以一种创造出我们都希望看到的最终画面的方式组合在一起，”他说。

美国以外的政策制定者已经在向前迈进。 12 月， 欧洲议会 欧盟成员国就《人工智能法案》达成了一项具有里程碑意义的协议，称该提案为“世界上第一部全面的人工智能法”。 该立法根据人工智能系统的风险程度制定了一套不同的规则，并且还要求生成文本、图像和其他内容（例如 OpenAI 的 ChatGPT）的人工智能工具公布用于训练系统的受版权保护的数据。

随着联邦和州立法者对立法进行微调，工人们正在了解人工智能如何影响他们的工作，并测试现行法律是否提供了足够的保护。

科技公司——包括微软支持的 OpenAI、Stability AI、Facebook 母公司 Meta 和 Anthropic——正面临诉讼，指控它们使用艺术家和作家的受版权保护的作品来训练他们的人工智能系统。 周三，《纽约时报》对微软和 OpenAI 提起诉讼，指控科技公司使用受版权保护的作品来创建与新闻媒体竞争的人工智能产品。

蒂姆·弗里德兰德 (Tim Friedlander)，国家协会主席兼联合创始人。 配音演员协会表示，由于一些公司决定使用人工智能生成的声音，他的成员正在失去工作。 演员们还声称，他们的声音在未经他们同意或补偿的情况下被克隆，这也是音乐家面临的问题。

“现在困难的事情之一是没有办法证明某物是人类或合成的，或者能够证明声音来自哪里，”他说。

工人保护只是加州立法者将在 2024 年试图解决的人工智能问题之一。

旧金山民主党参议员斯科特·维纳 (Scott Wiener) 于 9 月提出了《人工智能安全法案》，他表示，该法案旨在解决人工智能带来的一些最大风险，包括该技术在化学武器和核武器、选举干扰和其他方面的潜在滥用。网络攻击。 维纳表示，尽管立法者不想“压制创新”，但他们也希望积极主动。

他说：“如果你不抢先一步，那么可能就太晚了，我们已经看到，在社交媒体和其他领域，我们应该在问题出现之前至少建立起广泛的中风监管系统。” 。

立法者还担心人工智能系统可能会犯错误，导致基于种族和性别等受保护特征的人们受到不平等待遇。 众议员 Rebecca Bauer-Kahan（奥林达民主党）正在发起一项法案，该法案将禁止个人或实体部署涉及做出导致“算法歧视”的“重大决策”的人工智能系统或服务。

由于使用哪些数据来训练计算机系统，算法可能会放大性别和种族偏见，这一直是科技行业持续存在的问题。 例如，亚马逊废弃了人工智能招聘工具，因为在计算机模型接受了大部分来自男性的简历训练后，该工具表现出对女性的偏见， 路透社 2018 年报道。

事实证明，通过人工智能立法已经很困难了。 鲍尔-卡汉的法案甚至从未进入议会进行投票。 立法分析， AB 331，表示各个行业和企业都担心它的范围过于广泛，会导致“这个领域的过度监管”。

尽管如此，鲍尔-卡汉表示，尽管她在上一次会议上遇到了反对，但她确实计划在 2024 年重新提出该法案。

“我并不是想让这些工具消失，但我想确保当它们进入市场时我们知道它们是非歧视性的，”她说。 “这种平衡要求并不过分。”

鉴于有争议的法案在选举年可能很难通过，试图弄清楚在人工智能潜在风险方面应优先考虑哪些问题是政治家在 2024 年将面临的另一个挑战。

斯坦福大学教授何说：“如果不能就损害的优先顺序以及哪些损害最紧迫达成至少某种共识，那么就很难找出最有效的干预形式。”法学院教授。

朗说，尽管人们对人工智能存在种种担忧，但她对未来仍然持乐观态度。

她曾主演过漫威的《上气与十环传奇》等卖座电影，并于 2021 年凭借 Netflix 节目《达什与莉莉》中女配角的出色表演成为首位获得日间艾美奖的亚裔美国人”。

“我的行业是很多人之间的协作过程，”她说。 “只要有人讲述我们的故事，我想我们就会没事。”