四年来，雅各布·希尔顿 (Jacob Hilton) 一直在湾区最具影响力的初创公司之一 OpenAI 工作。他的研究帮助测试和提高了 ChatGPT 等人工智能模型的真实性。他相信人工智能可以造福社会，但他也认识到，如果对这项技术不加以控制，将带来严重风险。
Hilton 是本月签署了一份 公开信呼吁 要求对举报人提供更多的保护，并指出广泛的保密协议存在问题。
“基本情况是，员工，最接近技术的人，也是因敢于直言而遭到报复损失最大的人，”33 岁的希尔顿说道，他现在是位于伯克利的非营利性协调研究中心的研究员。
然而，代表大型科技公司的团体认为，拟议的立法可能会扼杀创新和创造力，导致加州失去竞争优势，并极大地改变该州人工智能的发展方式。
一项由卡车司机工会共同发起的法案旨在强制对无人驾驶重型卡车进行人工监督。一项由服务雇员国际工会支持的法案试图禁止在提供公共福利服务（如 Medi-Cal）的呼叫中心使用人工智能系统进行自动化或取代工作。另一项由参议员斯科特·维纳 (Scott Wiener)（旧金山民主党人）起草的法案将要求开发大型人工智能模型的公司进行安全测试。
此前，政客们因没有对社交媒体公司进行足够严厉的打击而受到批评，随后又出台了一系列法案。 为时已晚拜登政府时期，联邦和州民主党人更加积极地追究 大型科技公司。
“我们已经看到，在其他技术上，我们直到出现大问题后才会采取行动，”维纳说。“社交媒体为社会做出了许多贡献……但我们知道社交媒体也存在重大弊端，而我们没有采取任何措施来减少或减轻这些危害。现在我们正在努力追赶。我宁愿不去追赶。”
随着人工智能工具的快速发展，这一举措应运而生。他们读到 睡前故事 对儿童进行分类 驾车通过订单 在快餐店，并帮助 音乐视频. 虽然一些技术爱好者对人工智能的潜在好处充满热情，但其他人则担心失业和安全问题。
“这让包括许多专家在内的几乎所有人都感到惊讶，因为 [the tech is] “人工智能正在不断进步，”旧金山非营利组织人工智能安全中心主任 Dan Hendrycks 表示。“如果我们只是拖延，几年内什么也不做，那么我们可能就等不到最后了。”
维纳提出的法案 SB1047 得到了人工智能安全中心的支持，该法案要求构建大型人工智能模型的公司进行安全测试，并有能力关闭他们直接控制的模型。
该法案的支持者表示，该法案将防止人工智能被用于制造生物武器或关闭电网等情况。该法案还将要求人工智能公司实施员工匿名提出担忧的方式。州检察长可以提起诉讼以执行安全规则。
维纳说：“非常强大的技术既带来好处，也带来风险，我希望确保人工智能带来的好处远远超过风险。”
该法案的反对者包括 TechNet，这是一个行业组织，其成员包括 Meta、谷歌和 OpenAI 等科技公司。他们表示，政策制定者应该谨慎行事。Meta 和 OpenAI 尚未回应置评请求。谷歌拒绝置评。
TechNet 加州和西南地区执行董事迪伦霍夫曼 (Dylan Hoffman) 表示：“行动过快会产生一定后果，可能会抑制和削弱这项技术带来的一些好处。”
该法案于周二通过了议会隐私和消费者保护委员会，接下来将提交议会司法委员会和议会拨款委员会审议，如果获得通过，将提交议会审议。
维纳法案的支持者表示，他们正在回应公众的愿望。在人工智能安全行动基金中心委托进行的一项针对加州 800 名潜在选民的民意调查中，86% 的参与者表示，制定人工智能安全法规是该州的重要优先事项。根据民意调查，77% 的参与者支持对人工智能系统进行安全测试的提议。
“目前的现状是，在安全保障方面，我们依赖这些公司自愿做出的公开承诺，”前 OpenAI 员工希尔顿说。“但问题的一部分在于没有良好的问责机制。”
另一项对工作场所具有深远影响的法案是 AB 2930，该法案旨在防止“算法歧视”，即自动化系统在招聘、薪酬和解雇方面基于种族、性别或性取向使某些人处于不利地位。
众议员丽贝卡·鲍尔-卡汉 (Rebecca Bauer-Kahan，民主党，奥林达) 表示：“我们在人工智能领域看到过一个又一个输出存在偏见的例子。”
去年的立法会议上，反歧视法案因科技公司的强烈反对而未能通过。今年重新提出的这项措施最初得到了知名科技公司 Workday 和微软的支持，尽管它们对这项措施的支持有所动摇，并对修正案表示担忧，因为修正案将要求开发人工智能产品的公司承担更多责任，以遏制歧视。
“通常情况下，不会有行业说‘监管我’，但各个社区都不信任人工智能，而这项努力试图建立对这些人工智能系统的信任，我认为这对行业来说确实有益，”鲍尔-卡汉说。
一些劳工和数据隐私倡导者担心，拟议的反歧视法案措辞过于薄弱。反对者则认为，该法案范围太广。
Workday 公共政策主管钱德勒·莫尔斯 (Chandler Morse) 表示，公司支持 AB 2930 的出台。莫尔斯说：“我们目前正在评估我们对新修正案的立场。”
微软拒绝发表评论。
人工智能的威胁也是好莱坞工会的战斗口号。美国编剧工会和美国电视和广播艺术家联合会在去年的罢工期间就为其成员协商了人工智能保护措施，但演员工会全国执行董事邓肯·克拉布特里-爱尔兰表示，这项技术的风险超出了工会合同的范围。
克拉布特里-爱尔兰说：“我们需要公共政策来跟上并开始实施这些规范，以便人工智能的发展不会出现像狂野西部那样的环境。”
科技公司呼吁谨慎对待过度监管。科技行业组织进步商会 (Chamber of Progress) 的托德·奥博伊尔 (Todd O'Boyle) 表示，如果政府监管过于严厉，加州的人工智能公司可能会选择迁往其他地方。他说，对于立法者来说，“在我们拥有这种变革性的技术创新时，不要让对投机危害的担忧左右政策制定，这种创新在早期就有望创造如此多的繁荣”，这一点很重要。
雷德伍德城云计算公司 Box 的首席执行官亚伦·莱维 (Aaron Levie) 警告称，一旦法规到位，就很难撤销，该公司正在将人工智能融入其产品中。
“我们实际上需要拥有更强大的模型，可以做更多的事情，性能更强，”莱维说，“然后让我们从那里开始逐步评估风险。”
但克拉布特里-爱尔兰表示，科技公司试图通过使问题看起来比实际情况更复杂并声称需要通过一项全面的公共政策提案来解决这些问题来减缓监管的进程。
“我们完全反对这种观点，”克拉布特里-艾尔兰说。“我们认为，没有必要一下子解决所有与人工智能相关的问题。”
2024-06-19 10:00:51
1719175481
