加州立法者正努力引领人工智能
四年来，雅各布·希尔顿 (Jacob Hilton) 一直在湾区最具影响力的初创公司之一 OpenAI 工作。他的研究帮助测试和提高了 ChatGPT 等人工智能模型的真实性。他相信人工智能可以造福社会，但他也认识到，如果对这项技术不加以控制，将带来严重风险。 Hilton 是本月签署了一份 公开信呼吁 要求对举报人提供更多的保护，并指出广泛的保密协议存在问题。 “基本情况是，员工，最接近技术的人，也是因敢于直言而遭到报复损失最大的人，”33 岁的希尔顿说道，他现在是位于伯克利的非营利性协调研究中心的研究员。 然而，代表大型科技公司的团体认为，拟议的立法可能会扼杀创新和创造力，导致加州失去竞争优势，并极大地改变该州人工智能的发展方式。 一项由卡车司机工会共同发起的法案旨在强制对无人驾驶重型卡车进行人工监督。一项由服务雇员国际工会支持的法案试图禁止在提供公共福利服务（如 Medi-Cal）的呼叫中心使用人工智能系统进行自动化或取代工作。另一项由参议员斯科特·维纳 (Scott Wiener)（旧金山民主党人）起草的法案将要求开发大型人工智能模型的公司进行安全测试。 此前，政客们因没有对社交媒体公司进行足够严厉的打击而受到批评，随后又出台了一系列法案。 为时已晚拜登政府时期，联邦和州民主党人更加积极地追究 大型科技公司。 “我们已经看到，在其他技术上，我们直到出现大问题后才会采取行动，”维纳说。“社交媒体为社会做出了许多贡献……但我们知道社交媒体也存在重大弊端，而我们没有采取任何措施来减少或减轻这些危害。现在我们正在努力追赶。我宁愿不去追赶。” 随着人工智能工具的快速发展，这一举措应运而生。他们读到 睡前故事 对儿童进行分类 驾车通过订单 在快餐店，并帮助 音乐视频. 虽然一些技术爱好者对人工智能的潜在好处充满热情，但其他人则担心失业和安全问题。 “这让包括许多专家在内的几乎所有人都感到惊讶，因为 [the tech is] “人工智能正在不断进步，”旧金山非营利组织人工智能安全中心主任 Dan Hendrycks 表示。“如果我们只是拖延，几年内什么也不做，那么我们可能就等不到最后了。” 维纳提出的法案 SB1047 得到了人工智能安全中心的支持，该法案要求构建大型人工智能模型的公司进行安全测试，并有能力关闭他们直接控制的模型。 该法案的支持者表示，该法案将防止人工智能被用于制造生物武器或关闭电网等情况。该法案还将要求人工智能公司实施员工匿名提出担忧的方式。州检察长可以提起诉讼以执行安全规则。 维纳说：“非常强大的技术既带来好处，也带来风险，我希望确保人工智能带来的好处远远超过风险。” 该法案的反对者包括 TechNet，这是一个行业组织，其成员包括 Meta、谷歌和 OpenAI 等科技公司。他们表示，政策制定者应该谨慎行事。Meta 和 OpenAI 尚未回应置评请求。谷歌拒绝置评。 TechNet 加州和西南地区执行董事迪伦霍夫曼 (Dylan Hoffman) […]