麻省理工学院传奇机器人专家 丹尼尔·罗斯 出版了一本新书，名叫 心脏与芯片：机器人的美好未来。 “一场机器人革命正在进行中，”罗斯在书的引言中说道，“这场革命已经给我们的社会和我们的生活带来了巨大的变化。” 当然，她说得很对，尽管我们中的一些人几十年来一直觉得这是真的，但现在可以说比以往任何时候都更真实。 但机器人既困难又复杂，它们的进步与制造它们并与它们一起工作的人类交织在一起，这意味着这些变化不会很快或轻易发生。 Rus 的经历让她对机器人技术的过去和未来有了深刻而细致的看法，我们可以在这里与您分享一些内容。
Daniela Rus：机器人专家是否应该考虑遵守他们自己的希波克拉底誓言？
以下摘录自第 14 章，标题为“什么可能会出错？” 老实说，每当您考虑将机器人发送到现实世界时，这都是应该提出的正确问题（然后尝试给出最终答案）。
在本书中，我多次提到了虚构人物托尼·斯塔克，他利用技术将自己变成了超级英雄钢铁侠。 对我来说，这个角色是一个巨大的灵感，但我经常提醒自己，在故事中，他的职业生涯始于麻省理工学院训练的武器制造商和弹药开发商。 在2008年的电影中 钢铁侠，他改变了自己的方式，因为他得知他公司的专用武器正在被恐怖分子使用。
请记住，机器人是工具。 从本质上来说，它们没有好坏之分； 重要的是我们选择如何使用它们。 2022 年，毁灭性战争的双方都使用无人机作为武器。 任何人都可以购买无人机，但不同国家之间和国家内部使用无人机的规定各不相同。 在美国，联邦航空管理局要求所有无人机均需注册，但少数例外，包括重量低于 250 克的玩具模型。 这些规则还取决于无人机是为了娱乐还是为了商务而飞行。 无论法规如何，任何人都可以使用飞行机器人造成伤害，就像任何人都可以挥动锤子来伤害某人而不是将钉子钉入木板上一样。 然而，无人机还被用来向难以到达的地区运送重要的医疗用品、跟踪森林的健康状况，并帮助像罗杰·佩恩这样的科学家监测和倡导濒危物种。 早在 2012 年，我的团队就与现代舞蹈团 Pilobolus 合作，上演了第一场人类与无人机混合表演的戏剧表演，表演对象是一个名为 Seraph 的机器人。 所以，无人机也可以成为舞者。 在金·斯坦利·罗宾逊的有先见之明的科幻小说中 未来部，部署了一群无人机来撞毁一架客机。 我可以想象一群这些机械鸟也会被用在很多好的方面。 在对乌克兰的战争开始时，俄罗斯限制其公民获得公正的新闻和信息，以期控制和塑造围绕冲突的叙述。 入侵的真实故事被扼杀了，我想知道我们是否可以派遣一群飞行视频屏幕，这些屏幕能够在俄罗斯各地受欢迎的城市广场中央排列成一个巨大的空中监视器，显示战争的真实镜头，而不是只是政府批准的剪辑。 或者，甚至更简单：成群结队的飞行数字投影仪可以将视频播放到建筑物和墙壁的侧面，供所有人观看。 如果我们部署得足够多，它们就会太多而无法关闭。
托尼·斯塔克在我的大学或世界各地同事的实验室中的经历可能会有所不同，我们需要尽一切努力确保这些才华横溢的年轻人努力对人类产生积极影响。
托尼·斯塔克这个角色是由他的经历塑造的，并致力于对世界产生积极的影响，但我们不能等待我们所有的技术人员忍受痛苦的、改变生活的经历。 我们也不能指望一旦这些智能机器被开发出来并投入流通，每个人都会永远使用它们。 但这并不意味着我们应该停止研究这些技术——潜在的好处太大了。 我们能做的就是更加认真地思考后果，并设置护栏以确保积极的效益。 我和我的同时代人不一定能控制这些工具在世界上的使用方式，但我们可以做更多的事情来影响制造它们的人。
托尼·斯塔克在我的大学或世界各地同事的实验室中的经历可能会有所不同，我们需要尽一切努力确保这些才华横溢的年轻人努力对人类产生积极影响。 我们的大学实验室和研究中心绝对必须具有多样性，但我们也许可以做更多的事情来塑造与我们一起学习的年轻人。 例如，我们可能需要研究曼哈顿计划以及与制造和使用原子弹的巨大努力相关的道德和伦理困境。 目前，道德课程并不是机器人或人工智能高级学位的普遍要求，但也许应该如此。 或者为什么不要求毕业生宣誓遵守希波克拉底誓言的机器人和人工智能调整版本？
这个誓言来自早期的希腊医学文本，它可能是哲学家希波克拉底写的，也可能不是，它已经发展了几个世纪。 从根本上讲，它代表了医生应遵守的医学道德标准。 其中最著名的是承诺不造成伤害或避免伤害 故意的 不当行为。 我还赞扬宣誓对医生社区的承诺以及维持师生之间神圣纽带的必要性。 作为一个机器人社区，我们保持的联系越紧密，当我们的学生走向世界时，我们就越能培养和维持我们的关系，我们就能做更多的事情来引导技术走向积极的未来。 如今，希波克拉底誓言并不是医生认证的普遍要求，我也不认为它对机器人专家有这样的作用。 我也不是第一个提出这种可能性的机器人专家或人工智能领导者。 但我们应该认真考虑将其作为标准做法。
在原子弹研制出来之后，当科学家造成伤害的潜力突然变得非常明显时，就出现了一些关于科学研究人员希波克拉底誓言的讨论。 这个想法时不时地重新出现，但很少得到关注。 但科学从根本上来说是关于对知识的追求； 从这个意义上说，它是纯粹的。 在机器人和人工智能领域，我们正在构建 事物 这将对世界及其人民和其他生活方式产生影响。 从这个意义上说，我们的领域在某种程度上更接近医学，因为医生正在利用他们的培训直接影响个人的生活。 要求技术专家正式背诵希波克拉底誓言的一个版本可能是继续推动我们的领域朝着正确方向发展的一种方式，并且也许可以作为对后来被要求专门出于邪恶目的开发机器人或人工智能的个人的一种检查。
当然，就机器人的使用方式而言，好坏取决于你坐在哪里。 我坚决反对赋予武装或武器化机器人自主权。 我们不能也不应该相信机器智能可以决定是否对一个人或一群人造成伤害。 就我个人而言，我希望机器人永远不会被用来伤害任何人，但现在这是不现实的。 机器人被用作战争工具，我们有责任尽我们所能来塑造其道德使用。 因此，我不会将自己与现实分离或脱离，只在某个由快乐、乐于助人的机器人组成的乌托邦宇宙中运作。 事实上，我向国家安全官员教授人工智能课程，并就该技术的优点、缺点和功能向他们提供建议。 我认为这是一项爱国义务，我很荣幸能够帮助我们的领导人了解机器人和其他人工智能增强物理系统的局限性、优势和可能性——他们可以做什么和不能做什么，他们应该做什么和不应该做什么，以及我认为他们必须做的事情。
最终，无论我们如何教导和宣扬技术的局限性、人工智能的道德规范或开发如此强大工具的潜在危险，人们都会做出自己的选择，无论他们是刚毕业的学生还是高级国家安全领导人。 我希望并教导我们的是，我们应该选择行善。 尽管生命延长公司做出了努力，但我们在这个星球上的时间都是有限的，科学家卡尔·萨根称之为“淡蓝点”，我们应该尽一切努力充分利用这段时间并产生积极影响我们美丽的环境，以及与我们共享这个环境的许多人和其他物种。 几十年来，我一直致力于建造更智能、更有能力的机器人，这让我更加欣赏——不，是惊叹——那些在我们的星球上爬行、行走、游泳、奔跑、滑行和翱翔的奇妙生物，以及奇妙的植物。 ， 也。 我们不应该忙于开发可以消除这些宇宙罕见创造物的机器人。 相反，我们应该专注于开发技术来保护它们，甚至帮助它们蓬勃发展。 这适用于所有生物体，包括特别关注智能机器崛起的一个物种。
摘自“心脏与芯片：机器人的美好未来”。 版权所有 2024，丹妮拉·罗斯 (Daniela Rus)、格雷戈里·莫恩 (Gregory Mone)。 经出版商 WW Norton & Company 许可使用。 版权所有。
2024-03-15 19:30:02
1710676539
