Carissa Véliz：“同理心、关注、真诚的沟通和人际交往让我们变得不可替代” | 人工智能
在几天的漫长而断断续续的数字对话中，卡丽莎·维利兹辩称，神经网络和算法毕竟是人类的创造物，并不是敌人。任何技术发展都存在风险，但如果朝着正确的方向发展，它也会成为一种文明力量。现代数据经济的利润动机和不道德行为破坏了隐私，而隐私是其大部分反思的重点。事实上，这是一个哲学很少探索的领域，此外，它还是大多数动物物种共有的本能，也是社会并不总是保留的一项普遍权利。 出生在墨西哥，西班牙人，自 2020 年起为英国人，Véliz 在萨拉曼卡读本科时开始对这项权利感兴趣，当时她在大学档案馆收集了大量她不知道的有关她家人的数据，从她的祖父母开始。也许那些亲戚，就像我们任何人一样，更愿意将其中一些数据保留在私人轨道上，不属于公共领域。 Véliz 在他的文章中深入探讨了这些问题 隐私就是力量。数据、监视和自由 （辩论，2021 年）认为，我们在未来棋盘上的地位“每天、每小时都在发生变化，因为大大小小的事件不断发生，不断改变着我们对人工智能及其伦理和实际影响的理解。” 采访她是一次奇特的经历。她以身作则，提出了两个条件。第一，谈话节奏缓慢，深思熟虑，更注重哲学性而非新闻性。第二，通过 Signal 进行交谈，在她看来，Signal 是一款即时通讯应用程序，最能保护用户的隐私。 您是如何以及为何对人工智能产生兴趣的？ 我正在写关于隐私的博士论文，我想从词源学和人类学两个角度深入探讨隐私的基本原理、历史和起源，但我也对这个问题的现状感兴趣，即隐私在当今是如何表达的。在那里，我研究了一个与数据经济、人工智能和数字媒体使用敏感信息的伦理影响有关的大领域。在人工智能领域，当今占主导地位的系统是深度自学或 机器学习， 互联网是由大量数据支撑的，其中很大一部分数据是个人信息，直接危害许多人的隐私。 技术既不是上天注定，也不是自然力量。如果我们设计错了，就必须接受它，并改正它。 您的观点随着时间的推移有何变化？ 我逐渐学会了这一点。当我开始对隐私感兴趣时，人工智能的使用还没有那么突出，但神经网络是基于无差别的数据积累的，这已经引起了我的注意。因此，运用新闻调查的准则 跟着钱走 [sigue el rastro del dinero]，我决定追踪这些数据。当前的风险在 20 年前并不存在。首先，甚至我们对人工智能的定义也发生了变化。随着某些技术的应用越来越广泛，它们已经失去了我们在它们刚诞生时倾向于赋予它们的那种近乎神奇的特性。数字翻译就是一个例子，在它们出现的时代，它们是人工智能最引人注目的表现之一，但今天它们几乎不会引起我们的注意，因为我们已经习惯了它们。随着近年来人们和机构的普遍采用，系统性风险也随之出现。 是否有特定事件改变或至少改变了您对数字技术与隐私之间密切互动的看法？ 一个重要的转折点是剑桥分析公司丑闻，它表明了个人数据是多么敏感，以及它如何产生政治影响。在此之前，社会上许多人倾向于认为数字隐私泄露是一件微不足道或轶事的事情。ChatGPT 也产生了巨大的影响。当它问世时，我花了很多时间玩它，试图了解它是如何工作的。我很快得出结论，这个系统相互勾结，它有一种偏见导致它这样做。有趣的是问为什么会有这种偏见，为什么会相互勾结，以及应该在自然语言生成器中引入哪些变化，以使其不会这样做。 那么现在呢？您是否看到了一些未被注意到的新转折点？ 当然。算法每天都在变化，新的科技公司不断涌现，世界某个地方的法规也在发生变化，所有这些都改变了游戏规则。在我和你交谈的时候，我看到媒体 纽约时报 他们已经对 OpenAI 提起诉讼，指控其向他们的系统提供属于他们的信息。与此同时，我还看到 OpenAI 正在与一些媒体达成协议， 国家 其中之一。同时引起我注意的是，越来越多的政府表现出投资生成语言模型的意愿，这应该可以让我们清楚地了解它们已经变得多么重要。 他是西班牙政府组建的起草数字权利宪章的专家团队成员之一…… 这是一次非常积极的经历。民主监管的努力总是很复杂。制定法律总是一个漫长的过程，这是民主制度的逻辑之一。必须听取多种声音，必须达成协议，这意味着做出让步。民主并不完美，但它是我们所知的最好的政治制度。将来自不同学科的优秀人才聚集在一起，讨论数字权利包括哪些内容，以及可以采取哪些措施来保障这些权利，这一事实本身就让我非常感兴趣。最后，我们同意将隐私定义为一项数字权利，但这一定义不会超出《通用数据保护法》已经规定的范围。我赞成走得更远：我的一项建议是个人数据不能买卖。它没有成功，但根本的是，我们就基于道德原则的数字权利的存在等重要事项达成了一致。从那里开始，问题比答案多，这是合乎逻辑的，也是好事。 考虑到技术发展的速度，如此审慎的立法努力是否最终会导致在球场上设置大门呢？ 我觉得这句话很有意思。我们说我们不能在田野上设置大门，但事实上我们可以。田野上到处都是大门、栅栏和限制。技术发展比立法发展快得多是正常的，因为民主工厂需要冷静思考，让很多人参与对话，寻求让每个人都满意的协议。所有这些都是正常的。这是没有其他办法可以做到的。此外，我们从经验中学习。一点一点地，立法正在以更精确的方式通过，细节也在不断调整。 最终，是什么决定了它是人类发展的机遇还是威胁？ 当然是人类。人们常常认为技术是不可避免的，是我们的命运，只能以某种方式发展，而这种方式是由它的推动者决定的。但这是人类的发明，我们可以以最适合自己的方式设计它。这首先取决于负责设计它的人，他们不仅要考虑自己的利益，还要考虑所有人的利益。因此，在所有专业人员的培训中，尤其是工程师、数据科学家和计算机科学家的培训中，必须包含道德规范。这还取决于是否有足够的竞争，因为这样我们就会有一些公司将保护隐私视为可能的竞争优势，并为我们提供更好的选择。重要的是，政府要对其进行监管，以确保它是民主的基础，而不是侵蚀民主。这也取决于公民，取决于我们向公司施压，让他们尊重我们的权利。当我们有其他选择时，我们要做出明智的选择。 我们面临的主要障碍是什么？ 一方面，人工智能的设计初衷是省钱，人们只是从经济角度看待问题。缺乏历史眼光也是一个很严重的障碍。我们购买的是大科技的故事，这是一个有趣的故事。他们卖给我们的产品没有什么特别之处。我们的父母和祖父母已经监管了制药和汽车等行业，现在轮到我们监管技术了。 我们说你不能在球场上安装门，但事实上你可以。球场上到处都是门、栅栏和限制 这条路上有实质性的进展吗？有理由抱有希望吗？ 毫无疑问，人们有充分的理由感到担忧。目前，俄罗斯和中国正在使用 ChatGPT 来增强其贸易业务。 […]