数学家瓦​​内萨·格雷罗：“不了解人工智能背后的原理会让我们陷入危险” | 科技

“是停摆的钟表好，还是每天慢一分钟的钟表好？”这道谜语出现在数学家刘易斯·卡罗尔的作品《疯帽子与爱丽丝梦游仙境》中。这也是瓦内萨·格雷罗（Vanesa Guerrero，瓜达尔卡纳尔岛，塞维利亚，25 岁​​）以两种不同的方式向 ChatGPT 提出的问题之一。首先，人工智能 (AI) 选择了每天慢一分钟的时钟，但在重新表述问题时，该工具改变了主意。

格雷罗以此文学场景为例，解释了 ChatGPT 选择一个答案或相反答案 这取决于问题的表述方式。她使用的数学模型也是如此。“通过我的研究，我寻求开发工具、算法、方法、模型、方程式，让你通过数据做出明智的决定，这些决定是可解释的、连贯的，并且不会产生歧视，”她解释道。格雷罗是欧莱雅-联合国教科文组织奖的获奖者之一 献给从事科学的女性 因其在函数数据中的算法公平性方面的工作而获奖。她拥有塞维利亚大学数学博士学位和马德里卡洛斯三世大学统计学教授。

Guerrero 力求确保他的算法能够根据功能数据（例如一个人的工资或血压）“做出公平的决策”。他说，实现这一目标的方法是首先在特定语境中定义公平的含义，然后编写数学公式，研究如何解决它以及如何应用它。在日常生活中，Guerrero 与其他行业（例如保险公司或银行）的专业人士打交道，以塑造他的方程式并解决不同的问题。他的算法世界中的困难范围非常广泛：“很多时候，最复杂的是语言本身的使用，能够理解存在的需求，即使在数学本身中也是如此，”他承认。

公平方程

算法能做到完全公平吗？格雷罗表示他正在研究这个问题，但他解释说偏见是数据固有的。“人工智能正在重现数据中的偏见。它会随着社会的发展而发展。就像我们现在用一种更具包容性的语言说话一样，这在 20 年前是不可想象的，这种基于人工智能的工具也会发生同样的情况。”格雷罗警告说，无论是在统计学还是人工智能模型中，数据的选择都至关重要，这样“它们才能代表你想要研究的内容。”

在 ChatGPT 给出的结果存在性别偏见的情况下，比如疾病预测的结果，Guerrero 向创建者提出了对数据的承诺：“如果你希望你的算法或模型在预测疾病时准确，那么 [sea preciso] 在敏感群体之间，比如男性和女性，你必须平衡总预测误差和群体误差。”也就是说，了解算法在特定群体中的行为，以及全局行为，并纠正它在“敏感群体”中发现的错误。此外，格雷罗还致力于技术团队中的性别平等：“今天男性多于女性。我们需要一个有男性、女性和不同宗教信仰的人的团队。”“每个人都经历过一些事情，后来他们会把这些经历运用到工作中。”

无法控制人工智能的反应也会对知识产生威胁。格雷罗说，新一代“将通过阅读 ChatGPT 给他们的东西来教育自己”。去年 12 月，拉科鲁尼亚的两名技术教师向《国家报》承认，ChatGPT“是一种非常宝贵的工具”，可以在课堂上“作为指南或顾问”使用。教师们强调，学生提出好问题才能从该工具中获得更好的结果。作为一名教师，格雷罗赞成使用该工具，但她更关注算法架构：“需要研究和开发能够进行纠正的模型和方法。 [de sesgos] 直到自然达到。”

监管黑匣子

解决人工智能问题的另一种方法是系统的道德治理。上周二，欧盟最终批准了人工智能法，该法将逐步实施至 2026 年。该标准根据使用人工智能应用的风险为人工智能应用设定了不同的义务。创建虚假图像或新闻，以及不区分真实与虚假的可能性，例如所谓的 深度伪造，这是其部分后果。“我们不必停止这项技术的发展，远非如此，而是要评估风险并进行监管，以免对社会产生负面影响，”他澄清道。

格雷罗将大型科技公司（如 OpenAI 或 Google）创建的人工智能模型定义为“黑匣子”。这些设备的特点是存储量大且不透明。“不知道它背后是什么会让你处于危险之中，他们为什么要告诉我这些？也许他们在使用我的私人数据。所有这些工具都掌握在大型私营科技公司手中，这也是一种风险。”格雷罗相信“开放科学”和开源，这样每个想要了解、贡献和开发该方法的人都可以找到。在这方面，他坚持认为：“需要监管，这样他们就不能不经过某种控制就为所欲为，”格雷罗说。

“是每两年准确报时一次的钟好，还是每天准时两次的钟好？”这次，ChatGPT 选择了停下的钟，虽然看起来每天慢一分钟的钟比坏了的钟好，但迟到的钟每两年报出一次准确的时间，而停下的钟每天报出两次。

您可以关注 国家报科技 在 Facebook 是 X 或在此注册以接收我们的 时事通讯。

_