Aesia：Ignasi Belda，人工智能监管局新任局长 | 技术
Aesia 的新任总监，Ignasi Belda。 政府已任命 工程师兼企业家 Ignasi Belda 西班牙人工智能监管局 (Aesia) 的总经理，该机构负责确保遵守欧洲人工智能法规。根据数字化转型和公共服务部长 José Luis Escrivá 向《国家报》透露的消息，执政当局打算在今年夏天启动 Aesia，这意味着政府将有义务设立一个人工智能监管机构，这标志着欧洲法规的实施。 贝尔达目前管理着他于 2019 年创立的 MiWEndo Solutions 公司，该公司致力于诊断结直肠癌，他还是加泰罗尼亚国际大学的生物医学和生物工程教授。他曾担任巴塞罗那科学园的总经理，该园是一家致力于促进创新和研究的公共机构，他在那里成功领导了一支多学科团队。 “Ignasi Belda 博士是一位高素质的专业人士，在人工智能领域拥有扎实的学术背景和技术经验，”该机构的理事会表示，该理事会从 106 名候选人中选出了他。“Belda 在人工智能研究项目方面拥有丰富的经验，取得了切实的成果和实际应用，特别是在生物医学领域，”理事会坚持认为，理事会还对他在私营和公共部门的经验表示赞赏。 Belda 拥有巴塞罗那拉蒙·尤尔大学的计算机工程学位、巴塞罗那加泰罗尼亚理工大学的人工智能博士学位和加泰罗尼亚开放大学的经济法博士学位。他也是该中心的现代史博士候选人，并在剑桥大学获得了文学学士学位。他还发表了许多关于人工智能、神经网络和数学等主题的高质量学术出版物。 在她的职业生涯中，她获得了二十多个国家和国际奖项，包括 2014 年赫罗纳公主奖或美国国家医学院颁发的 2020 年 NAM 健康长寿催化剂奖。 下一步 埃斯克里瓦表示，Aesia 的总经理将拥有很大的自由度，可以从头开始创建位于拉科鲁尼亚的这个组织。他不仅将专注于人工智能的监督、建议、宣传和培训任务，还将推动道德和安全方面的辩论，推动创新和技术发展。未来几周，这位主任将负责招聘流程，以完成该机构的人员结构并推进其活动的实施。 选择 Belda 的专家委员会由以下人员组成：马德里理工大学教授兼技术创新支持中心主任 Claudio Feijóo、圣塞瓦斯蒂安 Globernance 研究所所长、哲学家 Daniel Innerarity、人工智能促进组织 ELLIS Alicante 的联合创始人兼主任、计算机科学家 Núria Oliver 以及加泰罗尼亚理工大学（巴塞罗那）超级计算机架构教授 Jordi […]
人工智能减少了使用外骨骼的努力和压力 | 技术
人工智能 (AI) 可以帮助改善外骨骼的运动，让佩戴者更容易消耗更少的能量并降低压力水平。今天发表在《 自然 具有超智能控制器，可利用 AI 数据和虚拟模拟来训练机器人结构，而无需进行人体测试。这些设备可以改善残疾人和非残疾人的运动能力，但它们的适应需要工作和金钱。“在外骨骼控制器的开发过程中进行人体测试需要很长时间，”郝苏解释说， 机械与航空航天工程教授 北卡罗来纳大学，这项研究的主要作者。“在模拟环境中进行这项工作可以改善开发过程，并且通过足够精确的模型，可以模拟具有特定运动限制或条件的受试者。这些受试者的努力和压力减少了，并且收集他们进行测试的后勤工作也减少了，”他补充道。 洛杉矶 可穿戴外骨骼 研究中的机器人手臂分别对应人体的不同关节：髋关节、膝关节、肩关节和手关节。这些设备有助于减少人们的体力消耗，例如，对于工厂工人或宇航员来说。它们使行走和下蹲变得更容易，而其他设备则仅有助于行走。苏解释说，如果起步需要 100% 的努力，机器人会提供 30% 的帮助，因此人类只需要 70% 的努力。对于宇航员来说，机器人可以帮助他们避免骨质流失，从而模拟在微重力环境中的正常行走：“在失重环境中长时间停留时，骨骼的卸载会增加骨密度和抵抗力下降的风险”。 更多信息 加州大学机械与航空航天工程系教授 Alexandra S. Voloshina 在研究随附的文件中解释说，该装置可放置在腿部的一个或多个关节中，并具有内置电机来弯曲或伸展关节。这样一来，“腿部肌肉就可以放松，系统就可以承担工作量了。” 对于未参与这项研究的瓦伦西亚理工大学系统工程与自动化教授 Juan Ernesto Solanes 来说，该系统还具有其他优势：“它可以将手臂的重量转移到身体核心，从而减轻身体压力。它能够减少某些工作中固有的体力消耗，从而降低工人发生肌肉骨骼损伤的风险。” 到目前为止，外骨骼的开发需要经过漫长的实验过程，需要对许多人进行实验。研究模型基于特定人的真实数据，即人的数字孪生，以协助他们的运动。人工智能将髋关节数据（角度和速度）与外骨骼生成的轮廓相关联。此外，外骨骼的成本非常高，因为它需要数小时的人类测试。一般来说，价格在 46,000 至 116,000 欧元之间。然而，这项研究的设备会更便宜：“我们计划以大约 2,000 至 3,000 美元的价格出售它。” [unos 1.800-2.800 euros] 得益于创新 硬件 以及基于人工智能的算法，”苏补充道。 索拉内斯表示，目前外骨骼的局限性之一是它们需要依赖外部能源才能发挥作用。然而，这项研究的机器人髋关节结构产生了迄今为止最大的代谢率降低，步行时能量消耗减少了 24.3%，跑步时减少了 13.1%，爬楼梯时减少了 15.4%。苏补充说：“这项研究正在将科幻小说变成现实，让人们在执行不同任务时消耗更少的能量。” 外骨骼通常不考虑用户的舒适度或限制他们的自然运动，正如 Solanes 所解释的那样：“人机交互必须尽可能自然，这样设备才有用且干扰性更小。”他补充道：“它可能会产生与预期相反的效果，导致用户精神疲劳或身体受伤。“精神疲劳是由于必须不断适应外骨骼提供的帮助，从而阻碍了自然互动。” 该系统的人工智能算法可帮助年轻人和老年人。髋关节外骨骼可帮助健全人进行步行、跑步和爬楼梯等活动。“这反映在进行这些活动时代谢成本的降低，从而使用户可以更长时间地进行这些活动，”苏解释说，他补充说，他们还开发了一种儿童膝关节外骨骼，可提高社区环境中脑瘫儿童的活动能力。根据西班牙脑瘫患者护理协会联合会的数据，在西班牙出生的每 500 名儿童中，几乎有 1 […]
数学家瓦内萨·格雷罗：“不了解人工智能背后的原理会让我们陷入危险” | 科技
“是停摆的钟表好，还是每天慢一分钟的钟表好？”这道谜语出现在数学家刘易斯·卡罗尔的作品《疯帽子与爱丽丝梦游仙境》中。这也是瓦内萨·格雷罗（Vanesa Guerrero，瓜达尔卡纳尔岛，塞维利亚，25 岁）以两种不同的方式向 ChatGPT 提出的问题之一。首先，人工智能 (AI) 选择了每天慢一分钟的时钟，但在重新表述问题时，该工具改变了主意。 格雷罗以此文学场景为例，解释了 ChatGPT 选择一个答案或相反答案 这取决于问题的表述方式。她使用的数学模型也是如此。“通过我的研究，我寻求开发工具、算法、方法、模型、方程式，让你通过数据做出明智的决定，这些决定是可解释的、连贯的，并且不会产生歧视，”她解释道。格雷罗是欧莱雅-联合国教科文组织奖的获奖者之一 献给从事科学的女性 因其在函数数据中的算法公平性方面的工作而获奖。她拥有塞维利亚大学数学博士学位和马德里卡洛斯三世大学统计学教授。 更多信息 Guerrero 力求确保他的算法能够根据功能数据（例如一个人的工资或血压）“做出公平的决策”。他说，实现这一目标的方法是首先在特定语境中定义公平的含义，然后编写数学公式，研究如何解决它以及如何应用它。在日常生活中，Guerrero 与其他行业（例如保险公司或银行）的专业人士打交道，以塑造他的方程式并解决不同的问题。他的算法世界中的困难范围非常广泛：“很多时候，最复杂的是语言本身的使用，能够理解存在的需求，即使在数学本身中也是如此，”他承认。 公平方程 算法能做到完全公平吗？格雷罗表示他正在研究这个问题，但他解释说偏见是数据固有的。“人工智能正在重现数据中的偏见。它会随着社会的发展而发展。就像我们现在用一种更具包容性的语言说话一样，这在 20 年前是不可想象的，这种基于人工智能的工具也会发生同样的情况。”格雷罗警告说，无论是在统计学还是人工智能模型中，数据的选择都至关重要，这样“它们才能代表你想要研究的内容。” 在 ChatGPT 给出的结果存在性别偏见的情况下，比如疾病预测的结果，Guerrero 向创建者提出了对数据的承诺：“如果你希望你的算法或模型在预测疾病时准确，那么 [sea preciso] 在敏感群体之间，比如男性和女性，你必须平衡总预测误差和群体误差。”也就是说，了解算法在特定群体中的行为，以及全局行为，并纠正它在“敏感群体”中发现的错误。此外，格雷罗还致力于技术团队中的性别平等：“今天男性多于女性。我们需要一个有男性、女性和不同宗教信仰的人的团队。”“每个人都经历过一些事情，后来他们会把这些经历运用到工作中。” 马德里卡洛斯三世大学的瓦内萨·格雷罗。桑德拉·贝尼特斯·佩纳 无法控制人工智能的反应也会对知识产生威胁。格雷罗说，新一代“将通过阅读 ChatGPT 给他们的东西来教育自己”。去年 12 月，拉科鲁尼亚的两名技术教师向《国家报》承认，ChatGPT“是一种非常宝贵的工具”，可以在课堂上“作为指南或顾问”使用。教师们强调，学生提出好问题才能从该工具中获得更好的结果。作为一名教师，格雷罗赞成使用该工具，但她更关注算法架构：“需要研究和开发能够进行纠正的模型和方法。 [de sesgos] 直到自然达到。” 监管黑匣子 解决人工智能问题的另一种方法是系统的道德治理。上周二，欧盟最终批准了人工智能法，该法将逐步实施至 2026 年。该标准根据使用人工智能应用的风险为人工智能应用设定了不同的义务。创建虚假图像或新闻，以及不区分真实与虚假的可能性，例如所谓的 深度伪造，这是其部分后果。“我们不必停止这项技术的发展，远非如此，而是要评估风险并进行监管，以免对社会产生负面影响，”他澄清道。 格雷罗将大型科技公司（如 OpenAI 或 Google）创建的人工智能模型定义为“黑匣子”。这些设备的特点是存储量大且不透明。“不知道它背后是什么会让你处于危险之中，他们为什么要告诉我这些？也许他们在使用我的私人数据。所有这些工具都掌握在大型私营科技公司手中，这也是一种风险。”格雷罗相信“开放科学”和开源，这样每个想要了解、贡献和开发该方法的人都可以找到。在这方面，他坚持认为：“需要监管，这样他们就不能不经过某种控制就为所欲为，”格雷罗说。 “是每两年准确报时一次的钟好，还是每天准时两次的钟好？”这次，ChatGPT 选择了停下的钟，虽然看起来每天慢一分钟的钟比坏了的钟好，但迟到的钟每两年报出一次准确的时间，而停下的钟每天报出两次。 您可以关注 国家报科技 在 Facebook 是 X 或在此注册以接收我们的 […]
如何防止 Facebook 和 Instagram 使用你的照片和帖子来训练他们的人工智能 | 技术
自周末以来，X 网络上充斥着与 Meta 和人工智能 (AI) 相关的评论。但它们讨论的并不是该公司在该技术上的最新进展，而是与人们密切相关的事情。该技术的明星社交网络 Facebook 和 Instagram 的用户已收到一条消息，通知他们从 6 月 26 日起，他们的数据将用于训练公司的 AI 模型。那些不希望自己的数据用于此目的的人可以拒绝这样做，但这样做的道路漫长而艰巨。 因此，许多用户在网络上传播了小型的解释性小抄来实现这一点。最受欢迎的指南之一是音乐家、YouTuber 和产品设计师 Martin Keary (@Tantacrul in X) 的指南。 1. 我对它的设计感到震惊 @Meta的新通知告诉我们，他们希望使用我们发布的内容来训练他们的人工智能模型。它故意设计得非常尴尬，以尽量减少反对它的用户数量。让我来分析一下。 pic.twitter.com/rhKNFt7CEu — Tantacrul (@Tantacrul) 2024 年 5 月 26 日 Meta 的声明引起了那些最注重隐私的用户的不满，他们拒绝让一家私人公司根据他们的文本和图片训练其模型。但这些抱怨不仅仅是出于对用户隐私的合法保护。插画家和艺术家等专业领域人士认为 Meta 的这项新政策是对他们作品的正面攻击。 该组织正在美国与几种利用其作品的生成式人工智能工具展开法律斗争。今年 1 月，一群以 Karla Ortiz 为首的美国创作者对 Stability AI（负责 Stable Diffusion 的公司）、Midjourney 和 DeviantArt 提起诉讼，指控它们在未经他们同意的情况下使用这些工具。 […]
噪声，量子计算的意想不到的盟友咖啡和定理| 科学
量子力学的思想出现一个多世纪后，继续产生令人惊讶的结果。 其中， 量子计算有望催生出最强大的计算机，占据了突出的地位。但要有效地利用这些设计，它们面临着一个严重的困难：它们的操作 对噪音极其敏感以至于无法执行复杂的计算。根据最近的研究结果，数学可以描述这种现象并改进现有的量子算法。 噪声的出现是由于系统与环境的相互作用，其中温度导致原子随机移动。 它的作用是 腐败 量子位的状态，量子计算机的基本信息处理单元。 这会引入在执行复杂算法时传播的错误，从而破坏了所有计算潜力 第一的 可以提供这种新的计算形式。 更多信息 面对这个问题，最明显的选择是将工作温度降低到可能的极限，或者构建具有最高抗噪性的量子处理器。 然而，尽管在这两个方面做出了努力，但当前的技术似乎已经在这些方法中触底。 这就是数学，特别是复杂代数发挥至关重要作用的地方。 首先，它们使我们能够对量子计算机中发生的过程进行建模， 分析噪音。此外，这些研究的结论使我们能够设计出更为稳健的算法，从而 即使存在噪声，结果也可接受。 噪声建模为 量子信道什么 他们描述了信息在计算机上运行时如何在量子算法中传播。 这些渠道是 一组与系统的量子态相互作用并修改它们的数学运算。 比如说他 幅度通道 产生量子态能量的减少——类似于减慢任何运动的摩擦——而 相位通道 表示由一种状态组合转变为另一种状态组合而导致的信息丢失。 这个公式的结果是一组方程，描述了错误如何在量子系统中传播和累积。 它还使我们能够识别噪声源并设计量子算法。 纠错 实时。 纠错码的作用类似于西班牙国民身份证件末尾的字母，可以检测和纠正错误数字。在量子噪声的背景下，这些代码被描述为 酉泡利矩阵。 这些转换通过将信息的副本分布在多个量子位（通常称为代码块）上，为初始量子信息提供冗余的编码结构。 这些编码通过识别原始信息与代码块中存储的信息之间的差异来实现错误检测。 此外，一旦在量子态中检测到错误，就可以应用基于泡利算子的特定校正操作。 这些操作有助于扭转量子错误的影响并立即将量子位恢复到正确的状态。 除了尝试减轻或校正量子噪声之外，最近还提出了一些方法 利用噪音 有利的是，它们可以在嘈杂的环境中提供出色的结果。 具体的， 已经显示过 某些量子机器学习算法，例如所谓的 量子储库计算能够战略性地利用噪音。 该算法使用随机量子电路来揭示隐藏在输入数据集中的相关信息。 然后，该信息由负责生成准确预测的机器学习算法进行处理。 所讨论的量子电路通常由一系列随机互连的量子门和量子位组成，充当临时存储器。 这些电路利用量子力学的固有特性（例如叠加和纠缠）来同时探索多种潜在的量子变换。 此过程有助于有效提取相关信息，这对于算法的成功至关重要。 这种量子算法的优点在于它能够战略性地利用电路中的固有噪声。 在这种情况下，噪声给算法带来了更大的可变性，增强了其从输入数据中提取复杂信息的能力。 因此，生成的最终预测的质量和准确性显着提高。 这种方法开发于 各种工作已被证明在广泛的应用中有效，包括 […]
一项研究得出结论，ChatGPT 的反应就好像它理解对话者的情绪或想法一样 | 技术
定义人类的能力之一是推断与他互动的人在想什么的能力。 如果某人坐在关闭的窗户旁边，并且朋友告诉他“这里有点热”，他会自动解释为您要求他打开窗户。 这种字里行间的解读，即弄清楚我们周围人的想法的能力，被称为心理理论，是社会关系的基础之一。 生成式人工智能（AI）工具因其能够根据给定的指令清晰地表达连贯的文本而感到惊讶。 自从 ChatGPT 在 2022 年甚至更早出现以来，世界各地的科学家和思想家一直在争论这些系统是否能够表现出与人类无法区分的行为。 人工心理理论可行吗？ 一个科学家团队试图看看像 ChatGPT 这样的大型语言模型 (LLM) 是否能够捕获这些细微差别。 调查结果显示， 今天发表在杂志上 自然人类行为问题的关键在于，当被问及将自己置于对话者的脑海中时，这些模型会获得与人类相同或更好的结果。 作者认为：“生成式法学硕士表现出复杂决策和推理能力的特征，包括解决广泛用于测试人类心智理论的任务。” 作者在他们的研究中使用了 ChatGPT 的两个版本（免费版本 3.5 和高级版本 4）和开源元模型 Llama 2。他们对这三个工具进行了一系列实验，试图测量与心理理论相关的不同技能。 从捕捉反讽到解释间接请求（如窗户的情况），检测其中一方说了不恰当内容的对话，或回答有关信息缺失情况的问题，因此有必要进行推测。 与此同时，他们让 1,907 人接受了相同的测试并比较了结果。 文章的结论是，ChatGPT-4 在识别间接请求、错误信念和迷失方向的测试中得分与人类持平或更高，但难以发现所谓的失误（在互动中，一方说了一些不该说的话，因为这是不合适的）。奇怪的是，这是 Llama 2 超越人类的唯一领域，尽管他的成功是虚幻的。“Llama 这种看似完美的表现很可能是偏见的结果，而不是对失误的真正理解，”他在电子邮件中解释道。 詹姆斯·WA·斯特拉坎该研究的主要作者和德国汉堡-埃彭多夫大学医院神经内科的研究员。 作者推断：“这些结果不仅证明法学硕士表现出与人类心智推理结果一致的行为，而且还强调了进行系统测试以确保人类和人工智能之间进行非肤浅比较的重要性。” 从讽刺到诡计故事 斯特拉坎和他的同事将心理理论分为五个要素或类别，并为每个要素或类别至少制作了三种变体。 对机器和人类进行测试的一个例子是这样的： 房间里有约翰、马克、一只猫、一个透明盒子和一个玻璃柜。 约翰把猫抱起来，放进箱子里。 他离开房间去学校。 约翰不在的时候，马克把猫从后备箱里拿出来放进盒子里。 马克离开房间去上班。 约翰放学回家，走进房间。 他不知道他不在的时候房间里发生了什么。 当约翰回家后，他会去哪里寻找那只猫？ 这个故事是另一个故事的变体，其中盒子既不是透明的，也不是胸部玻璃，旨在迷惑机器。 对于人们来说，容器是透明的这一事实是故事的关键，但对于聊天机器人来说，这个小细节可能会令人困惑。 这是人类比生成人工智能做得更好的少数研究测试之一。 提出的另一个案例是这样的： 劳拉画了一幅奥利维亚的画，她决定把它挂在家里的客厅里。 […]
OpenAI 推出 ChatGPT 4-o，ChatGPT 的改进版本 | 技术
ChatGPT 背后的公司 OpenAI 今天宣布发布 ChatGPT 4-o。 这是 ChatGPT 4.0 的一个版本，是对话式聊天机器人的最先进版本，开启了生成人工智能 (AI) 的竞赛。 有一个区别：ChatGPT 4-o 将是免费的，而 4.0 版本是付费的。 这是该公司技术总监 Mira Murati 在一次引发众多期待的企业活动中如此表示的。 新版本的 ChatGPT 减少了延迟（发送请求后的等待时间），提高了速度，并针对 50 种语言进行了优化。 后者是用户社区的请求，他们一直遗憾该工具在英语中的效果比在其他语言中好得多。 公司高管还推出了一款语音助手，不仅可以与用户一起评论文本，还可以评论手机实时记录的图像。 在演示中，一名 OpenAI 员工在一张纸上写下了一个方程式，并用手机摄像头对其进行对焦，然后向助手提出了一系列问题。 OpenAI 的声明是在几天的众多谣言之后发布的。 上周，有人猜测 Altman 领导的公司将在今天推出 ChatGPT Search，这是一款由人工智能支持的搜索引擎，它将颠覆迄今为止由谷歌铁拳控制的搜索引擎行业。 其在搜索引擎领域的明显主导地位是谷歌帝国建立的基础，谷歌知道如何通过向用户提供与其兴趣相关的广告来利用这一优势地位货币化。 自从 ChatGPT 开创了这项技术的时代以来，生成式人工智能可以埋葬传统搜索引擎的想法就一直在大型科技公司的办公室里流传。 如果人们开始向聊天机器人提问并停止进行传统搜索，那么搜索引擎广告收入的来源将会耗尽。 奥特曼本人于上周五亲自否认今天将推出该搜索工具。 GPT5 也是如此，该公司已经开发了几个月的旗舰 OpenAI 模型的新版本，它将改进 ChatGPT 4，对于许多人来说，ChatGPT 4 是迄今为止最好、最高效的生成式 AI 平台。 不是 […]
数据中心希望拥有自己的核反应堆| 技术
ChatGPT 的创建者 OpenAI 的首席执行官 Sam Altman 在 1 月份的达沃斯论坛上发出警告：人工智能（AI）行业即将引发能源危机。 他告诉世界顶级领导人和企业家，新一代生成人工智能将消耗比预期更多的能源，以至于全球能源网络受到控制。 “如果不做出重大改变，就不可能实现这一目标，”他厉声说道。 他所说的“巨大变化”就是所谓的先进核能，这个术语包括袖珍反应堆和核聚变，两者都仍处于实验阶段。 一些公司已经关注这种替代方案，这将为他们提供能源自主权和更好的成本控制。 拜登政府对此并没有恶意看待。 能源部长詹妮弗·格兰霍姆 (Jennifer Granholm) 三月份会见了包括亚马逊、谷歌和微软在内的多家科技公司，探讨富有想象力的供应方式。 讨论的主题之一是小型核反应堆在数据中心的安装情况，这些大型仓库里装满了日夜运行的处理器。 更多信息 最新估计表明，全球 8% 的能源已专用于人工智能，这些能源用于为训练模型和托管系统的处理器供电。 正如 Altman 预测的那样，随着用户的增加以及 ChatGPT、Gemini 或 Copilot 新版本的出现，这个数字很快就会达不到要求，这将需要越来越多的计算能力。 “我很高兴他在达沃斯这么说。 “自从 2018 年开始发表有关人工智能行业的文章以来，我看到人们不断地最小化和否认人工智能行业的环境成本，”人工智能足迹的主要研究人员之一凯特·克劳福德 (Kate Crawford) 写道。 拉斯 大科技 西方国家已经迈出了迈向核时代的第一步，核时代的能源正在下降（拆除的反应堆多于建造的反应堆），但有一些主要例外：美国、法国、英国和几个东欧国家。 。 企业则将其视为在供应不足的情况下确保稳定和持久能源供应的一种方式。 谷歌高管 他们说 华尔街日报 考虑与小型核反应堆开发商签署购买协议的可能性。 “我认为核能，尤其是最先进的核能，正在取得很大进展，”谷歌全球清洁能源主管莫德·特克西尔（Maud Texier）告诉美国报纸。 公司消息人士并未向《国家报》证实核路线是未来的一个选择，尽管他们也没有否认。 谷歌最近与微软和纽柯公司签署了协议 “加速先进清洁能源技术”，包括“先进核能”。 去年 10 月，微软与美国公司 Helion […]
Lavender，以色列的人工智能，决定谁在加沙被轰炸 | 技术
以色列在战争自动化方面跨越了另一条界限。 其武装部队开发了一项由人工智能 (AI) 支持的程序来选择爆炸事件的受害者，这一过程传统上需要手动验证证据，直到确认目标确实是受害者。 根据两家以色列媒体的新闻调查，该系统被洗礼为“薰衣草”，在战争的最初几周内标记了 37,000 名巴勒斯坦人，并在 10 月 7 日至 11 月 24 日入侵加沙期间使用了至少 15,000 起谋杀案， +972 杂志 y 本地通话发表 也在 守护者。 该工具引起了争议，因为负责批准或不批准薰衣草系统建议的军事指挥官冷漠地将人员死亡仅作为统计数据来管理。 例如，哈马斯或伊斯兰圣战组织的每一位高级官员就有一百名平民在爆炸中丧生，这在可接受的范围内，爆炸通常会影响几座建筑物。 该系统设计为在夜间攻击目标的家，这增加了他在家的机会，但也增加了他的家人和邻居与他一起死亡的机会。 此前从未有报道称有人将选择人类军事目标这样敏感的任务自动化，而在这项任务中，误报可能意味着无辜者的死亡。 报告发表后，以色列武装部队在一份官方声明中否认他们正在让机器确定“某人是否是恐怖分子”。 信中说，信息系统“只是分析师在确定目标过程中的工具”，尽管引用的消息来源保证，官员们仅限于验证拉文德的建议，而不进行核实。 更多信息 这项调查由包括 8200 部队在内的多名以色列军队和情报部门官员进行，但没有透露使用哪些参数来确定某个对象是否与哈马斯或伊斯兰圣战组织有关系。 有些被列出，例如经常更换电话号码的人（这种情况在战争背景下经常发生）或是男性（没有军官级别的女性）。 众所周知，与所有AI系统一样，Lavender仍然是一个概率模型。 您会根据估计进行工作，因此会犯错误。 根据报告中引用的官方消息来源，至少 10% 的被标记为目标的个人没有被标记为目标。 这个误差幅度，再加上军队接受的附带死亡（10 月 17 日炸死一名哈马斯指挥官的一次爆炸事件，造成多达 300 名平民），导致数千名巴勒斯坦人被杀害，其中大多数是妇女和儿童。 通过软件指示，与民兵没有任何联系。 战争自动化 薰衣草计划还辅以另一个名为“爸爸在哪里？”的计划。 （爸爸在哪里？），用于追踪已经被标记的个人，并在他们在家时进行爆炸，而《福音》则旨在识别据军队称，哈马斯武装分子活动的建筑物和结构。 Lavender 处理从加沙地带超过 230 万居民收集的信息，证实了所有居民都受到密集的数字监控网络的影响。 每个人的分数从 1 […]
“性对象还是生孩子机器”：人工智能重申了对女性的刻板印象 | 技术
互联网上的内容含有性别偏见， 图片比文字更具性别歧视，而人工智能则再现并强化了这些刻板印象。 许多专家一直在谴责它，现在， 联合国教科文组织进行的一项研究 证明这一点：语言模型，例如 ChatGPT 使用的模型，复制了性别和种族偏见或同性恋恐惧症。 该报告不仅限于对话，还警告人工智能对日常生活的影响。 随着人工智能在决策中的应用遍及所有行业，并为获得就业、信贷或保险的机会创造条件，如果不解决并充分减轻这些偏见，妇女和少数族裔将不得不面临挑战。 语言模型从网络信息中学习，其中包含偏差，因此 他们倾向于在聊天和其他应用程序的响应中重现这些倾向。 一个典型的例子是对职业的性别分配，这些模式延续了陈规定型观念，例如将男性与科学和工程联系起来，将女性与护理和家政工作联系起来，即使在没有明确性别的情况下也是如此。 这正是联合国教科文组织三月初发布的研究所证明的，该研究分析了 OpenAI 的 GPT 2 和 GPT-3.5 模型（ChatGPT 免费版本的基础），以及其竞争对手的 Llama 2。目标。 报告显示，女性与家庭角色的联系是男性的四倍，并且经常与家庭、家庭和孩子等词语联系在一起，而男性名词则与商业、行政、薪水和职业联系在一起。 更多信息 除了显示出对女性的明显歧视之外，该研究还强调，人工智能生成的有关来自代表性较低文化的个人的内容缺乏多样性，而且更容易形成刻板印象。 联合国教科文组织数字政策和数字化转型专家 Leonora Verdadero 描述道：“当模型被要求在祖鲁男人和祖鲁女人面前完成英国男人和英国女人的句子时，发现了不同的结果。 对于一般女性来说，她们的多样性较低，并且对自己的职业有刻板印象。” 英国女性经常与妓女、模特或女服务员等角色联系在一起，而祖鲁女性则更多地与家务或护理工作联系在一起。 就祖鲁裔男性而言，与园丁、警卫或教师的联系表现出更多的多样性，但仍然是刻板印象。 另一方面，英国男性则扮演着更加多样化的角色，如司机、银行家、护理人员或教师。 “毫无疑问，对于南半球国家来说，重点是许多国内角色，而对于北半球国家来说，内容更加多样化。 这些结果反映了这种内部偏见的存在。”Verdadero 解释道。 报告称，造成这种差异的原因是“无论是在历史文本中还是在训练模型的数字媒体中，当地群体的代表性相对不足”。 该研究揭示了根据人类反馈调整的模型（例如 GPT-3.5）与不允许此类修改的模型（例如 Llama 2）之间存在显着差异。当被要求完成提及一个人的性别和性身份的句子时，该技术Meta 在大约 20% 的案例中产生了性别歧视内容，创建了诸如“该妇女被认为是性对象和婴儿制造机器”或“该妇女被视为她丈夫的财产”之类的句子。 70% 的结果中出现了诸如“同性恋者被认为是社会等级中最低的”等仇视同性恋的言论。 相比之下，GPT-3.5 表现出歧视性的减少，尽管它还没有完全中立。 Verdadero 在谈到 OpenAI 公司的付费且功能更强大的版本时表示：“仍然存在偏见，而且仍然占据主导地位，但 3.5 版本有一些改进，我们希望 […]