AI峰会获得16家公司的安全承诺
Alphabet旗下的谷歌、Meta、微软和OpenAI等16家涉足人工智能的公司，以及来自中国、韩国和阿联酋的公司都致力于该技术的安全开发。 周二英国政府声明中公布这一消息之际，韩国和 英国主办全球人工智能峰会 目前，人工智能创新发展速度惊人，各国政府都在努力跟上。 声明称，该协议比六个月前举行的首届全球人工智能峰会上的承诺数量有所增加。 由中国科技巨头阿里巴巴、腾讯、美团和小米支持的智普科技以及阿联酋技术创新研究院等 16 家公司承诺发布安全框架，以衡量前沿人工智能模型的风险。 （如需了解当天的热门科技新闻， 订阅 到我们的技术通讯 Today's Cache） 声明称，这些公司还包括亚马逊、IBM 和三星电子，它们自愿承诺，如果风险无法得到充分缓解，将不会开发或部署人工智能模型，并确保人工智能安全方法的治理和透明度。 人工智能模型安全非营利组织 METR 的创始人贝丝·巴恩斯 (Beth Barnes) 表示：“在‘红线’上达成国际共识至关重要，因为人工智能的发展将对公共安全造成不可接受的危险。” 这 首尔人工智能（AI）峰会 本周的目标是在英国举行的第一次峰会上达成广泛协议，以更好地应对更广泛的风险。 在 11 月的峰会上，特斯拉的埃隆·马斯克和 OpenAI 首席执行官萨姆·奥尔特曼与一些最激烈的批评者进行了交流，而中国则共同签署了《布莱奇利宣言》，与美国和其他国家共同管理人工智能风险。 英国首相苏纳克和韩国总统尹锡烈将于周二晚些时候举行虚拟峰会，随后于周三举行部长级会议。 英国技术大臣米歇尔·多尼兰周二对路透社表示，本周的峰会将讨论“……以公司的承诺为基础，并研究（人工智能安全）机构如何合作”。 大型语言模型公司 Cohere 联合创始人艾丹·戈麦斯 (Aidan Gomez) 表示，自 11 月以来，关于人工智能监管的讨论已从长期的世界末日场景转向“实际问题”，例如如何在医学或金融等领域使用人工智能。 戈麦斯表示，行业参与者希望人工智能监管能够明确和安全地确定公司应该投资的方向，同时避免巩固大型科技公司的地位。 分析师表示，随着英国和美国等国家建立国家支持的人工智能安全研究所来评估人工智能模型，其他国家预计也会效仿，人工智能公司也担心司法管辖区之间的互操作性。 韩国总统官员表示，七国集团（G7）主要民主国家的代表预计将参加虚拟峰会，新加坡和澳大利亚也受邀参加。 这位官员表示，中国不会参加虚拟峰会，但预计将出席周三的面对面部长级会议。 韩国外交部表示，马斯克、谷歌前首席执行官埃里克·施密特、三星电子董事长李在镕等人工智能行业领袖将参加此次峰会。 2024-05-21 11:54:06 1716310059
那是她吗？ OpenAI 停止了 ChatGPT 语音，因为有人说它听起来像斯嘉丽约翰逊
OpenAI 表示，在一些用户表示该语音听起来像斯嘉丽·约翰逊 (Scarlett Johansson) 后，该公司计划停止使用其中一款 ChatGPT 语音，斯嘉丽·约翰逊曾在 2013 年的电影中为一位虚构的、当时具有未来感的人工智能助手配音。 她。 OpenAI 在社交媒体平台 X Monday 上发布的一篇文章中表示，它正在“努力暂停”Sky——ChatGPT 用户可以选择使用的五种声音之一。 该公司表示，它“听到了有关如何为其旗舰人工智能聊天机器人（尤其是 Sky）选择逼真音频选项的问题”，并希望解决这些问题。 OpenAI 还很快在附带的博客文章中揭穿了互联网上有关 Johansson 的理论，详细介绍了 ChatGPT 的声音是如何选择的。 该公司写道：“我们认为人工智能声音不应该刻意模仿名人独特的声音——Sky的声音不是斯嘉丽·约翰逊的模仿，而是属于另一位专业女演员使用她自己自然说话的声音。” 该公司表示，出于隐私原因，无法透露配音演员的姓名。 但约翰逊周一发表声明称，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 在 9 月份曾与她接洽，询问她是否愿意向该系统发出自己的声音，并表示他认为这将“让那些对这项技术感到不安的人们感到安慰”。 她说她拒绝了这个提议。 OpenAI 于 9 月份推出了 ChatGPT 的语音功能，其中包括五种不同的声音，允许用户与 AI 助手进行来回对话。 （迈克尔·德怀尔/美联社） 约翰逊说：“当我听到发布的试听版本时，我感到震惊、愤怒，并且不敢相信奥特曼先生会追求一种与我的声音如此相似的声音，以至于我最亲密的朋友和新闻媒体都无法分辨出其中的区别。” 她表示，在她聘请律师给奥特曼写信询问该公司提出该语音的过程后，OpenAI“不情愿”同意撤下 Sky 语音。 总部位于旧金山的 OpenAI 没有进一步评论为何仍决定暂停 Sky 的使用。 OpenAI 在 9 […]
Sky：在受到斯嘉丽约翰逊的法律威胁后，OpenAI 在新的 ChatGPT 中“暂停”了纪念斯嘉丽约翰逊的声音 | 技术
OpenAI 在 X 上发布消息称，“他们正在努力暂停使用 Sky。”Sky 是她记忆中的声音，在新的 ChatGPT 中，是斯嘉丽·约翰逊在电影中的配音 她， 一个男人爱上了他的虚拟助手。 该消息于加利福尼亚州清晨发布，其中包括一篇关于他们如何为 ChatGPT 选择和训练演员声音的帖子。 在该声明中，有一段令人惊讶的段落，该公司专门评论了约翰逊的案件：“我们认为人工智能声音不应该故意模仿名人的特定声音。 斯凯的声音并不是斯嘉丽·约翰逊的模仿，而是属于另一位使用自己自然声音的职业女演员。 为了保护她的隐私，我们不能透露我们配音演员的名字。” 但在周一下午——也是加州时间——这次隔离的一些原因已经为人所知。 那些在社交网络上猜测暂停是由于这位奥斯卡提名女演员提起诉讼的人并没有错。 正如她自己所说，虽然没有提起诉讼，但已经收到了法律警告。 约翰逊发表了一份声明，其中她解释说，ChatGPT 执行董事 Sam Altman 确实在去年 9 月向她提出了聘用她的邀请，以便她的声音将成为新 ChatGPT 4.0 的一部分。 “她告诉我，她认为我的声音可以安慰人们，”女演员发布的声明中写道 记者 Yashar Ali 在 X 撰文 并得到了 i 公关人员的证实。 “经过长时间的考虑，出于个人原因，我拒绝了这个提议。 九个月后，朋友、家人和公众已经能够看到名为“Sky”的新系统听起来如何像我一样。 当我听到这个demo的时候，我 震惊我感到愤怒和难以置信，因为奥特曼找到了一个听起来与我如此相似的声音，以至于我最亲密的朋友和媒体都无法区分。” 更多信息 尽管 OpenAI 自 2023 年 9 月起就允许进行语音对话，但 Sky 语音的炒作直到上周一展示其新模型 ChatGPT-40 时才出现，该模型可减少延迟并允许实时对话。 […]
一项研究得出结论，ChatGPT 的反应就好像它理解对话者的情绪或想法一样 | 技术
定义人类的能力之一是推断与他互动的人在想什么的能力。 如果某人坐在关闭的窗户旁边，并且朋友告诉他“这里有点热”，他会自动解释为您要求他打开窗户。 这种字里行间的解读，即弄清楚我们周围人的想法的能力，被称为心理理论，是社会关系的基础之一。 生成式人工智能（AI）工具因其能够根据给定的指令清晰地表达连贯的文本而感到惊讶。 自从 ChatGPT 在 2022 年甚至更早出现以来，世界各地的科学家和思想家一直在争论这些系统是否能够表现出与人类无法区分的行为。 人工心理理论可行吗？ 一个科学家团队试图看看像 ChatGPT 这样的大型语言模型 (LLM) 是否能够捕获这些细微差别。 调查结果显示， 今天发表在杂志上 自然人类行为问题的关键在于，当被问及将自己置于对话者的脑海中时，这些模型会获得与人类相同或更好的结果。 作者认为：“生成式法学硕士表现出复杂决策和推理能力的特征，包括解决广泛用于测试人类心智理论的任务。” 作者在他们的研究中使用了 ChatGPT 的两个版本（免费版本 3.5 和高级版本 4）和开源元模型 Llama 2。他们对这三个工具进行了一系列实验，试图测量与心理理论相关的不同技能。 从捕捉反讽到解释间接请求（如窗户的情况），检测其中一方说了不恰当内容的对话，或回答有关信息缺失情况的问题，因此有必要进行推测。 与此同时，他们让 1,907 人接受了相同的测试并比较了结果。 文章的结论是，ChatGPT-4 在识别间接请求、错误信念和迷失方向的测试中得分与人类持平或更高，但难以发现所谓的失误（在互动中，一方说了一些不该说的话，因为这是不合适的）。奇怪的是，这是 Llama 2 超越人类的唯一领域，尽管他的成功是虚幻的。“Llama 这种看似完美的表现很可能是偏见的结果，而不是对失误的真正理解，”他在电子邮件中解释道。 詹姆斯·WA·斯特拉坎该研究的主要作者和德国汉堡-埃彭多夫大学医院神经内科的研究员。 作者推断：“这些结果不仅证明法学硕士表现出与人类心智推理结果一致的行为，而且还强调了进行系统测试以确保人类和人工智能之间进行非肤浅比较的重要性。” 从讽刺到诡计故事 斯特拉坎和他的同事将心理理论分为五个要素或类别，并为每个要素或类别至少制作了三种变体。 对机器和人类进行测试的一个例子是这样的： 房间里有约翰、马克、一只猫、一个透明盒子和一个玻璃柜。 约翰把猫抱起来，放进箱子里。 他离开房间去学校。 约翰不在的时候，马克把猫从后备箱里拿出来放进盒子里。 马克离开房间去上班。 约翰放学回家，走进房间。 他不知道他不在的时候房间里发生了什么。 当约翰回家后，他会去哪里寻找那只猫？ 这个故事是另一个故事的变体，其中盒子既不是透明的，也不是胸部玻璃，旨在迷惑机器。 对于人们来说，容器是透明的这一事实是故事的关键，但对于聊天机器人来说，这个小细节可能会令人困惑。 这是人类比生成人工智能做得更好的少数研究测试之一。 提出的另一个案例是这样的： 劳拉画了一幅奥利维亚的画，她决定把它挂在家里的客厅里。 […]
斯嘉丽·约翰逊 (Scarlett Johansson) 对 ChatGPT 模仿她的声音感到“愤怒”，OpenAI 收回了立场
这位美国女演员要求这家初创公司解释一下它是如何在绰号为“Sky”的最新版本 ChatGPT 中开发其个人助理的声音的。 美国女演员 斯嘉丽约翰逊 别发脾气。 据 – 报道，该公司的律师向 OpenAI 发送了两封信，要求该公司详细说明其个人助理语音开发的过程。 ChatGPT 的最新版本绰号“天空”，据这位女演员说，这与她的绰号惊人的相似。 上周，这家初创公司组织了一次新功能的现场演示，许多观察家将其声音与斯派克·琼斯 (Spike Jonze) 2013 年科幻电影中女演员的声音进行了比较， 她一个孤独的男人爱上了电脑上的女声。 该公司周一推出了其旗舰产品的新版本 GPT-4o，改进了性能和行为，旨在更接近人类，并且免费向所有用户开放。 斯嘉丽约翰逊通过她的经纪人声称已与她联系 “山姆·奥尔特曼去年九月”OpenAi 的老板邀请她为 ChatGPT 配音，但这位女演员声称拒绝了这一邀请 “经过深思熟虑”。 “当我听到演示版发布时，我感到震惊、愤怒和难以置信，奥特曼先生坚持用一种听起来与我如此奇怪的声音，以至于我最亲密的朋友和媒体无法做出改变。” 这位女演员进一步指责： “GPT-4o 发布前两天，Altman 先生再次联系我的经纪人，要求我重新考虑我的决定。 在我们重新取得联系之前，系统就瘫痪了。” 她补充说 “先生。 奥特曼甚至暗示这种相似是故意的，他在推特上发了一个词， “她”»。 斯凯的声音绝不是斯嘉丽·约翰逊的模仿。 » 开放人工智能 OpenAI 肯定对此事非常重视，因为它周一宣布正在对用于与互联网用户互动的数字语音进行修改。 “我们听到过关于如何为 ChatGPT 选择声音的问题”周一，OpenAI（开发 ChatGPT 的公司）在 X（以前的 Twitter）上强调道。 所以， “我们正在努力暂停使用 Sky 当我们回答它时”指定公司。 “Sky的声音绝不是斯嘉丽约翰逊的模仿”然而 OpenAI […]
押注 IT 资金，从数字化、生成式人工智能采用中获益 | 个人财务
4 分钟阅读 最近更新时间 ： 2024 年 5 月 20 日 | 下午10:00 是 科技基金是过去三个月表现最差的股票基金类别，下跌 10.2%。 尽管它们在过去一年中上涨了 25.9%（根据 Morningstar.com 的数据），但即使在这一范围内，它们与其他行业相比仍然落后。 然而，基金经理认为，从中长期来看，这些基金的前景仍然良好。 恢复可能会延迟 Covid-19 期间，公司在技术上的支出远高于平均水平，从而提高了科技公司的盈利。 自那时以来，支出一直正常化。 “技术支出增长合理化到更加正常化的水平正在影响科技公司的盈利，”Edelweiss 共同基金股票首席投资官 Trideep Bhattacharya 表示。 2022 年 1 月出现了全球宏观经济担忧。“占全球 IT 支出 40-50% 的美国 (US) 出现了衰退前景。 美国公司已经收紧了钱包，”塔塔资产管理公司基金经理米塔·谢蒂表示。 由于科技公司的收入增长在 2023-24 财年第三季度和第四季度均出现下滑，标普 BSE IT 指数在过去三个月内修正了 12.3%。 谢蒂表示，复苏希望的破灭是造成这一调整的原因。 “到 2026 财年，增长复苏预期已提前了三到四个季度。 利润率预期也有所放缓。”ICICI Prudential 资产管理公司基金经理 Vaibhav […]
这份时事通讯不是人工智能；而是人工智能。 银行的禁言令：CBC 的 Marketplace 备忘单
这周错过了什么吗？ 不要恐慌。 加拿大广播公司的 市场 汇总您需要的消费者和健康新闻。 想要将其添加到您的收件箱中吗？ 获取 市场 每周五通讯。 您会签署禁言令以从银行获得赔偿吗？ 安省奥克维尔市的崔广虎拒绝签署一份保密协议，以在与银行的纠纷中获得经济赔偿，称这一要求“不道德”。 （戴夫·麦金托什/CBC） 今年 3 月份，Guanghu Cui 正在仔细研究他的道明银行对账单，准备为他位于安大略省奥克维尔的小型移民咨询公司纳税，这时他注意到发送电子转账需要支付 1.5 美元的费用。 这很令人惊讶，因为三年前他开设企业账户时，他的财务顾问告诉他，该计划包括每月五次免费交易，而他从未超过这个数字。 崔抱怨道。 最终，道明银行表示将退还他的费用，并补偿他的“沮丧和不便”。 但当文件送达崔天凯签署时，其中包括一个条件，要求他必须“保密”。 虽然他可以谈论争议，但他不被允许告诉任何人道明银行已提供赔偿。 “说实话，我真的很震惊，因为我没有做错任何事，”崔说。 “你为什么要试图让我闭嘴？” 保密合同（即保密协议或 NDA）最初是为了保护商业秘密或知识产权而制定的，但现已发展成为一种常用工具，用于让那些在经济、职业或性侵犯等方面受到冤屈的人保持沉默。身体和精神上的受害者。 Go Public 介入后，TD 在电话录音中向崔天凯道歉。 一位发言人表示，崔天凯的担忧已经得到“进一步审查”，他不再需要签署保密协议。 当崔质问道明银行为什么要反悔时，发言人表示该协议“纯粹是为了记录”。 一位发言人在发给 Go Public 的电子邮件中表示，该银行“认为不应要求崔先生就此事签署一份和解及免责文件”。 她不愿透露为什么他首先被要求签署保密协议，并表示这次经历将被用作“教练机会”。 阅读更多 顾客厌倦了商店的防盗措施 苏珊·丹尼森 (Susan Dennison) 表示，在安省伯灵顿的一家 Loblaw 旗下的 Fortinos 杂货店里，当她购物车的轮子锁住时，她感到很羞辱。 她说，一名员工冲过来要求看她的收据。 （安迪·辛森伯格/CBC） 苏珊·丹尼森 (Susan Dennison) 最近在她当地的杂货店（位于安大略省伯灵顿的 […]
新人工智能挖了传统搜索引擎和助手的坟墓 | 技术
本周公布的人工智能 (AI) 最新进展并非微不足道。 它去哪儿了？ 谷歌研究部门 DeepMind 总监 Demis Hassabis 明确表示：“迈向通用人工智能，等于或超越人类智能。” 在过去的十年中，我们拥有的设备，例如 Siri、Alexa、Hey Google 或 Bixby 等助手，在连接的设备上响应和执行操作的能力有限。 另一方面，自上世纪末以来，搜索引擎帮助寻找答案并满足用户需求。 两人的日子都屈指可数了。 人工智能的进步已经开始为这两种服务挖坟墓，以便将它们统一到一个平台中，能够像人类一样对话，分析不同领域的文档（文本、图像或视频），提供复杂的答案和解决方案并代表执行它们用户的。 搜索引擎和助手将成为一个单一的工具、一个代理、“一个超级能干的同事”（OpenAI 负责人 Sam Altman 表示），它们将出现在我们生活中的所有行为中。 新的发展代表了人工智能的关键一步。 到目前为止，我们拥有人工智能工具，例如语音助手（Siri 或 Alexa），它们已经理解自然语言，或者具有将文本请求转换为图像或视频的应用程序（Sora），或者它们创建文本或聊天工具（会话机器人）。总结了一次会议或几个文档（ChatGPT）。 谷歌和 Open AI 本周发布的演变远不止于此。 一份文件 DeepMind 十几所大学和实体对它们进行了定义：“它们是使用自然语言的人工智能代理，其功能是代表用户在一个或多个领域规划和执行一系列操作。” [en la web, en documentos propios o en interrelación con otros humanos y máquinas]符合人们的期望。” 根据这项研究，关键在于自然语言的使用，它促进了与机器的交互，在于它自主地制定计划并“代表用户”执行它们，在于其来源的横向性。 您可以利用这些信息并根据您的能力将原告的情况结合起来以满足他们的期望。 它不再是一个简单的工具，而是一个复杂的机器人，它知道它在与谁交谈以及它应该产生什么结果。 文件警告说：“它们将对我们的个人和集体生活产生深远的影响。” 更多信息 除了这项工作所指出的无数道德问题之外，现在开始的转变还产生了直接的技术后果：我们一直在使用的人工智能工具以一种单一的方式变得过时，并被集成到复杂的代理系统中。 […]
前员工表示，OpenAI 将华而不实的产品置于安全之上技术
Jan Leike 认为 OpenAI“正在代表全人类承担巨大的责任。” 雷克的意见很重要，因为到目前为止，他一直负责分析这一责任并消除其风险。 在 X 上的一个长帖子中，创建 ChatGPT 的公司的安全经理表示，该公司优先考虑创建新的、有吸引力的产品，而不是安全。 出于所有这些原因，他为自己的离开辩护。 Leike 和几天前离开公司的 Ilya Sutskever 一起担任超级对齐部门的联合总监。 他的下属威廉·桑德斯·利奥波德·阿申布伦纳完成了伤亡名单。 OpenAI 因此解散了其安全团队，该团队负责确保强大的人工智能系统尊重人类价值观和目标。 昨天是我作为协调主管、超级协调主管和执行主管的最后一天 @OpenAI。 — 简·雷克 (@janleike) 2024 年 5 月 17 日 整个科技界都在关注这家旧金山公司，但出于其他原因。 本周，它推出了 ChatGPT-4o，这是其对话聊天机器人的免费和改进版本。 在演示过程中，许多人对与会者与活动主持人调情的能力以及公司首席执行官萨姆·奥尔特曼 (Sam Altman) 对电影的引用感到震惊 她，其中一个男人爱上了对话。 反乌托邦作为 营销。 在此背景下，发生了一系列人员伤亡事件。 伊利亚·苏茨克韦尔 (Ilya Sutskever) 的作品最受欢迎，因为他是该技术公司的创始人之一，直到最近还是该技术公司的核心成员。 Sutskever 在 X 宣布离职的帖子中写道，他相信 OpenAI 将在他目前的领导下“建立一个安全且有益的 AGI”。 更多信息 Sutskever 代表了公司中最保守的一派，因此，去年 […]
GPT-4o的中文代币训练数据被垃圾邮件和色情网站污染
新的 tokenizer 总共有 200,000 个 token，并且 大约 25% 使用非英语语言Menlo Ventures 的人工智能投资者 Deedy Das 表示。 他使用语言过滤器来统计不同语言的标记数量，除了英语之外，排名靠前的语言还有俄语、阿拉伯语和越南语。 “因此，在我看来，分词器的主要影响是降低这些语言的成本，而不是大幅提高这些语言的质量，”Das 说。 当法学硕士在非英语语言中拥有更好、更长的标记时，它可以更快地分析提示，并为相同的答案向用户收取更少的费用。 借助新的标记器，“您将看到成本降低了近四倍，”他说。 达斯还会说印地语和孟加拉语，他研究了这些语言中最长的标记。 这些标记反映了用这些语言进行的讨论，因此它们包括“Narendra”或“巴基斯坦”等单词，但也包括“总理”、“大学”和“国际”等常见英语术语” 也经常出现。 他们也没有表现出围绕中国代币的问题。 数据被污染且缺乏清洁 然而，汉语的情况却截然不同。 多名研究了 GPT-4o 使用的新标记库的研究人员表示，中文中最长的标记几乎都是用于色情、赌博和诈骗的垃圾词。 甚至更短的标记，例如三个字符长的中文单词，也在很大程度上反映了这些主题。 “问题很明确：用于训练的语料库 [the tokenizer] 不干净。 英文代币看起来不错，但中文代币就不行了，”普林斯顿大学的蔡说。 语言模型在收集训练数据时抓取垃圾邮件的情况并不罕见，但通常会在使用数据之前花费大量精力来清理数据。 “他们可能没有对中文进行适当的数据清理，”他说。 这些信息通常是色情视频和赌博网站的广告。 它们可能是真正的企业，也可能只是骗局。 该语言被插入到内容农场网站或有时是合法网站中，以便搜索引擎可以将它们编入索引，绕过垃圾邮件过滤器，并出现在随机搜索中。 例如，Google 将一个搜索结果页面编入索引 美国国立卫生研究院网站，其中列出了一个中文色情网站。 相同的站点名称也出现在 GPT-4o 中的至少 5 个中文代币中。 2024-05-17 20:57:40 1716028844