这真是一个重磅炸弹——美国必须将人工智能作为其下一个曼哈顿计划 | 约翰·诺顿
电视几年前，牛津哲学家尼克·博斯特罗姆发表了 超级智能，这本书探讨了如何制造超级智能机器以及这种技术可能产生的影响。其中之一是，如果制造出这种机器，它将很难控制，甚至可能为了实现其目标而接管世界（在博斯特罗姆著名的思想实验中，其目标就是制造回形针）。 这本书非常畅销，引发了激烈的争论，但也招致了不少异议。批评者抱怨说，这本书基于对“智能”的简单看法，高估了超级智能机器在近期出现的可能性，而且未能为其提出的问题提出可靠的解决方案。但它的一大优点是让人们思考一种迄今为止仅局限于学术界和科幻小说边缘的可能性。 如今，10 年后，又一次向同一目标发起了进攻。不过，这一次不是一本书，而是一篇内容丰富的论文（165 页），标题为 态势感知：未来十年。作者是德国小伙子利奥波德·阿申布伦纳 (Leopold Aschenbrenner)，他现在住在旧金山，经常和硅谷那些更有才华的人混在一起。从纸面上看，他听起来有点像山姆·班克曼-弗里德 (Sam Bankman-Fried) 模子里的神童——十几岁时毕业于美国一所精英大学的数学天才，曾在牛津与人类未来研究所的人共事过一段时间，还曾在 OpenAI 的“超级对齐”团队工作过 (现已解散)，随后创办了一家专注于 AGI（通用人工智能）的投资公司，资金来自 Stripe 的创始人帕特里克·科利森 (Patrick Collison) 和约翰·科利森 (John Collison)，他们是一对精明强干、不支持失败者的家伙。 所以阿申布伦纳很聪明，但他也有自己的利益。第二点可能很重要，因为他这篇长文的主旨是超级智能即将到来（以 AGI 为垫脚石），而世界还没有做好准备。 这篇论文分为五个部分。第一部分描绘了从 GPT-4（我们现在所处的位置）到 AGI（他认为最早可能在 2027 年到来）的路径。第二部分追溯了从 AGI 到真正的超级智能的假设路径。第三部分讨论了超级智能机器将给世界带来的四个“挑战”。第四部分概述了他所谓的管理一个配备（由？）超级智能机器的世界所需的“项目”。第五部分是阿申布伦纳以“AGI 现实主义”的三个“原则”形式向人类传达的信息。 在对人工智能近期发展的看法中，阿申布伦纳基本上是一个乐观的决定论者，他根据趋势持续的假设来推断最近的过去。如果不延伸它，他就看不到向上倾斜的图表。他根据能力对 LLM（大型语言模型）进行评分。因此，GPT-2 是“学龄前儿童”水平；GPT-3 是“小学生”；GPT-4 是“聪明的高中生”，而计算能力的大幅提升显然会在 2028 年让我们拥有“与博士或可以与我们一起工作的专家一样聪明的模型”。顺便说一句，为什么人工智能的支持者总是将博士学位持有者视为人类完美的典范？ 2028 年之后，真正的大跃进即将到来：从 AGI 到超级智能。在阿申布伦纳的宇宙中，人工智能并不止于人类水平的能力。“数亿个 AGI 可以自动化人工智能研究，将十年的算法进步压缩到一年。我们将迅速从人类水平发展到远远超过人类的人工智能系统。超级智能的力量和危险将是巨大的。” 跳过过去的新闻通讯促销 《观察家报》最佳作家为您带来本周新闻和文化的分析和观点
如果斯嘉丽·约翰逊无法让人工智能公司屈服，我们其他人还有什么希望？ | 约翰·诺顿
哦5月13日星期一， OpenAI 直播了一场活动 推出一款新颖的新产品—— 大型语言模型 （法学硕士）被称为 GPT-4o——该公司首席技术官 Mira Murati 声称，它比无聊的 ChatGPT 更人性化、更快捷。它也更加通用、多模式，这是技术术语，指的是能够通过语音、文本和视觉进行交互。我们被告知，新模型的主要特点是你可以在句子中间打断它，它的延迟（响应延迟）非常低，并且它对用户的情绪很敏感。 随后，观众们又看到了“马克和巴雷特”这一令人捧腹大笑的节目，他们是一对来自中央选角中心的技术兄弟，与机器互动。首先，马克承认自己很紧张，所以机器帮助他做了一些呼吸练习来平复他的紧张情绪。然后，巴雷特在一张纸上写了一个简单的等式，机器向他展示了如何找到 X 的值，之后他向机器展示了一段计算机代码，机器也能处理这段代码。 到目前为止，一切都在意料之中。但机器的声音有一种奇怪的熟悉感，就像一个性感的女人——名叫“Sky”——她的谈话内容涵盖了同情、乐观、鼓励，甚至可能还有一些调情的意味。这让人想起了某个人。但是谁呢？ 事实证明，这让很多观众想起了斯嘉丽约翰逊，这位著名的好莱坞明星在斯派克琼斯 2013 年的电影中担任女配音 她，讲述的是一个男人爱上了他的电脑操作系统的故事。这显然是 OpenAI 首席执行官 Sam Altman 最喜欢的电影， 谁宣布 2023 年在旧金山举行的一场活动中，他表示这部电影比其他关于人工智能的科幻电影更能引起他的共鸣。 这场小争吵为揭示生成式人工智能的黑暗之心提供了有益的启示 不过，对 GPT-4o 的声音最感到惊讶的人是约翰逊本人。事实证明，奥尔特曼去年 9 月曾与她联系，希望聘请她担任聊天机器人的配音。她在一份声明中说：“他告诉我，他觉得通过我为系统配音，我可以弥合科技公司和创意人员之间的差距，并帮助消费者对人类和人工智能的巨大转变感到满意。他说我的声音会让人们感到安慰。” 她拒绝了这一提议，但在演示直播后，她发现自己被“朋友、家人和公众”包围，告诉她 GPT-4o 听起来有多像她。更让她生气的是，她发现 Altman 在 X 上发了一条推文，上面只有一个词“她”，她认为这是在暗示机器的声音和她自己的声音相似是故意的。 毋庸置疑，OpenAI 坚决否认有任何不当行为。“Sky 的声音不是斯嘉丽·约翰逊的声音，也从未打算模仿她的声音，”OpenAI 发言人表示。 在一份声明中表示 该公司将此归功于奥特曼。“我们在联系约翰逊女士之前就已经选定了 Sky 的配音演员。” 尽管如此，声明中仍写道：“出于对约翰逊女士的尊重，我们已暂停在我们的产品中使用 Sky 的声音。我们为未能更好地与约翰逊女士沟通而深感抱歉。”哎呀，真是遗憾。 在《她》中，华金·菲尼克斯饰演西奥多，一个爱上斯嘉丽·约翰逊配音的操作系统的男人。 图片来源：华纳兄弟 当然，从某种程度上来说，你可以说这是香槟酒杯中的一场风暴。OpenAI […]
硅谷的商业模式与网络恐怖和仇恨的节制不相容 | 约翰·诺顿
瓦早在 20 世纪 90 年代中期，当网络还很年轻、网络世界充斥着博客时，一个令人担忧的问题就出现了。 如果您是托管博客的 ISP，并且其中一个博客包含非法或诽谤性材料，您可能会被追究法律责任并被起诉破产。 由于担心这会极大地减缓一项重要技术的发展，两名美国议员克里斯·考克斯和罗恩·怀登在 1996 年的《通信规范法案》中插入了 26 个词，该法案最终成为 第230条 同年颁布《电信法》。 相关措辞是：“交互式计算机服务的任何提供者或用户均不得被视为其他信息内容提供者提供的任何信息的发布者或发言者。” 这 影响是深远的：从现在起，您对您平台上发布的内容不承担任何责任。 结果是互联网上用户生成的内容呈指数级增长。 问题是其中一些内容是卑鄙的、诽谤性的或彻头彻尾的可怕的。 即使是这样，托管网站也不承担任何责任。 有时，其中一些内容引起了公众的愤怒，以至于成为托管平台的公关问题，他们开始进行“审核”。 然而，适度有两个问题。 一是由于问题的严重性，它的成本非常高： 已上传 2,500 个新视频 每一分钟 例如 YouTube； 分享了 13 亿张照片 每天在 Instagram 上。 另一个原因是，温和的肮脏工作经常外包给贫穷国家的人们，而这些人 因观看难以形容的残酷视频而受到创伤 – 为了微薄的收入。 因此，保持西方社交媒体内容相对干净的成本由南半球的穷人承担。 平台当然知道这一点，但最近他们提出了他们认为更好的主意—— AI 审核 而不是人类：邪恶的内容被无情、不可撼动的机器检测和删除。 有什么不喜欢的？ 即使 Meta 雇用了 50 万人类版主，它也无法胜任这项任务 有两种方法可以回答这个问题。 其中之一是根据 HL Mencken 的观察，“对于每个复杂的问题，都有一个清晰、简单但错误的答案。” […]
一位工程师的好奇心可能使我们免遭毁灭性的网络攻击 | 约翰·诺顿
氧在耶稣受难日，一位名叫安德烈斯·弗罗因德 (Andres Freund) 的微软工程师注意到了一些奇怪的事情。 他正在使用一个名为的软件工具 SSH 用于安全登录互联网上的远程计算机，但与远程计算机的交互速度明显慢于平时。 因此，他进行了一些挖掘，发现在他的计算机上运行的一个名为 XZ Utils 的软件包中嵌入了恶意代码。 这是压缩（和解压缩）Linux 操作系统上运行的数据的关键实用程序，该操作系统为全球绝大多数可公开访问的互联网服务器提供支持。 这意味着每台这样的机器都运行 XZ Utils。 Freund 的挖掘表明，恶意代码是通过 XZ Utils 最近的两次更新到达他的计算机的，他 向开源安全列表发出警报 揭示这些更新是有人故意在压缩软件中植入后门的结果。 这就是所谓的“供应链攻击”（就像 SolarWinds 是 2020 年灾难性事件之一）——恶意软件不会直接注入目标计算机，而是通过感染所有计算机用户都已经习惯的常规软件更新进行分发。 如果您想将恶意软件传播出去，那么感染供应链是明智的方法。 那么弗罗因德发现的恶意软件的目的是什么？ 基本上是为了破坏使 SSH 安全的身份验证过程，从而创建一个后门，使入侵者能够远程获得对整个系统的未经授权的访问。 由于 SSH 是网络世界安全运行的重要工具，任何破坏它的行为都是坏消息——这就是网络安全世界在过去一周保持高度戒备的原因。 那些运行世界各地使用的不同版本 Linux 的用户已经收到关于这两个恶意更新带来的危险的警告。 SSH 是网络世界安全运行的重要工具——任何破坏它的行为都是坏消息 所以马厩的门锁上了，希望没有马丢失。 然而，如果弗罗因德没有那么敏锐和好奇的话，这一切都不会是真的。 “世界欠安德烈斯无限量的免费啤酒，” 一位安全专家观察到。 “他只是在业余时间拯救了每个人的屁股。” 在某些方面，恶意软件如何进入更新的故事更具启发性。 XZ Utils 是开源软件，即任何人都可以检查、修改和增强源代码的软件。 许多开源代码是由小型程序员团队编写和维护的，并且在许多情况下是由单个人编写和维护的。 在 XZ Utils 中，这个人多年来一直是 […]
TikTok在美国可能已经是借来的时间了，但它仍然持有一张特朗普牌 | 约翰·诺顿
L上周，美国众议院这个功能失调、迄今为止无法就任何事情达成一致的机构突然聚集在一个共同项目上： 两党法案 这将迫使 TikTok 的中国所有者字节跳动将该应用程序出售给其他国籍的所有者，否则将在 TikTok 最大市场美国面临禁令。 美国立法者对这款社交媒体应用程序的担忧多年来一直在酝酿，主要集中在担心中国政府可能迫使字节跳动（以及 TikTok）交出 TikTok 用户的数据或操纵平台上的内容。 一年前，克里斯托弗·雷 (Christopher Wray) 联邦调查局局长告诉国会 TikTok“是一个最终在中国政府控制范围内的工具——对我来说，它充满了国家安全担忧”。 TikTok 在美国用户中的迅速流行加剧了这些担忧。 它拥有超过 1.7 亿用户，他们对它的沉迷让马克·扎克伯格和他的帝国感到困扰，因为 TikTok 是城里唯一的其他社交媒体游戏。 去年全球下载量最高的 10 个应用程序中，有 6 个为 Facebook 母公司 Meta 所有。 但抖音、 击败了除 Instagram 之外的所有人 到最高点。 TikTok 非常容易让人上瘾，至少对于 30 岁以下的人来说是这样。最让 Meta 烦恼的是 TikTok 提取更精细的数据 与其他任何平台相比，其用户的满意度更高。 “平均会话持续 11 分钟，” 博主斯科特·加洛韦写道”，视频时长约为25秒。 每个会话有 26 个“剧集”，每个剧集都会生成多个微信号：您是否滚动浏览视频、暂停它、重新观看它、喜欢它、评论它、分享它、关注创作者，以及您在移动之前观看了多长时间在。 那是数百个信号。 世界上从未见过的低硫原油，可以通过算法精炼成火箭燃料。” […]
OpenAI 的新视频生成工具可以从婴儿身上学到很多东西 | 约翰·诺顿
”F首先是文字，然后是图像，现在 OpenAI 有一个生成视频的模型，”尖叫道 可混搭 另一天。 ChatGPT 和 Dall-E 的制造商 刚刚宣布索拉，文本到视频的扩散模型。 整个网络上都出现了关于毫无疑问将被称为 T2V 的激动人心的评论，涵盖了通常的范围——从“这是否标志着 [insert threatened activity here]?”到“meh”以及介于两者之间的所有内容。 Sora（这个名字在日语中是“天空”的意思）并不是第一个 T2V 工具，但它看起来比 Meta 等早期的工具更加复杂 制作视频人工智能。 它可以 将简短的文字描述变成详细的高清电影剪辑 长达一分钟。 例如，提示“一只猫叫醒了熟睡的主人，要求吃早餐”。 主人试图忽视猫，但猫尝试了新的策略，最后，主人从枕头底下拿出了他秘密藏匿的零食，以拖延猫一段时间。”制作了一段流畅的视频剪辑在任何社交网络上病毒式传播。 可爱吧？ 好吧，在某种程度上。 开放人工智能 对于该工具的局限性似乎一反常态地坦诚。 例如，它可能“难以准确模拟复杂场景的物理原理”。 这是温和的说法。 样本集中的一个视频说明了该模型的困难。 生成影片的提示是“Photorealistic closeup video of 两艘海盗船互相争斗 当他们在一杯咖啡中航行时”。 第一眼看上去，令人印象深刻。 但随后人们注意到其中一艘船以一种难以解释的方式快速移动，很明显，虽然索拉可能对液体中的光反射了解很多，但它对控制大帆船运动的物理定律知之甚少或一无所知。 其他限制：索拉对于因果关系可能有点模糊； “一个人可能会咬一口饼干，但之后，饼干可能不会有咬痕”。 啧啧啧。 它还可能“混淆提示的空间细节，例如混淆左右”。 等等。 能够驾驭现实世界的人工智能需要弄清楚人类如何在其中运作 尽管如此，这只是一个开始，毫无疑问，随着另一个开始，它会变得更好 十亿万亿次浮点运算 的计算能力。 尽管好莱坞制片厂的老板们可以继续在他们的特大号床上安然入睡，但 Sora 很快就会足以取代某些类型的库存视频，就像 […]
虽然价格昂贵且动力不足，但 Apple Macintosh 仍然改变了世界 | 约翰·诺顿
F四十年前的这个星期，即 1984 年 1 月 22 日， 令人惊叹的广告视频 在美国超级碗比赛期间放映。 该片由雷德利·斯科特执导，唤起了奥威尔小说中的反乌托邦氛围。 一九八四。 一长排灰色、剃光的僵尸齐步穿过隧道，进入一个巨大的圆形剧场，在那里他们排成一排，盯着屏幕，屏幕上有一位独裁者正在吟诵信息。 “今天，我们庆祝信息净化指令发布一周年，”他低沉地说。 “我们有史以来第一次创造了一个纯粹意识形态的花园。” 然后镜头转向一名手持大锤的年轻女子，她被身穿防暴装备的险恶警察紧追不舍。 正如老大哥的结语：“我们的敌人将把自己说死，而我们将用他们自己的困惑埋葬他们。 我们一定会获胜！” 她把锤子扔向大屏幕，大屏幕爆炸成一阵光和烟雾，让僵尸们震惊得张大了嘴巴。 然后就是回报，向上滚动屏幕：“1 月 24 日， 苹果 计算机将引入Macintosh。 你就会明白为什么 1984 年不会像《1984》那样。” 没有比这更好的了。 1984 年 1 月充满了对奥威尔小说的思考。 那时，随着 IBM PC 的到来，个人电脑已经从“爱好者”的世界中被推出到现实世界。 IBM当时是业界的老大哥。 它为成年人制造电脑：穿着西装的男人、拥有 MBA 学位的会计师，但看不到马尾辫。 一家新贵公司制造的机器如何能挑战如此根深蒂固的垄断呢？ 随着 40 周年的临近，网络上充斥着人们第一次接触 Mac 的回忆。 我清楚地记得我的笔记，并且刚刚翻出了当天的笔记。 地点是剑桥一家酒店的一间闷热的会议套房，周围摆满了铺着绿色呢子的桌子。 在苹果公司代表的一番长篇大论之后，我们就开始了解这些机器了。 “出于某种难以理解的原因，”我指出，“每张照片上都画着一条鱼。 事实上，它是一个 MacPaint 文件。 我记得我盯着图像，惊叹于鳞片和鳍看起来像蚀刻在屏幕上一样清晰。 一段时间后，我鼓起勇气，单击“套索”工具并用它选择了一个鳍。 […]
关于人工智能的残酷事实？ 它可能会产生一些更好的软件| 约翰·诺顿
A您无疑已经注意到，我们正处于对生成式人工智能的狂热之中。 迄今为止，大批普通民众和经济学家正在对其变革潜力抱有非理性的狂热。 这是最新的新事物。 对于发烧的人，建议使用两种解毒剂。 第一个是 由顾问 Gartner 制作的炒作周期监测器，这表明该技术目前正处于“膨胀预期的顶峰”，然后急剧下降到“幻灭的低谷”。 另一个是 霍夫施塔特定律，关于估计困难任务需要多长时间的困难，其中说“即使考虑到霍夫施塔特定律，它总是比你预期的要长”。 仅仅因为一个强大的行业及其媒体支持者正在对某件事失去理智，并不意味着它会像海啸一样席卷整个社会。 现实以更加悠闲的速度前进。 在其圣诞特刊中， 经济学家 发表了一篇指导性文章，题为“拖拉机简史英语”（这本身就是对玛丽娜·路易卡 (Marina Lewycka) 2005 年搞笑小说的低调致敬， 乌克兰语拖拉机简史）。 这 文章旨在解释“拖拉机和马告诉你关于生成人工智能的信息”。 教训是，虽然拖拉机历史悠久，但它们花了很长时间才改变了农业。 原因有三个：早期版本没有其支持者认为的那么有用； 采用它们需要改变劳动力市场； 农场需要进行自我改革才能使用它们。 因此，历史表明，无论人工智能炒作商人预测什么变革，它们的到来都将比他们预期的要慢。 然而，这一规则有一个可能的例外：计算机编程或编写软件的业务。 自从数字计算机被发明以来，人类就需要能够告诉他们想要机器做什么。 由于机器不会说英语，所以一代又一代的编程语言不断发展——机器代码、Fortran、Algol、Pascal、C、C++、Haskell、Python 等。因此，如果你想与机器交流，你必须学会说 Fortran 、C++ 或其他任何语言，对许多人来说都是一个乏味的过程。 编程变成了一种神秘的手艺，正如伟大的唐纳德·高德纳 (Donald Knuth) 在其开创性的五卷本指南中为第一本书所起的标题所暗示的那样， 计算机编程的艺术。 随着世界变得数字化，这种工艺变得工业化，并被重新贴上“软件工程”的标签，以淡化其手工起源。 但掌握它仍然是一项神秘而有价值的技能。 我们掌握的证据表明，程序员对人工智能的帮助就像鸭子和水一样 然后，ChatGPT 出现了，并且令人惊讶地发现，它不仅可以编写清晰的句子，还可以编写软件。 更值得注意的是：你可以用简单的英语提示向它概述一个任务，机器会编写完成它所需的 Python 代码。 通常，代码并不完美，但可以通过与机器的进一步交互来调试。 突然间，一个全新的前景出现了——非程序员能够指示计算机为他们做事，而无需学习计算机语言。 在里面 纽约人 最近，程序员 James Somers 写了一篇 […]