科技领袖曾一度呼吁人工智能监管。 现在的消息是“慢下来”
那天晚上，我参加了一家名为Box的企业公司举办的新闻晚宴。 其他嘉宾包括两家数据导向公司 Datadog 和 MongoDB 的领导者。 通常，这些晚会上的高管都会表现得最好，尤其是当讨论被记录在案时，就像这次这样。 因此，我对与 Box 首席执行官亚伦·莱维 (Aaron Levie) 的交流感到惊讶，他告诉我们，他在甜点上停了下来，因为他那天晚上要飞往华盛顿特区。 他正前往参加一个名为“TechNet Day”的特殊兴趣马拉松，在那里硅谷将与数十名国会人士快速约会，以塑造（不请自来的）公众将不得不忍受的事情。 他想从这项立法中得到什么？ “尽可能少，”利维回答道。 “我将独自负责阻止政府。” 他是在开玩笑。 有点。 他接着说，虽然对深度伪造等明显滥用人工智能的行为进行监管是有道理的，但现在考虑限制措施还为时过早，例如强迫公司向政府批准的人工智能警察提交大型语言模型，或者扫描聊天机器人是否存在偏见或能力等。破解现实生活中的基础设施。 他以欧洲为例，该国已经对人工智能采取了限制措施。 不是 去做。 “欧洲正在做的事情相当冒险，”他说。 “欧盟有这样一种观点，如果你首先进行监管，你就会创造一种创新的氛围，”莱维说。 “根据经验，这已被证明是错误的。” Levie 的言论与 Sam Altman 等硅谷人工智能精英的标准立场背道而驰。 “是的，监管我们！“ 他们说。 但莱维指出，当谈到法律到底应该如何规定时，共识就分崩离析了。 “作为一个科技行业，我们并不知道我们真正要求的是什么，”Levie 说，“我还没有参加过与超过 5 个人工智能领域的人士共进晚餐的会议，其中就如何监管人工智能达成了单一协议。” 但这并不重要——莱维认为全面人工智能法案的梦想注定要破灭。 “好消息是美国不可能以这种方式进行协调。 美国根本不会有人工智能法案。” 莱维以其不敬的健谈而闻名。 但在这种情况下，他只是比他的许多同事更加坦诚，他们的“请监管我们”立场是一种复杂的绳索行为。 至少据我所知，TechNet Day 的唯一公共活动是 直播小组 关于人工智能创新的讨论包括谷歌全球事务总裁肯特·沃克(Kent Walker)和美国最新首席技术官、现为Scale AI高管的迈克尔·克拉西奥斯(Michael Kratsios)。 这些小组成员的感觉是，政府应该集中精力保护美国在该领域的领导地位。 虽然承认这项技术有其风险，但他们认为现有法律几乎涵盖了潜在的危险。 谷歌的沃克似乎对一些州正在自行制定人工智能立法感到特别震惊。 […]
这家人工智能初创公司希望你能与房屋、汽车和工厂对话
Archetype 的联合创始人兼首席运营官布兰登·巴贝洛 (Brandon Barbello) 表示：“物质世界是我们遇到最多问题的地方，因为它是如此复杂且瞬息万变，以至于事情超出了我们的感知范围，无法完全理解。” “我们在各种事物中安装了传感器来帮助我们，但传感器数据很难解释。 有潜力使用人工智能来理解传感器数据，然后我们最终可以理解这些问题并解决它们。” 当我拜访 Archetype 的五人创始团队时，他们正在其主要资助者风险投资公司 Venrock 位于帕洛阿尔托办公室的一间狭小的房间里工作，他们向我展示了一些具有启发性的演示，他们向我保证，这些演示只是暗示了牛顿的巨大潜在影响。 他们在一个盒子里放置了一个运动传感器，让牛顿想象这个集装箱是亚马逊的一个包裹，里面装着易碎的货物，应该仔细监控。 当盒子掉落时，运行该模型的显示器爆料称包裹可能已损坏。 人们可以很容易地想象一批疫苗，其运动、温度和 GPS 传感器都受到监控，以验证其是否能完全有效地到达目的地。 巴贝洛说，一个关键用例是使用牛顿“与房子交谈或与工厂交谈”。 您无需复杂的仪表板或定制软件来理解来自带有传感器的家庭或工业设施的数据，您可以让 Newton 用简单的语言（ChatGPT 风格）告诉您正在发生的事情。 “您不再需要逐个传感器、逐个设备地查看，而是实际上拥有整个工厂的实时镜像，”Barbello 说。 Archetype 的人工智能模型 Newton 接收来自不同传感器的数据，并将其组合并转换为关于物理世界中正在发生的事情的简单语言描述。 由原型提供 亚马逊拥有世界上一些最先进的数字化物流业务，自然而然地，亚马逊通过其工业创新基金成为了 Archetype 的支持者之一。 该基金负责人 Franziska Bossart 表示：“这有可能进一步优化通过我们的履行中心的货物流动，并提高客户的交货速度，这显然是我们的一个大目标。” Archetype也在探索医疗保健市场。 加州大学旧金山分校骨科外科教授 Stefano Bini 一直在研究可以评估膝关节置换手术后恢复进度的传感器。 牛顿可能会帮助他寻求一个单一的指标，也许来自多个传感器，“可以真正衡量任何医疗干预的影响，”他说。 Archetype 的另一个早期客户是大众汽车，该公司正在对 Archetype 模型进行一些早期测试。 令人惊讶的是，这些并不涉及自动驾驶，尽管 Archetype 非常希望其技术能够用于自动驾驶。 大众汽车的一项实验涉及这样一种场景：汽车的传感器可以分析运动，也许与驾驶员身上的传感器配合使用，以确定车主何时从商店回来并需要额外的帮助。 “如果我们在这种情况下认识到人类的意图，我可以自动打开后门，也许可以将我的东西放入特别加热或冷却的位置。” 大众汽车硅谷创新中心的高级首席科学家 Brian Lathrop 说道。 […]
人工智能热潮真实存在的证据：越来越多的人在工作中使用 ChatGPT
自 2022 年 11 月 ChatGPT 推出以来，科学、商业和媒体领域的许多人都对人工智能着迷。 粗略地看一下我自己在那段时期出版的作品，就会发现我是有罪的人之一。 我的辩护是，我和其他痴迷者一样相信大型语言模型是划时代变革的前沿。 也许我沉浸在生成式酷爱中，但我相信我们掌握的人工智能进步不仅会改变我们的工作方式，还会改变企业的结构，并最终改变人类的进程。 并非所有人都同意，最近几个月出现了强烈反对。 一些专家认为人工智能已经被过度吹捧和过度炒作 现在认为。 自封 人工智能首席评论家加里·马库斯 最近谈到法学硕士热潮时，“这并不奇怪 如果在某种程度上，整件事都失败了，我会这么做。” 其他人则声称人工智能陷入了困境 “失望的低谷。” 本周我们得到了一些数据，这些数据无法解决更大的问题，但提供了美国（如果不是世界）如何看待人工智能和大型语言模型的出现的快照。 皮尤研究中心在互联网、社交媒体和移动设备兴起期间进行了类似的调查，发布了一项关于 ChatGPT 如何被使用、看待和信任的研究。 该样本是在今年2月7日至11日期间采集的。 一些数字乍一看似乎表明法学硕士争议可能是大多数人不关心的狭隘分歧。 三分之一的美国人 没听说过 ChatGPT 的。 只有不到四分之一的人使用过它。 哦，对于人工智能将如何充斥公共广场的所有恐慌 有关 2024 年选举的错误信息？ 到目前为止，只有 2% 的美国人使用 ChatGPT 来获取有关已经开始的总统选举季的信息。 但更广泛地说， 调查数据 表明我们正在看到一项强大的技术，其崛起才刚刚开始。 如果您接受皮尤研究中心的样本代表所有美国人，那么数百万人确实熟悉 ChatGPT。 有一件事特别引人注目：虽然 17% 的受访者表示他们已将 ChatGPT 用于娱乐，同样数量的受访者表示他们已尝试使用它来学习新东西，但整整 20% 的成年人表示他们已将 ChatGPT 用于工作。 与 6 […]
摄影不再是任何事物的证据
几周来，世界充斥着由以下因素引发的阴谋论： 奇怪的文物 在摄影中 失踪的威尔士王妃的照片 她最终 承认 已被编辑。 他们中有一些 变得很疯狂，从掩盖凯特所谓的死亡，到王室成员是爬行动物外星人的理论。 但没有一个想法比 2024 年任何人都可能相信数字图像是证据更奇怪的了。 任何事物。 数字图像不仅具有无限的可塑性，而且操纵它们的工具也像泥土一样常见。 对于任何关注的人来说，这一点几十年来已经很清楚了。 这个问题在大约 40 年前就已明确提出， 共同撰写的一篇文章 凯文·凯利 (Kevin Kelly)，《连线》杂志创始编辑； 斯图尔特·布兰德； 和 Jay Kinney 在 1985 年 7 月版的 整个地球评论，一份由位于加利福尼亚州索萨利托的布兰德组织运营的出版物。 大约一年前，凯利看到了他父亲工作的出版商《时代生活》的内部时事通讯，由此萌生了写这个故事的想法。 它描述了一台价值数百万美元、名为 Scitex 的机器，它可以从摄影胶片中创建高分辨率数字图像，然后可以使用计算机对其进行更改。 高端杂志是第一批顾客：凯利了解到 国家地理 使用该工具确实移动了吉萨金字塔之一，以便它可以适合封面镜头。 “我想，‘伙计，这会改变一切，’”凯利说。 这篇文章的标题是“数字修饰：摄影作为一切证据的终结”。 它以一个虚构的法庭场景开始，一名律师辩称，受损照片应排除在案件之外，并表示，由于其不可靠性，“摄影在这个或任何其他法庭中没有地位。就此而言，电影、录像带、或录音带。” 这篇文章是否引起了人们对摄影可能被剥夺其作为文献证据的作用这一事实的广泛关注，或者是一个无人能辨别真假的时代的前景？ “不！” 凯利说。 没有人注意到。 就连凯利也认为，要使令人信服的修改照片的工具变得普遍可用还需要很多年。 三年后，来自密歇根州的两兄弟发明了 Photoshop，并于 1990 年作为 Adobe 产品发布。该应用程序将数字照片处理放在台式电脑上，从而大幅降低了成本。 到时候甚至 纽约时报 […]
Y Combinator 的首席初创公司 Whisperer 正在自我降级
当 Michael Seibel 失去在创业孵化器 Y Combinator 的职位时，他并没有发现 典型的科技行业时尚，这可能需要一封电子邮件，要求他参加 Zoom 会议，在那里传达坏消息。 他对自己做了这件事。 今天，Seibel 宣布他将辞去 YC 董事总经理一职，这项工作需要管理公司的核心业务：为为期三个月的计划挑选初创公司创始人，并进行训练营式的运营，以磨练他们的愿景和执行力。想法，以便他们可以筹集资金、发布产品并尝试成为下一个 Airbnb 或 Stripe（均为 YC 校友）。 考虑到 YC 对科技创业生态系统的重要性，Seibel 的退出将比一般的公司重组引起更多的共鸣。 一方面，YC 蓝筹加速器的运营者在塑造下一代科技公司方面发挥着重要作用。 近几个月来，YC 发现自己陷入了科技与进步派之间的交火之中。 不管是有意还是无意，塞贝尔这位广受欢迎的企业家和投资者本人正在巧妙地走出火线。 塞贝尔解释说，此举是一个更个人的决定。 去年的某个时候，他开始进行盘点，部分原因是阅读了 实力对实力，一本关于职业弧线的书，特别是晚年的转折点。 他只有 41 岁，但早熟是创始人心态的一部分，而且他在 23 岁时就成为了一家初创公司的首席执行官。“我做每件事都很早，”他说。 迈克尔·塞贝尔由 Y Combinator 提供 他意识到，从最初设想 YC 的人开始，他就一直在运行批次， 保罗·格雷厄姆。 新冠疫情消退后，YC 恢复了面对面的体验，而它开发的用于平滑新冠时代远程项目的软件使 IRL 操作更易于管理。 现在，该计划的工作原理是将每批新初创公司分为四组，每组都不大于 邓巴数 150，估计是人类大脑可以正常维持的最大关系数。 每个小组都有自己的领导者，因此 YC 不需要有人来监督整个小组。 […]
即时答复的聊天机器人令人惊叹的体验
如果这一切都是真的——目前还无法判断——Groq 很可能会对 Nvidia 的主导地位构成威胁。 罗斯在讨论这个问题时很小心。 “让我们明确一点——他们是歌利亚，我们是大卫，”他说。 “说英伟达担心我们是非常非常愚蠢的。” 不过，当被问及 Groq 时，Nvidia 的迅速回应表明这家初创公司确实在其关注范围内。 Goliath 的公关团队以近乎 Groq 的速度向我发送了一份声明，表明 Nvidia 的 AI 优势不仅在于其芯片，还在于其为客户提供的其他服务。 比如人工智能软件、内存、网络和其他好东西。 它表示：“数据中心的人工智能计算是一项复杂的挑战，需要全栈解决方案。”这意味着其未透露姓名的竞争对手可能会面临堆栈挑战。 无论如何，罗斯表示，他并不是在与 Nvidia 竞争，而是提供另一种体验，而且不仅仅是在速度方面。 他的使命是确保 Groq 能够提供公平的结果，不受政治观点或商业利益压力的影响。 “Groq 永远不会涉足广告业务，”他说。 “因为这会影响人们。 人工智能应该始终保持中立，它永远不应该告诉你你应该在想什么。 Groq 的存在是为了确保每个人都可以访问。 它帮助你做出你的决定，而不是它的决定。” 伟大的情感，但即使是 Groq 聊天机器人，当我询问它关于早期理想主义时，也对这种说法表示怀疑。 “创造利润和扩大规模的压力甚至可能导致善意的创始人在他们的理想上妥协，”该公司立即回应道。 另一件事。 您可能听说过埃隆·马斯克 (Elon Musk) 给它取了“Grok”这个名字 他的人工智能公司创建的法学硕士。 这让罗斯感到惊讶，因为他说他在 2016 年创立公司时就将公司名称注册为商标，并且他认为它涵盖了语音相同的原始术语。 “我们打电话给迪布斯，”他说。 “他不能拥有它。 我们已经发出了一封停止函。” 截至目前，他还没有得到马斯克的回应。 当我向 Groq 询问名称纠纷一事时，它首先警告我，它不提供法律意见。 “不过，我可以提供一些背景信息，帮助你更好地了解情况，”它说。 […]
我修复崩溃的 Roku 应用程序的任务提供了有关人工智能的警告
这句话中的两个词突然出现在我面前，就像戴着混合现实耳机的飞行恐龙一样： 如果可能。 当我在随后的通话中标记此问题时，Roku 向我保证我的问题已得到解决 将要 发生。 在最坏的情况下，如果问题在下一个操作系统中无法解决，受害者将获得一些咒语，让他们的电视回溯到以前的操作系统。 （这是否意味着我们又要按五次主页按钮？）如果 那 不起作用，Roku 表示完全不会出现这种情况，公司将确保以某种方式让每个人都满意。 该公司准备立即满足我的要求，为我提供了一台新电视。 我拒绝了，因为他们并没有向所有 Netflix 崩溃的人提供该服务。 我认为 Roku 的交易是真诚的。 我一直对我的 Roku 智能电视很满意，直到我不再满意，因为它总是崩溃。 我相信 Roku 的说法，它正在解决这个问题，并且可能真正解决它。 我承认在电视机等静态平台上更新软件是一个特殊的挑战。 天知道软件中的错误有多常见。 无论如何，我每次看电影时都无法在不重置电视的情况下观看Netflix，这是一个非常微不足道的问题。 你知道吗？ 即使我再也没有看过 Netflix，我也会活下去。 现在 Netflix 已经 在其商业模式中添加广告，我害怕有一天，该服务上的每个人都会接触到无休止的广告，除非我们支付的费用甚至超过已经失控的月费。 牛肉 很棒，但如果每 10 分钟就被药品广告打断，我就会放弃。 尽管如此，我的 Roku 问题还是一个警告。 人工智能正在将我们带入一个比以往任何时候都更加将我们的生活与数字技术交织在一起的时代。 如果您认为我们当前的软件很复杂，那就等到一切都在神经网络上运行吧！ 即使是创造它们的人也对它们的工作原理感到困惑。 而且，孩子，那些东西会出问题吗？ 就在本周，OpenAI 的聊天机器人脱口而出，导致 OpenAI 遭受了几个小时的困扰 语无伦次的评论，让人想起中风患者或共和党领跑者的“沙拉”这个词。 谷歌不得不暂时停止其 Gemini LLM 生成人物图像，因为它所谓的 “历史的矛盾” […]
Sierra 表示对话式人工智能将杀死应用程序和网站
我可能有 当我上周采访 Bret Taylor 和 Clay Bavor 关于他们新的人工智能初创公司时，无意中侮辱了他们。 他们的新公司， 塞拉正在开发人工智能驱动的代理，为大公司“提升客户体验”。 其原始客户包括 WeightWatchers、Sonos、SiriusXM 和 OluKai（一家“夏威夷风格”服装公司）。 Sierra 的最终市场是任何与其客户沟通的公司，这是一个相当大的机会。 在我看来，他们的计划验证了广泛流传的预测，即 2024 年将是过去一年中让我们深思熟虑的人工智能模型转化为真正产品的一年。 因此，当我向这些我认识多年的联合创始人打招呼时，我说他们的公司看起来“非常具体”。 难道这句话说错了吗？ “我不知道这是赞美还是批评，或者只是事实，”泰勒说。他辞去了 Salesforce 联合首席执行官的职务，创办了 Sierra。 我向他保证，我认为更多的是后者。 “这不像是你在建造 女朋友！” 我注意到。 值得注意的是，硅谷两位更有远见的领导者正在建立一家人工智能初创公司，不是为了追逐超级智能的书呆子奖杯，而是利用最新的人工智能进步来推动非技术性主流企业的未来发展。 他们的经验使他们能够与更知名的行业杰出人士正面交锋； 泰勒 (Taylor) 是谷歌地图的主要开发者，巴沃尔 (Bavor) 领导 谷歌在 VR 领域的努力。 他们急于向我保证，他们的心仍处于登月模式。 两人都认为对话式人工智能是与图形用户界面或智能手机同等的进步，并且至少会对我们的生活产生同样大的影响。 Sierra 恰好专注于其中一个特定的、企业化的方面。 “未来，公司的人工智能代理（基本上是该公司的人工智能版本）将与他们的网站一样重要，”泰勒说。 “它将彻底改变公司的数字化存在方式。” 为了以有效、愉快且安全地完成任务的方式构建机器人，Sierra 必须进行一些创新，以总体上推进人工智能代理技术的发展。 为了解决也许是最令人担忧的问题——可能给客户提供错误信息的幻觉——Sierra 同时使用了几种不同的人工智能模型，其中一个模型充当“监督者”，以确保人工智能代理不会进入令人迷惑的领域。 当某件事即将发生并产生实际后果时，Sierra 就会援引其以人为本的方法。 “如果你与 WeightWatchers 代理聊天并写一条消息，大约会调用四到五种不同的大型语言模型来决定要做什么，”泰勒说。 由于人工智能强大的大型语言模型的力量、广博的知识和不可思议的理解力，这些数字代理可以像人类一样掌握公司的价值观和程序——甚至可能比北方一些心怀不满的工人更好。达科他锅炉房。 […]
Facebook 使用 20 年后，立法者仍在努力修复它
20 年前，哈佛大学二年级学生马克·扎克伯格向他的大学社区发布了一个名为 Thefacebook 的程序，创立了一家拥有超过 30 亿用户、估值达到万亿美元、赚得盆满钵满的公司。 回扣股息 给股东。 还有什么比像黑手党老大或烟草高管在国会听证会上举手更好的庆祝方式呢？ “你手上沾满了鲜血，”参议院司法委员会高级成员林赛·格雷厄姆本周告诉扎克伯格。 “你的产品正在杀人。” 他身后的画廊里爆发出欢呼声，一些家庭相信他的创作杀死了他们的孩子。 听证会被称为 大型科技公司与在线儿童性剥削危机”，这提醒扎克伯格，尽管他对创建元宇宙和通用人工智能感到兴奋，但 20 年后，他的公司本质上仍然是一个社交网络。 迫切需要解决他的平台和其他人如何影响儿童安全和福祉的问题，这是国会多年来一直谴责的问题。 司法委员会起草了几项法案，迫使这些公司做得更好，其中包括要求更好的内容监管以及更容易对社交媒体公司实施民事和刑事处罚的法案。 除了扎克伯格之外，本周的听证会还邀请了 Discord 的 Jason Citron， X 的琳达·亚卡里诺、Snap 的 Evan Spiegel 和 TikTok 的 Shou Zi Chew，理论上是为了征求可以推进这些法案的证词。 但听证会的目的不是倾听高管们的意见，而是鞭打他们的罪行。 正如格雷厄姆所说，“如果我们等待这些人来解决问题，我们就会等死。” 事实上，立法者应该停止在这些闪烁其词的大亨身上浪费时间，而应该通过他们认为能够拯救年轻人生命的法律。 相反，他们在听证会上反复抱怨说，他们无法完成自己的工作，因为“律师和说客大军”挡在了路上。 有趣的是，我不记得在我的初中教科书中说客是这一过程的必需部分 法律如何通过。 尽管如此，一位又一位参议员抱怨国会同事被动地阻止这些法案，暗示他们更重视科技公司的支持，而不是防止青少年自杀。 路易斯安那州参议员约翰·肯尼迪曾一度呼吁多数党领袖查尔斯·舒默“去亚马逊，在网上购买一根书脊，并将这项法案提交参议院。” 也许下一次听证会应该让查克本人站在明亮的灯光下。 我现在可以想象： 舒默参议员， 这是真的吗 您的一个女儿是亚马逊的说客，另一个女儿则为 Meta 工作了多年？ 是还是不是！ 好吧，让我们规定，正如参议员们所看到的那样，除非公司取消他们的狗，否则美国国会没有足够的石头通过社交媒体儿童安全立法。 这意味着参议院必须工作 和 公司——或者他们的游说大军——寻求妥协。 但委员会并没有花费太多精力来寻找与这些公司的共同点。 […]
深受喜爱的独立博客“The Hairpin”如何变成人工智能标题诱饵农场
对于媒体来说这是多么令人发指的一个月。 几乎每天都有一家出版物宣布裁员或关闭。 体育画报 只是 松手 几乎所有员工都经历了有关人工智能生成文章的尴尬丑闻。 目前还不清楚这本已干涸的杂志的未来会怎样，但另一家曾经伟大的媒体的悲惨命运让我们看到了衰落的媒体资产可能会面临什么。 2018 年，独立女性网站 The Hairpin 及其姊妹网站 The Awl 停止发布。 今年，《The Hairpin》被重新塑造为《科学怪人》，并塞满了人工智能生成的草率文章，旨在吸引搜索引擎流量。 （示例标题：“当你记得你的梦时，这意味着什么？”和“白镇的‘你的女人’解释。”）一些原创文章仍然保留，但以一种奇怪的方式重新格式化，作者的署名已被替换为似乎不存在的人的通用男性名字。 作家凯利·科纳博伊 (Kelly Conaboy) 写的一篇关于名人牙齿的文章现在以“詹姆斯·诺伦”(James Nolen) 的名字出现，但我在网上找不到他的任何踪迹。 对于任何独立媒体财产来说，这都将是一个悲惨的结局。 对于 The Hairpin 来说，这尤其令人反感，因为该网站是内容工厂的对立面。 它从来没有吸引大量观众或追逐热门话题——它是一个由作家主导的网站，通过实验性、亲密性和奇怪性来吸引观众。 它充当了像前任这样的真正明星的发射台 纽约时报 记者贾兹敏·休斯， 马男波杰克 设计师丽莎·哈纳瓦特 (Lisa Hanawalt) 和 纽约人 作家贾·托伦蒂诺（Jia Tolentino）正是因为它重视培育新鲜想法 – 并让人们开玩笑！ – 而不是优化每次点击收入。 为了了解媒体的未来，我找到了 The Hairpin 的新主人——一位名叫 Nebojša Vujinović Vujo 的塞尔维亚 DJ。 他表示，该网站只是他 […]