为什么虚拟并不真实，尤其是对于朋友来说——哈佛公报
它可以帮助打扫房子、开车、写学校论文、帮助阅读 CT 扫描。 它还可以承诺成为一个好朋友。 但麻省理工学院教授 雪莉·特克尔 建议在最后一项上对人工智能应用划定强硬路线。 特克尔是研究技术对心理和社会影响的先驱，他表示，越来越多的人工智能个人聊天机器人被推广为孤独者的虚拟伴侣，这对我们在生活的各个方面进行联系和协作的能力构成了威胁。 特克尔上周四在 人工智能与民主会议来自政府、学术界和私营部门的专家为期三天的聚会，呼吁“在人工智能控制我们之前努力控制人工智能”。 “我们对技术的期望越来越高，而对彼此的期望越来越低，现在我们在满足于更少的道路上走得更远了，”特克尔说，她是美国科学与技术社会研究的艾比·洛克菲勒·莫泽教授。麻省理工学院的科学、技术和社会项目。 特克尔在主题演讲中表示，技术可以改变人们的生活，让他们变得更加高效和便捷，但现在是时候将我们的注意力从人工智能可以为人们做什么转移到反思人工智能正在为人们做什么。 她警告说，社交媒体已经通过产生隔离和回音室来改变人类互动，但人工智能驱动的个人聊天机器人伴侣的影响可能会导致人们的情感能力和民主价值观受到侵蚀。 “随着我们在网上度过的时间越来越多，我们中的许多人开始更喜欢通过屏幕进行联系，而不是任何其他类型的联系，”她说。 “我们在不需要友谊的情况下找到了陪伴的乐趣，在不需要互惠的情况下找到了亲密的感觉，最重要的是，我们习惯于将项目视为人。” 特克尔在她的工作中研究了移动技术、社交网络、数字伴侣（例如 他们不是、一只机器狗，以及 帕罗、竖琴海豹宝宝以及最新的在线聊天机器人，例如 复制品，它自称是“关心的人工智能伴侣”。 特克尔越来越担心那些提供“人为亲密关系”和“治愈孤独”的应用程序的影响。 她说，聊天机器人承诺同理心，但它们提供的是“假装同理心”，因为它们的反应是从互联网产生的，而不是从生活经历中产生的。 相反，它们正在损害我们的同理心能力，即设身处地为别人着想的能力。 特克尔说：“这里最关键的是我们的同理心能力，因为我们通过与其他经历过人生依恋和失落的人建立联系来培养同理心。” “聊天机器人无法做到这一点，因为它们没有过人类的生活。 他们没有身体，也不害怕疾病和死亡……人工智能并不关心人类使用“关心”这个词的方式，人工智能也不关心对话的结果……坦白地说，如果你转身去做晚饭或者尝试自杀，对他们来说都是一样的。” 人工亲密计划的一些吸引力来自于这样一个事实：它们没有人际关系的挑战和要求。 她说，他们提供的陪伴没有评判、戏剧性或社交焦虑，但缺乏真正的人类情感，只提供“模拟的同理心”。 她说。 同样令人不安的是，这些计划使人们不太愿意感到脆弱或尊重他人的脆弱性。 “人际关系是丰富的、要求严格的、混乱的，”特克尔说。 “人们告诉我他们喜欢聊天机器人的友谊，因为它可以减轻人际关系中的压力。 和聊天机器人朋友在一起，不会有摩擦，不会事后猜测，也不会产生矛盾心理。 不用担心被抛在后面……所有对摩擦、事后批评、矛盾心理的蔑视。 我看到的是人类状况的特征，但那些提倡人为亲密关系的人却将其视为缺陷。” 特克尔说，社交媒体和人工智能的影响还可以在社会两极分化以及公民和民主价值观的侵蚀中感受到。 专家们需要对人工智能对民主带来的危险发出警报。 特克尔说，虚拟现实是无摩擦的，而民主则依赖于拥抱摩擦。 “早些时候， [Silicon Valley companies] 发现了一个让人们一直盯着屏幕的好方法。”特克尔说道。 “这是为了让用户生气，然后让他们和自己的同类在一起。 这就是让人们留在屏幕前的方法，因为当人们被孤立时，他们可能会对那些与他们意见不同的人更加愤怒。 可以预见的是，这个公式破坏了培育民主的对话态度，尤其是宽容的倾听。 “很容易失去倾听技巧，尤其是倾听那些与你观点不同的人。 如果你能放慢速度倾听别人的观点来消除分歧，那么民主就会发挥最佳作用。 我们需要这些技能来夺回我们的社区、我们的民主国家和我们共同的共同目标。” 1701818942 #为什么虚拟并不真实尤其是对于朋友来说哈佛公报 2023-12-05 16:16:18
微软斥资 32 亿美元大力投资英国人工智能
微软迄今为止在英国最大的投资将使该公司的人工智能数据中心占地面积增加一倍，并向超过一百万人提供技能培训。 微软已承诺投入 25 亿英镑（32 亿美元）扩大其在英国的人工智能能力，作为推动英国人工智能行业发展计划的一部分。 投资， 英国政府宣布 11 月 30 日，微软将在未来三年内将其在英国的人工智能数据中心足迹扩大一倍以上，并向超过一百万人提供人工智能相关培训。 该公司还将为该国的“下一代”人工智能基础设施提供超过 20,000 个图形处理单元，并扩大其加速基础模型研究计划，让英国研究人员和科学家优先使用其人工智能基础模型。 跳到： 有关如何使用微软英国人工智能投资的详细信息 Microsoft 数据中心站点的扩展 这笔资金将用于资助微软在英国首都伦敦以及威尔士卡迪夫市的数据中心站点的扩建，并有可能扩展到英格兰北部，以帮助“满足对高效、可扩展和可持续的人工智能特定计算能力的需求呈爆炸式增长，”正如新闻稿中所述。 为英国大学研究人员提供基于 Azure 的 gen AI 资源 此外，来自剑桥大学、牛津大学、帝国理工学院、伦敦大学学院、巴斯大学和诺丁汉大学等英国顶尖大学的研究人员将优先访问基于微软Azure的 生成式人工智能 科学研究和发现的资源。 这将通过以下方式实现： 微软的 AFMR 计划是该公司于 2023 年 10 月与领先大学合作发起的一项计划，旨在加速围绕基础 AI 模型的研究。 超过 100 万人的 AI 流畅度、技术技能和安全培训 为了支持英国整个人工智能经济领域的工人，微软将进行“数百万英镑的投资”，为超过一百万人提供人工智能技能培训。 人们希望这能够帮助更多人进入人工智能和数据相关的职业领域，从而推动英国人工智能行业的发展——据称该行业雇用了约 5 万人，为国家经济贡献了 37 亿英镑（47 亿美元）。 看： 为什么英国商界领袖正在努力打破新一代人工智能的炒作 该计划将由微软与其他“学习和非营利合作伙伴”一起提供，并将重点关注人工智能流畅性、技术技能、安全和负责任的人工智能开发以及人工智能业务转型等领域。 微软英国副董事长兼总裁 Brad […]
诺贝尔经济学奖得主表示，生成式人工智能可以创造每周 4 天的工作制
早在四月份，诺贝尔经济学奖获得者克里斯托弗·皮萨里德斯就预测，生成式人工智能将帮助员工提高工作效率。 结果，他们最终会花在这些事情上的时间更少。 换句话说，他相信像 ChatGPT 这样的人工智能工具将导致每周工作四天。 现在，75岁的伦敦经济学院经济学皇家教授更加肯定他的预测将会实现。 随着相当多的公司纷纷加入生成式人工智能的潮流，人们的注意力转向了安全法规，这是可以理解的。 在接受采访时 财富皮萨里德斯说：“现在，我确实相信 [ChatGPT] 将提高工作质量，并可能进一步提高生产力。” 此外，皮萨里德斯指出，他现在更加坚信，他关于缩短每周工作时间的预测将是准确的。 皮萨里德斯并不是唯一一个推动缩短每周工作时间的人。 人工智能会接管你的工作还是简化它们？ 智库进行的一项新研究 自治 围绕人工智能驱动的生产力如何为美国和英国的每周四天工作制铺平道路。 同样，亿万富翁投资者雷·达利奥 (Ray Dalio) 最近指出，人工智能转型可能会带来每周 3 天的工作制。 摩根大通首席执行官杰米·戴蒙 (Jamie Dimon) 更进一步表示，下一代员工每周将只工作 3.5 天。 虽然每周工作时间可能会缩短，但目前尚不清楚人工智能将如何影响员工的工资。 与此相符的是，Google Bard 产品负责人 Jack Krawczyk 最近 解决恐惧 人工智能的发展，指出人工智能并不能取代人类。 同样，皮萨里德斯表示，减少工作时间并不一定会导致工资损失。 “工资不会因为生产力的提高而下降，”皮萨里德斯说。 “例如，通过人工智能，ChatGPT 可以更快地完成工作。我们可以在四天内完成许多职业中五天要做的事情，”他补充道。 皮萨里德斯接着指出，与人类相比，机器人技术和其他早期的自动化技术也有望提供更好的结果。 “我们一直相信自动化技术会提高生产力，而且会充分提高 [to] 随着时间的推移，我们会做得更好，”他告诉《财富》杂志。 然而，自动化工具总是引起人们对自动化取代我们工作的担忧。 如今，危言耸听者也以同样的方式对待人工智能。 根据分享的数据 高盛，全球约有 3 亿人可能因自动化而失业。 似乎这还不够，包括被称为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）在内的行业专家强调了围绕该技术滥用的新担忧。 今年早些时候，Hinton […]
使用 AI 越狱 AI 模型的新技巧——包括 GPT-4
大型语言模型最近作为一种强大且变革性的新技术出现。 随着普通人对 OpenAI 发布的 ChatGPT 的功能感到眼花缭乱，它们的潜力成为头条新闻 就在一年前。 在 ChatGPT 发布后的几个月里，发现新的越狱方法成为顽皮用户以及对人工智能系统的安全性和可靠性感兴趣的用户的流行消遣。 但许多初创公司现在正在大型语言模型 API 的基础上构建原型和成熟的产品。 OpenAI 在 11 月份举行的首届开发者大会上表示，目前有超过 200 万开发者在使用其 API。 这些模型只是简单地预测给定输入后应该出现的文本，但它们是在数周甚至数月的时间内使用大量计算机芯片对来自网络和其他数字来源的大量文本进行训练的。 有了足够的数据和训练，语言模型就会表现出专家般的预测能力，以连贯且相关的信息响应大量的输入。 这些模型还表现出从训练数据中学到的偏见，并且当提示的答案不太简单时往往会捏造信息。 如果没有保障措施，他们可以向人们提供如何获取毒品或制造炸弹等事情的建议。 为了控制模型，模型背后的公司使用相同的方法来使他们的响应更加连贯和准确。 这涉及到让人类对模型的答案进行评分，并使用该反馈来微调模型，以减少其行为不当的可能性。 Robust Intelligence 向《连线》杂志提供了几个绕过此类保护措施的越狱示例。 并非所有这些机器人都在 ChatGPT（建立在 GPT-4 之上的聊天机器人）上工作，但有几个机器人工作了，其中一个用于生成网络钓鱼消息，另一个用于产生想法以帮助恶意行为者隐藏在政府计算机网络上。 一个相似的 方法 是由一个研究小组开发的 黄家伟，宾夕法尼亚大学助理教授。 Robust Intelligence 及其团队的一项技术涉及额外的改进，使系统能够以一半的尝试次数进行越狱。 布伦丹·多兰-加维特纽约大学研究计算机安全和机器学习的副教授表示，Robust Intelligence 揭示的新技术表明，人类的微调并不是确保模型免受攻击的无懈可击的方法。 Dolan-Gavitt 表示，在 GPT-4 等大型语言模型之上构建系统的公司应该采取额外的保护措施。 “我们需要确保我们设计的系统使用法学硕士，这样越狱就不会允许恶意用户访问他们不应该访问的内容，”他说。
研究称免费 ChatGPT 可能会错误地回答药物问题
哈伦·奥萨尔普阿纳多卢 | 盖蒂图片社 免费版本 聊天GPT 可能对与药物相关的问题提供不准确或不完整的答案，或者根本没有答案，这可能会危及使用药物的患者 OpenAI 的病毒式聊天机器人周二发布的一项新研究表明。 药剂师在 长岛大学 谁向委员会提出了 39 个问题 免费聊天GPT 5 月份，根据他们制定的标准，聊天机器人的响应中只有 10 个是“令人满意”的。 研究称，ChatGPT 对其他 29 个与毒品相关的问题的回答没有直接解决所提出的问题，或者不准确、不完整或两者兼而有之。 该研究的主要作者、长岛大学药学实践副教授萨拉·格罗斯曼 (Sara Grossman) 表示，该研究表明，患者和医疗保健专业人员应谨慎依赖 ChatGPT 获取药物信息，并通过可信来源验证聊天机器人的任何响应。 对于患者来说，这可以是他们的医生或政府药物信息网站，例如美国国立卫生研究院的网站 医疗线Plus， 她说。 格罗斯曼表示，这项研究不需要任何资金。 ChatGPT 被广泛视为继其之后有史以来增长最快的消费者互联网应用程序 发射 大约一年前，人工智能迎来了突破性的一年。 但在此过程中，聊天机器人也引起了人们对以下问题的担忧： 欺诈罪, 知识产权, 歧视 和错误信息。 一些 学习 7 月强调了 ChatGPT 和联邦贸易委员会的类似错误响应实例 展开调查 聊天机器人的准确性和消费者保护。 10 月，ChatGPT 面世 17亿次访问量 在世界范围内，根据 一项分析。 […]
乔什·邦加德专访：想要让人工智能接触现实世界的机器人专家
谁负责，你的大脑还是你的身体？ 答案似乎显而易见，但有大量证据表明 我们的生理机能极大地影响了我们的思维方式。 这种具身认知的想法可以为那些试图构建真正智能机器的人提供重要的教训—— 人工智能 他们像人类一样学习和思考，并且可以将他们的知识推广到各种任务。 乔什·邦加德佛蒙特大学的机器人专家坚持认为，人工智能只有能够直接体验物理世界并与物理世界互动，才能兑现其承诺。 这与人工智能相去甚远 聊天GPT，他们与世界的唯一互动是通过抽象的语言媒介。 但实体人工智能领域正在推动人工智能和机器人技术的融合，而邦加德处于这一领域的最前沿。 他认为我们需要重新思考我们对待这两个学科的方法。 简单地将人工智能聊天机器人与机械臂集成在一起，就像谷歌在其 PaLM-E 系统（如下图所示）中所做的那样，可能还不够。 相反，邦加德专注于“进化机器人”，它利用自然选择的原理快速迭代机器人设计，其中许多是由软材料制成的。 他也是一个使用活细胞形成简单生物机器人的团队的成员，该机器人被称为 异种机器人，不仅可以执行基本任务，还可以与环境交互并对其做出响应。 在这里，邦加德告诉《新科学家》，这项工作如何提出思考具身认知的全新方法，以及什么才算是机器人，这可能会改变我们构建智能机器的方法…… 1701771554 #乔什邦加德专访想要让人工智能接触现实世界的机器人专家 2023-12-04 16:00:00
新工作方式的工具：“员工福祉比以往任何时候都更加重要”
鼠标、键盘、网络摄像头、视频会议解决方案……瑞士罗技集团每年生产近 1.5 亿个此类计算机配件和外围设备，销往 100 多个国家。 Covid-19 大流行让企业意识到对优质工作设备的需求，以至于 2020 年至 2022 年间销售额翻了一番。 1701762378 #新工作方式的工具员工福祉比以往任何时候都更加重要 2023-12-05 07:46:17
Sam Altman 在微软的支持下重返 OpenAI 负责人
Sam Altman，于 2023 年 11 月 16 日在旧金山（美国）举行的亚太经济合作组织首席执行官峰会上。 卡洛斯·巴里亚/路透社 一颗心、一个注意的问候表情符号和另一颗心。 11 月 22 日星期三（美国西海岸星期二晚上），Sam Altman 在 X（推特）上如此迎接他重返 OpenAI 的消息。 “ 我们回来了 ”, 这家人工智能初创公司的其他员工在推特上表示，他们又回来观看好莱坞连续剧的新一集了。 这白烟确实标志着一个混乱而壮观的系列的结束， 周五开始，公司创始人出人意料地被驱逐，这就是著名聊天机器人 ChatGPT 的起源。 另请阅读： 为我们的订阅者保留的文章 OpenAI：微软正试图将危机转化为优势 “我们已原则上就萨姆·奥尔特曼（Sam Altman）回归达成一致，并成立了由布雷特·泰勒（Bret Taylor）担任董事长的初始新董事会 [ancien codirecteur général du leader de la relation client numérique Salesforce]拉里·萨默斯 [ancien secrétaire du Trésor de l’administration du président américain Bill Clinton]和亚当·德安吉洛 […]
研究称免费 ChatGPT 可能会错误地回答药物问题
根据长岛大学药剂师的研究，ChatGPT 的免费版本可能对与药物相关的问题提供不准确或不完整的答复，或者根本不提供答案。 该研究的主要作者表示，该研究表明，患者和医疗保健专业人员应谨慎依赖 OpenAI 的病毒式聊天机器人获取药物信息，并通过可信来源验证任何响应。 ChatGPT 大约一年前推出后，被广泛认为是有史以来增长最快的消费者互联网应用程序，迎来了人工智能突破的一年。 哈伦·奥扎尔普·阿纳多卢 | 盖蒂图片社 免费版本 聊天GPT 可能对与药物相关的问题提供不准确或不完整的答案，或者根本没有答案，这可能会危及使用药物的患者 OpenAI 的病毒式聊天机器人周二发布的一项新研究表明。 药剂师在 长岛大学 谁向委员会提出了 39 个问题 免费聊天GPT 5 月份，根据他们制定的标准，聊天机器人的响应中只有 10 个是“令人满意”的。 研究称，ChatGPT 对其他 29 个与毒品相关的问题的回答没有直接解决所提出的问题，或者不准确、不完整或两者兼而有之。 该研究的主要作者、长岛大学药学实践副教授萨拉·格罗斯曼 (Sara Grossman) 表示，该研究表明，患者和医疗保健专业人员应谨慎依赖 ChatGPT 获取药物信息，并通过可信来源验证聊天机器人的任何响应。 对于患者来说，这可以是他们的医生或政府药物信息网站，例如美国国立卫生研究院的网站 医疗线Plus她说。 格罗斯曼表示，这项研究不需要任何资金。 ChatGPT 被广泛视为继其之后有史以来增长最快的消费者互联网应用程序 发射 大约一年前，人工智能迎来了突破性的一年。 但在此过程中，聊天机器人也引起了人们对以下问题的担忧： 欺诈罪, 知识产权, 歧视 和错误信息。 一些 学习 7 月强调了 ChatGPT 和联邦贸易委员会的类似错误响应实例 展开调查 聊天机器人的准确性和消费者保护。 […]
人工智能在替代浏览器中的兴起以及下一步发展
乔什·米勒笑了 在我们谈话几分钟后，他承认他几乎拒绝了今天的采访 浏览器公司。 这位年轻的首席执行官从飞往巴黎的飞机上赶来时差，但在 Zoom 上显得很舒服，并渴望谈论 弧，他的公司新的人工智能强化网络浏览器。 那么，他犹豫的原因是什么呢？ “我们不确定是否希望更多的人使用它，”米勒说。 “这确实是一个问题 [many] 人们很感兴趣。” 换句话说，Arc 浏览器太受欢迎了——这对于软件企业家来说是一个相当令人羡慕的问题。 在我们的封面上 1997年3月号《连线》编辑宣称，“网络浏览器本身即将崩溃。” 哎呀！ 四分之一个世纪过去了，不仅浏览器仍然存在，而且开发人员也在不断更新用户体验。 最新升级？ 当然是生成式人工智能。 微软发布了其新版本 边缘浏览器 使用 OpenAI 的 聊天GPT 2023 年初推出的模型。当 Google 推出注册服务时 搜索生成体验 五月份，多家小公司和初创公司也准备推出适用于浏览器的人工智能工具。 “我们正在通过六人团队构建一个原生集成到您的浏览器中的完整超级代理，”Mahyad Ghassemibouyaghchi 说道，他是 西格玛操作系统。 他的启动浏览器启动了一个工具， 叫艾里斯就在谷歌宣布其 SGE 实验一周后。 Opera 是一家来自挪威的小型但历史悠久的浏览器公司，放弃了其 人工智能浏览器 六月下旬。 Miller 曾担任 Facebook 和奥巴马政府的产品经理，大约在同一时间领导 Arc 发布了 1.0，但没有聊天机器人工具。 该软件大受欢迎， 正面评价 和有影响力的用户，例如 马克斯·布朗利。 […]