英特尔和微软讨论在 PC 上本地运行 Copilot 的计划,而不是在云端运行

放大 / AI PC 的基本要求,至少在运行 Windows 时是这样。

英特尔

微软 一月份说 2024 年将是“AI PC”之年,我们知道 AI PC 将包括一些大多数 Windows 系统目前不包括的硬件组件,即 内置神经处理单元 (NPU) 和微软新的键盘副驾驶键。 但到目前为止,我们还没有听说过太多关于所谓的人工智能电脑实际上能为用户做什么的消息。

微软和英特尔开始讨论一些细节,作为英特尔宣布的一项新的人工智能 PC 开发人员计划的一部分,该计划将鼓励软件开发人员利用本地硬件将人工智能功能构建到他们的应用程序中。

主要新闻 来自汤姆的硬件,确认人工智能 PC 将能够“在客户端本地”运行“微软人工智能聊天机器人助手 Copilot 的更多元素”。 目前,即使是小请求,Copilot 也依赖于服务器端处理,如果您发出广泛的信息请求,则引入的延迟是可以容忍的,但如果您只想更改设置或获得基本答案,那么延迟就较小。 在本地运行生成式人工智能模型还可以改善用户隐私,从而可以利用人工智能软件,而无需自动将信息发送给将使用该软件进行进一步模型训练的公司。

目前,Windows 并没有太多使用本地 NPU,因为当前大多数 PC 都没有它们。 Surface Studio 网络摄像头功能可以使用 NPU 来实现节能的视频效果和背景替换,但在撰写本文时仅此而已。 苹果和谷歌的操作系统都使用 NPU 来实现更广泛的图像和音频处理功能,包括面部识别和对象识别、OCR、实时转录和翻译等。

英特尔还表示,微软将要求“下一代人工智能电脑”中的 NPU 达到每秒 40 万亿次运算(TOPS)的速度才能满足其要求。 Intel、AMD、Qualcomm 和其他公司在比较其 NPU 时有时会使用 TOPS 作为高级性能指标; 英特尔的 Meteor Lake 笔记本电脑芯片可以运行 10 TOPS,而 AMD 的 Ryzen 7040 和 8040 笔记本电脑芯片分别达到 10 TOPS 和 16 TOPS。

对于英特尔来说不幸的是,第一家推出适合本地为 Copilot 供电的 NPU 的公司可能来自高通。 公司即将 骁龙 X 处理器长期以来被视为 Windows 生态系统对 Apple M 系列 Mac 芯片的回应,承诺高达 45 TOPS。 有传言称,在提供英特尔和高通选项几年后,微软将把其 Surface 平板电脑的消费者版本转向高通芯片。 微软宣布 上周使用英特尔 Meteor Lake 芯片的 Surface Pro 更新 但仅将其出售给企业。

华硕和英特尔正在提供一款配备 Meteor Lake CPU 及其内置 NPU 的 NUC 作为人工智能开发平台。
放大 / 华硕和英特尔正在提供一款配备 Meteor Lake CPU 及其内置 NPU 的 NUC 作为人工智能开发平台。

英特尔

综上所述,TOPS 只是一种简化的性能指标。 当使用 FLOPS 来比较图形性能时,它不精确,并且无法捕获每个 NPU 处理不同任务的方式的变化。 Arm 版本的 Windows 仍然存在软件和硬件兼容性问题,可能会继续阻碍其发展。

作为其开发者计划的一部分,英特尔还提供了以华硕 NUC Pro 14 为中心的“AI PC 开发套件”,这是一款围绕英特尔 Meteor Lake 芯片构建的迷你 PC。 英特尔正式 去年停止生产 NUC 迷你电脑,传递品牌及其所有设计 去华硕。 华硕也在处理 所有剩余的保修服务和软件支持 适用于英特尔设计和销售的旧版 NUC。 NUC Pro 14 是自过渡以来首批宣布的新 NUC 之一,此外还有 ROG NUC 迷你游戏电脑。

1711578498
#英特尔和微软讨论在 #上本地运行 #Copilot #的计划而不是在云端运行
2024-03-27 18:45:55

Leave a Reply

Your email address will not be published. Required fields are marked *

近期新闻​

编辑精选​