英特尔的“Gaudi 3”人工智能加速器芯片可能会与 Nvidia 的 H100 竞争
放大 / 英特尔发放的 Gaudi 3 AI 加速器照片。 周二，英特尔 透露 在凤凰城举行的 Vision 2024 活动上展示了一款名为 Gaudi 3 的新型人工智能加速器芯片。 在运行大型语言模型（例如那些支持 聊天GPT），该公司将 Gaudi 3 定位为 Nvidia 的替代品 H100，一种流行的数据中心 GPU，已 可能会出现短缺，虽然显然这是 有所缓解。 与 Nvidia 的 H100 芯片相比，英特尔预计在 Gaudi 3 上 OpenAI 的 GPT-3 175B LLM 和 Meta 的 70 亿参数版本的训练时间要快 50% 骆驼2。 在推理（运行经过训练的模型以获得输出）方面，英特尔声称其新的 AI 芯片为 Llama 2 和 H100 提供的性能比 […]