想拯救地球免受人工智能的侵害?使用 FPGA 并抛弃矩阵 • –

加州大学圣克鲁斯分校的研究人员声称,利用替代数学和定制硬件可以使大型语言模型的能源效率提高 50 倍。 在 一篇论文 题为“可扩展的无 MatMul 语言建模”的论文中,作者 Rui-Jie Zhu、Yu Zhang、Ethan Sifferman、Tyler Sheaves、Yiqiao Wang、Dustin Richmond、Peng Zhou 和 Jason Eshraghian 描述了如何通过摆脱 矩阵乘法 并添加自定义现场可编程门阵列(FPGA)。 人工智能(我们指的是具有预测性和幻觉的机器学习模型)对于维持地球宜居性非常不利,因为它消耗了太多能源, 其中大部分 来自化石燃料的使用。数据中心的运营提供人工智能服务,自 2020 年以来使微软的二氧化碳排放量增加了 29.1%,人工智能驱动的谷歌搜索每次消耗 3.0 Wh,是传统谷歌查询的十倍。 今年早些时候, 国际能源署 [PDF] 预计到 2026 年,全球数据中心的电力消耗将几乎翻一番,从 2022 年的 460TWh 上升到两年内的 800TWh 以上。对人工智能能源的渴求甚至重新激发了人们对核能的兴趣,因为为了聊天机器人、平淡的营销文案和按需图像生成而加速化石燃料的消耗,即使不是一种潜在的反人类犯罪,也具有政治风险。 加州大学圣克鲁斯分校巴斯金工程学院电气与计算机工程助理教授、该论文的主要作者 Jason Eshraghian 告诉 登记册 该研究成果可以在定制 FPGA 硬件的帮助下节省 50 倍的能源。 “我应该指出,我们的 FPGA 硬件也非常不优化,”Eshraghian […]