OpenAI 在今年可能只会发布GPT-4.5 ,而不是GPT-5

尽管GPT-4 目前在日益错综复杂的生成式人工智慧世界中处于顶峰,但其竞争对手,包括Anthropic 的Claude 和Meta 的开源Llama 都在不断进步,因此OpenAI 的旗舰产品大型语言模型(LLM)有必要进行新一轮迭代。虽然不少人预计山姆.奥特曼的非营利组织将在2024 年发布GPT-5,但一些分析师现在断言,这种预期仍然很牵强,尤其是考虑到所需的资源规模。

GPT每换代一次,运算资源就增加10倍

据人工智慧安全中心(Center for AI Safety)主任丹.亨德里克斯(Dan Hendrycks)称,OpenAI 的GPT LLM 每换代一次,所需的计算资源就增加10 倍。因此,如果OpenAI 跳过GPT-4.5,直接跳到GPT-5,那么计算需求将比GPT-4 增加约100 倍,相当于约100 万个H100 晶片连续运行三个月。

Anthropic 公司首席执行长达里奥.阿莫代(Dario Amodei)最近指出,目前培养一个最先进的LLM 需要花费约10 亿美元,预计到2025/26 年,这一成本将激增到50 亿到100 亿美元之间。重要的是,10 亿美元的培训成本与GPT-4.5 可以合理推断出的10 倍计算资源激增相吻合。

NVIDIA 今年部署的H100 装置预计年耗电量约为13000 GWh,相当于立陶宛和瓜地马拉等国的年耗电量。到2027 年,全球资料中心的耗电量预计将达到85 到134 太瓦时(TWh)!

OpenAI 在今年可能只会发布GPT-4.5 ,而不是GPT-5

竞争对手正迎头赶上

GPT-4 的竞争对手正在迅速迎头赶上。 Meta 公司的Llama 3 LLM(700 亿参数)目前在Arena 排行榜上排名前五。重要的是,Llama 3 现在已经超越了所有其他开源LLM,这还是在没有即将推出的4050 亿参数模型的情况下。

OpenAI 在今年可能只会发布GPT-4.5 ,而不是GPT-5

此外,一些专家现在认为,GPT-5 学习的过程必须「重修」,其中包括利用「不完善的人类对话」和整体「幼稚」的训练过程,才能改善目前已知GPT的相关问题,而这也需要花费很多时间。这与我们最初的观点不谋而合,即OpenAI 很可能会在今年发布一个GPT-4.5 模型,而不是在GPT-5 中彻底改变赌注。

1714039604
#OpenAI #在今年可能只会发布GPT4.5 #而不是GPT5
2024-04-25 08:00:00

Leave a Reply

Your email address will not be published. Required fields are marked *

近期新闻​

编辑精选​