AI推理时代崛起:算力需求向推理侧倾斜
AI导读:
AI领域竞争焦点转向推理领域,算力需求加速从预训练向推理侧转移,定制化芯片需求有望扩大,AI模型发展进入新阶段。
ChatGPT面世已逾两年,AI领域的竞争焦点正悄然变化,由训练端转向更为广阔且激烈的推理领域。推理被视为AI大模型发展的“下半场”,上半场的竞争集中于快速预训练响应,而今,AI推理时代正逐步逼近,慢速深度推理成为新的关注焦点。
在温哥华NeurIPS大会上,OpenAI联合创始人兼前首席科学家伊利亚·苏茨克维尔(Ilya Sutskever)断言:“AI预训练时代无疑将终结。”自今年5月离开OpenAI后,Ilya Sutskever创立了Safe Superintelligence AI实验室,并在此次大会上罕见露面。
Ilya Sutskever在演讲中将数据比作化石燃料,指出燃料终将耗尽。“算力在增长,但数据却停滞不前,因为我们只有一个互联网……数据峰值已至,我们必须充分利用现有数据。”
尽管现有数据仍可推动AI进步,但行业正竭力挖掘新数据源进行训练,这终将促使AI模型训练方式的变革。
Ilya Sutskever预测,下一代AI模型将是真正的AI Agent,具备推理能力。目前的AI主要依赖大模型先前学习的内容进行匹配,而未来的AI则能以更接近人类思考的方式逐步解决问题。“它们能凭有限数据理解事物,不会感到困惑。”他补充说,AI推理越多,越难以预测。
Ilya Sutskever的观点与OpenAI近期的表态及动向不谋而合,均强调用推理弥补数据瓶颈。
OpenAI高级研究副总裁Mark Chen在11月末的谈话中否认了“Scaling Law撞墙”的说法,表示“我们已准确掌握需解决的技术挑战”,并通过o系列和GPT系列模型保持Scaling。
近日,OpenAI发布的o1模型即为推理模型,其最显著特点是“会推理”。在回答前,o1会思考,通过产生长内部思维链(CoT),逐步推理,模仿人类解决复杂问题的过程。
这一过程与Ilya Sutskever的“以更接近思考的方式逐步解决问题”理念高度契合。
对于一般用户而言,o1模型的转变或许不易察觉,但The Atlantic指出,研究人员已认识到,与GPT等旧模型相比,o1模型不仅是简单升级,更标志着“全新游戏规则”和“真正进步”。
▌AI推理时代来临?
预训练时代或将落幕,而AI算力“跷跷板”的另一端,推理正崛起。
近期多家券商研报指出,随着端侧AI放量及豆包、ChatGPT等AI应用快速发展,算力需求加速从预训练向推理侧转移,推理有望成为下一阶段算力需求的主要驱动力。
随着大规模AI模型普及,推理需求不断扩大并多样化,定制化芯片需求也有望随之扩大。
巴克莱报告预测,AI推理计算需求将快速增长,占通用人工智能总计算需求的70%以上,甚至可能超过训练计算需求,达到后者的4.5倍。英伟达GPU目前占推理市场约80%份额,但随着大型科技公司定制化ASIC芯片不断涌现,这一比例有望在2028年降至50%左右。
博通财报也证实了ASIC需求的旺盛:2024财年公司人工智能收入增长220%,达122亿美元;预计2025财年第一财季AI产品收入同比增长65%。博通透露,正与三大客户开发AI芯片,预计明年公司AI芯片市场规模为150亿-200亿美元。
谷歌、AWS等科技巨头加大定制化AI芯片研发投入,以强化人工智能领域技术优势和供应链控制力。国金证券研报指出,这一趋势不仅助力企业应对复杂AI需求,还推动自研芯片赛道高景气度和持续创新。未来,自研芯片将在AI推理和训练领域扮演关键角色,成为降本增效和提升算力的重要手段。
(文章来源:财联社)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。