字节火山引擎大会聚焦AI,推理算力需求激增
AI导读:
字节火山引擎冬季原动力大会即将举行,将聚焦AI领域,带来豆包大模型全面升级等创新成果。同时,AI应用带来的推理算力需求正快速增长,国内推理需求从百万卡向千万卡迈进。
财中社12月17日电财通证券最新发布的计算机行业报告揭示了即将于12月18-19日在上海举办的字节火山引擎冬季原动力大会的重要信息。此次大会将聚焦于AI领域,带来一系列创新成果。据官网透露,大会亮点包括豆包系列大模型的全面升级,以及围绕AI+企业服务、AI+产业转型等核心话题的分享,这些话题旨在展示AI如何赋能实体经济。
豆包大模型家族凭借其全模态能力,在国内AI应用领域独占鳌头,DAU(日活跃用户数)稳居首位。尤为值得一提的是,视频生成模型虽仍处于测试阶段,但随着Open AISora的正式商用,预计字节豆包视频类大模型有望在本次大会上发布并开启商业化进程。
此外,大会还透露出AI领域推理算力需求的巨大潜力。AI原生应用、视频生成应用以及AI对传统应用的改造,正推动国内推理需求从百万卡级别向千万卡级别迈进。基于Open AI的研究成果,推理算力需求与模型参数量、处理token数及活跃用户量的乘积成正比。目前,国内大模型APP的推理算力需求已达到数十万颗GPU级别。
然而,真正的海量活跃用户仍主要集中在传统应用中,这部分用户群体庞大,对推理算力的需求更为迫切。展望未来,若短视频中有20%由AI生成,即便在清晰度较低的情况下,芯片需求也将达到百万颗级别。随着AI生成高清长视频渗透率的提升,推理算力需求将迎来质的飞跃。总体而言,国内推理算力市场正迎来前所未有的发展机遇。
(文章来源:财中社)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。