蚂蚁集团推出领先MoE大模型,助力国产AI芯片发展
AI导读:
蚂蚁集团Ling团队推出百灵轻量版与增强版MoE大语言模型,性能领先。实验表明,其3000亿参数模型可在国产GPU上高效训练,有望降低对英伟达芯片的依赖。同时,多家国内AI算力厂商启动IPO辅导,将扩展A股投资选择。
近日,蚂蚁集团Ling团队在AI领域取得了重大突破,发表了技术成果论文,推出了两款MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus)。前者参数规模为168亿,后者基座模型参数规模高达2900亿,均达到了行业领先水平。
除了性能卓越的大模型,该论文的最大亮点在于提出了一系列创新方法,旨在提升资源受限环境下AI开发的效率。实验显示,其3000亿参数的MoE大模型能在国产GPU的低性能设备上高效训练,性能与英伟达芯片同规模的稠密模型及MoE模型相当。
蚂蚁集团的技术成果论文《每一个FLOP都至关重要:无需高级GPU即可扩展3000亿参数混合专家LING大模型》已发表于Arxiv平台。若该技术得到验证及推广,有望降低对英伟达芯片的依赖,推动国产AI芯片的发展。

AI芯片主要分为通用型(GPU)、半定制型(FPGA)、定制型(ASIC)。GPU计算能力强,但成本高、功耗高;FPGA灵活,计算能力不强;ASIC体积小、功耗低,但研发时间长、前期投入高。国内GPU厂商代表有壁仞科技、天智数芯、摩尔线程等;ASIC厂商代表有华为海思昇腾、寒武纪等。
自2024年8月以来,多家国内AI算力厂商启动IPO辅导,包括燧原科技、壁仞科技、摩尔线程等。若这些企业成功上市,将大幅扩展A股AI算力厂商的投资选择。
这些接受IPO辅导的企业创始团队均拥有丰富背景,如燧原科技创始团队来自AMD,沐曦股份创始团队同样来自AMD,摩尔线程创始团队则来自英伟达。此外,天数智芯、昆仑芯等厂商也备受市场关注。
(文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。)
(文章来源:每日经济新闻)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。