AI大模型进入规模化落地阶段,行业大模型呼唤商业价值
AI导读:
随着AI大模型进入规模化落地应用阶段,行业大模型密集发布。算力、算法、数据成为关键要素,但算力与数据成为发展瓶颈。金融行业成为大模型落地的重要领域,呼唤商业价值。
巨大技术投入的尽头仍是如何创造商业价值。随着AI大模型进入规模化落地应用的新阶段,近期,行业大模型密集发布。2024年12月底,百川智能推出了全链路领域增强的金融大模型Baichuan4-Finance,中关村科金也推出了助大模型平台2.0,而奇富科技则早已将大模型引入小微金融场景。
相较于巨头在通用大模型领域的算力与技术竞争,特定场景的行业大模型更加贴近实际需求。2024年,众多云厂商纷纷寻求与一线业务场景结合,以构建大模型产品并获得用户反馈。
中国工程院院士、清华大学计算机系郑纬民教授指出,通用大模型无需过多,全国有三四个便足够。大模型未来的发展关键在于如何更好地应用,并构建完善的软件生态。
算力与数据成为大模型发展瓶颈
算力、算法、数据是驱动大模型发展的关键要素。其中,算力和数据是当前企业面临的主要壁垒。随着大语言模型规模的不断扩大,参数高达万亿级别,训练所需的资金、人力和能源成本急剧上升。
郑纬民教授强调,基础大模型需要巨大的计算量,而具体场景的行业模型则无需如此庞大的计算资源。他以一家知名大模型创业公司为例,该公司追求数据更多、模型更大、上下文窗口更长,以带来更好的输出效果,但这也导致了推理负载的增加和存储器超负荷的风险。
据业内人士透露,大模型的训练成本高昂,但随着技术的迭代,推理成本在2024年已大幅降低。同时,数据问题也成为制约大模型发展的另一大瓶颈。据Epoch AI Research预测,到2026年,现存的高质量语言数据将耗尽,而Gartner的研究报告则指出,到2030年,合成数据将成为AI模型的主要训练数据来源。
市场普遍认为,大模型行业已告别狂飙突进的时代,进入精细化落地的新阶段。郑纬民认为,人工智能进入大模型时代的两大特点是AI基础大模型从单模态向多模态发展,以及大模型加速行业智能化升级。他预测,研发大模型的企业、推动大模型应用落地的企业,以及支持大模型计算系统的企业将在这一时代脱颖而出。
行业大模型呼唤商业价值
2024年11月,央行、国家发展改革委等联合印发的《推动数字金融高质量发展行动方案》强调,要强化数字技术支撑能力,助力金融业数字化转型,并提升重点领域金融服务的质效。这为金融机构在AI落地方面提供了强大动力。
恒生研究院的市场调研数据显示,2024年前三季度,我国公开披露的大模型项目中标总额达到20.75亿元,同比增长163%。其中,金融行业的大模型中标项目数量为66个,项目金额达1亿元。2024年1月至11月,金融行业的大模型中标项目数量增至103个,项目金额也增至2亿元。
虽然金融行业在大模型应用中的占比不高,但由于其对技术和安全标准的要求较高,因此能在金融领域应用的大模型往往具备向其他领域迁移的能力。
一位金融科技公司高管透露,公司在制定2023年OKR时,就明确了要找到大模型在金融科技领域的最佳应用。奇富科技首席算法科学家费浩峻也表示,技术对于大模型的权重仅占40%,而对业务场景的理解和深耕则要达到60%。他强调,应用场景、数据飞轮、智能体是大模型产品的三个必要条件。
中关村科金总裁喻友平认为,“平台+应用+服务”的模式是企业大模型落地的最佳路径。他指出,大模型平台之间的差异主要体现在算力大小、模型响应速度以及应用构建能力上。在智能体应用构建中,场景模板是最关键的因素之一。
喻友平进一步解释,虽然对场景价值和知识能力的理解在方法论上是通用的,但数据和行业场景并不通用。例如,保险销售和财富产品销售的外呼场景就不能通用,因为它们的流程不同。然而,在一定条件下,这种场景能力有可能实现迁移,尤其是在营销获客方面。
目前,大模型在金融行业的主要用途包括内部赋能以及客服、外呼、获客等业务环节。据喻友平透露,以智能营销场景的大模型外呼为例,公司在某家装平台的活动营销转化率达到了3.5%,相比传统AI外呼大幅提升了130%,与人工座席相比仅有17%的差距。在智能运营环节,大模型也可以实现综合线索留资率的显著提升。
费浩峻透露,目前公司已将AI能力和金融大模型集成到新的信贷业务系统Focuspro2.0中,该系统既能支持消费贷业务,也能支持小微金融业务,并能较好地识别欺诈风险。然而,也有业内人士指出,一些大模型在金融业务中使用后,随着迭代次数的增加,效果出现了不稳定,需要深入一线与业务团队不断沟通,以持续优化。
(文章来源:中国经营报,内容有删减)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。