AI导读:

随着大模型进入规模化落地应用阶段,近期行业大模型密集发布。技术大投入难持续,算力、算法、数据成为发展壁垒。金融行业成为大模型落地重要领域,但技术投入需与商业价值并重。

  在巨大的技术投入背后,如何创造商业价值成为行业关注的焦点。随着大模型技术的不断成熟,越来越多的行业大模型开始进入规模化落地应用阶段。

  近期,百川智能推出了全链路领域增强金融大模型Baichuan4-Finance,中关村科金则推出了助大模型平台2.0,奇富科技也将大模型引入到了小微金融场景中。这些行业大模型相较于巨头在通用大模型领域的算力与技术竞争,更加接地气,更加注重实际应用效果。

  一位金融科技公司高管在接受《中国经营报》记者采访时表示,2024年有很多云厂商主动找到他们,因为他们在一线,有业务场景,可以直接构建大模型产品并得到用户反馈。

  中国工程院院士、清华大学计算机科学与技术系教授郑纬民也指出,通用大模型不需要太多,全国有三四个就足够了。大模型下一步的发展重点是如何更好地应用,并构建更好的软件生态。

  然而,技术大投入难持续的问题也日益凸显。算力、算法、数据是大模型发展的关键三要素,其中算力和数据被行业普遍认为是现阶段企业间的最大壁垒。随着大语言模型规模越来越大,参数高达万亿级别,动用一次训练所需要的资金、人力和稳定性能源愈发昂贵。

  郑纬民教授以一家知名大模型创业公司为例,透露了该公司因推理负载过高导致存储器超负荷,连续买了五次算力卡都未能解决问题的困境。这一成本显然绝大多数机构难以承受。

  数据问题则是另一大瓶颈。Epoch AI Research研究预测显示,到2026年,现存的用于AI模型训练的高质量语言数据将耗尽。信息技术分析公司Gartner的研究报告也提到,到2030年,合成数据将成为AI模型的主要训练数据来源。

  尽管面临诸多挑战,但市场共识在于,大模型行业的发展已进入精细化落地的进程中。郑纬民教授认为,人工智能进入大模型时代的两大特点是AI基础大模型从单模态向多模态发展,以及大模型加速行业智能化升级。他预测,在大模型时代,研发大模型的企业、推动大模型应用落地的企业,以及支持大模型计算系统的企业将脱颖而出。

  中关村科金总裁喻友平也表示,市场真正需要的是能够回归商业本质的实用工具。行业大模型必须提供端到端的解决方案,帮助企业解决实际问题,并具备全链条的服务能力。

  随着央行、国家发展改革委等联合印发《推动数字金融高质量发展行动方案》,金融机构在推动AI落地上也有了强烈动力。金融行业成为当前大模型落地的一个重要领域。恒生研究院市场调研数据显示,2024年前三季度,我国公开披露的大模型项目中标总额达到20.75亿元,较2023年全年增长163%。其中,金融行业的大模型中标项目数量为66个,项目金额达1亿元,占比4.9%。

  虽然金融行业在全行业中的占比不高,但由于其对技术和安全的标准更高,因此能够在金融领域应用的大模型能力,往往具备向其他领域迁移的条件。企业侧对于场景的价值已有相当共识,认为应用场景、数据飞轮、智能体是大模型产品三个必要条件。

  喻友平指出,“平台+应用+服务”的模式是企业大模型落地的最佳路径。大模型平台之间的差异主要体现在算力大小、模型响应速度以及以智能体为代表的应用构建能力上。在智能体应用构建中,场景模板是最关键的因素之一。

  对于场景价值和知识能力的理解,虽然方法论是通用的,但数据和行业场景并不通用。因此,在一定条件下,这种场景能力有可能实现迁移,尤其是在营销获客方面。只要将某个行业的垂直场景数据和知识提取出来,并注入相关行业大模型中,一旦模型训练完成,就可以在另一个领域继续使用,从而实现标准化。

  目前,大模型在金融行业实际生产中的主要用途为内部赋能以及客服、外呼、获客等业务环节。以智能营销场景的大模型外呼为例,某公司在某家装平台活动营销转化率达到了3.5%,对比传统AI外呼大幅提升130%,与人工座席相比仅有17%的差距。在智能运营环节,金融场景业务中可以实现综合线索留资率提升19.8%。

  然而,也有业内人士透露,一些大模型在金融业务里使用后,随着迭代次数增多,效果出现了不稳定。因此,需要深入一线和业务团队不断沟通,持续强化领域知识。

(文章来源:中国经营报)