AI导读:

生成式AI技术自ChatGPT面世后快速发展,但面临数据瓶颈和智能提升速度放缓的挑战。专家呼吁进行深刻变革,探索高效扩展技术,提高训练数据质量,并结合人类反馈的强化学习。

自两年前聊天生成预训练转换器ChatGPT面世后,生成式人工智能技术迅速崛起。科技巨头们利用海量数据“喂食”AI模型,加上计算能力飞速提升,生成式AI改进的步伐曾被认为将呈指数级增长,通用AI的出现似乎指日可待。

然而,AI发展的烈火烹油之下,一些专家开始表达隐忧。据美国技术雷达网站报道,谷歌首席执行官桑达尔·皮查伊预测,2025年AI发展势头将放缓。物理学家组织网的报道也指出,AI智能的提升速度有所减缓,新款大型语言模型的研发似乎已到达拐点。

OpenAI的ChatGPT为例,它激发了科技公司研发大型语言模型的热情。谷歌、亚马逊、元宇宙平台公司及微软等巨头纷纷投入数十亿美元,推出各自的生成式AI应用工具。这些模型能够生成高质量文本、图像和视频,并实现语音对话功能。

然而,AI模型日益膨胀的背后,智能水平提速却开始放缓。AI行业专家加里·马库斯指出,尽管业界一直认为给AI模型提供更多数据和提升计算能力就能使其更强大,但现实并非如此。多家公司在研发新大型语言模型时似乎已经碰到天花板。

风险投资企业安德烈森-霍罗威茨公司的联合创始人本·霍罗威茨也表示,尽管他们一直在提升算力,但AI模型的智能水平并未因此得到显著提升。OpenAI联合创始人伊尔亚·苏茨克维也表示,使用大量未标记数据训练AI模型以理解语言模式和结构的阶段已经趋于稳定。

专家们认为,一个根本挑战在于,可用于AI训练的数据目前几乎已被“蚕食殆尽”。一些实验室过于注重用更多文本数据“喂食”AI模型,但仅依靠文本数据对AI进行扩展注定会遇到困难。目前很多企业已经缺乏新东西来“喂养”AI模型。

面对这一挑战,AI领域亟需一场深刻变革。OpenAI选择延迟推出GPT-4的接棒模型,并推出专注于回答复杂问题的o1模型,试图通过提升推理能力来提供更准确的答案。此外,OpenAI等公司还在探索“高效扩展”技术,旨在让大型语言模型复制类似人类的思维方式。

AI服务网站Quantilus.com的报道指出,OpenAI、“深度思维”等公司正在提高训练数据的质量,并结合来自人类反馈的强化学习。业界应该打造类似蒸汽机那样的、具有变革性的事物,而不是仅仅通过给AI提供更多数据、提升算力来促进其发展。

美国斯坦福大学教授沃尔特·德·布劳沃将先进大型语言模型比作从高中过渡到大学的学生,表示目前的AI就像是能做即兴表演的聊天机器人,很容易出错,但具有跳跃思维能力的机器即将到来。

(文章来源:科技日报,图片来源于网络)