AI导读:

全球AI技术快速发展,大模型成为焦点,但AI幻觉问题影响其准确性。四川企业积极应对,与DeepSeek深度融合,拓展应用场景,推动技术创新与产业融合。

当前,全球人工智能(AI)技术的迅猛发展已将大模型推至行业前沿。然而,大模型普遍存在的“AI幻觉”现象,即在回答中产生不准确或无根据的内容,成为影响其准确性和可靠性的关键障碍。这一挑战引发了业界的广泛关注。

中国科学院成都计算机应用研究所的副总工程师、研究员秦小林在接受金融投资报记者采访时指出,尽管DeepSeek大模型在功能上相较于以往有了显著提升,但其逻辑推理能力仍有待加强,且“AI幻觉”问题尚未得到根本解决。秦小林通过实例说明,当向DeepSeek提出初中数学中三角函数的问题时,并未获得正确回答,反映了当前大模型在逻辑推理上的局限性。

面对“AI幻觉”难题及探索大模型更广泛应用场景的需求,四川企业并未止步于简单引入DeepSeek,而是凭借敏锐的行业洞察力,主动深入挖掘,与DeepSeek开展深度合作。四川多家企业积极行动,在不同领域与DeepSeek融合,不断拓展其应用场景,DeepSeek的四川合作网络持续扩大。

AI幻觉问题,即模型产生的不准确或无根据的回答,已成为制约AI大模型发展的关键因素。秦小林教授通过向DeepSeek提问几何题,进一步说明了这一问题。他指出,DeepSeek等模型在回答时往往给出近似答案并自圆其说,或将简单问题复杂化,这反映了当前AI大模型在逻辑推理和准确性上的不足。

不仅在数学领域,用户在专业问题上也经常遭遇DeepSeek的“幻觉”问题。例如,在分析音乐风格时,DeepSeek生成的内容看似专业,实则存在不少专业性错误。AI幻觉的问题在于,AI会生成大量专业词汇,当用户难以核对这些信息时,就很难辨别真假。

为解决AI幻觉问题,成都它思科技有限公司(以下简称“它思科技”)采用了“检索增强生成”(RAG)技术。该技术能够根据知识库中的信息生成可靠的答案,从而降低编造答案的可能性,减少模型的幻觉。它思科技CEO赵贤宇表示,该技术已在实践中取得一定成效。此外,它思科技首席技术官聂玮奇透露,公司在文旅场景有新的产品尝试,但具体成果仍在保密阶段。

成都明途科技有限公司(以下简称“明途科技”)也在解决大模型幻觉方面有所布局。明途科技董事长肖雪松指出,明途的私有数据价值发掘、决策智能等技术可以帮助DeepSeek解决通用模型的幻觉问题,推动其在B端和G端实现商业化落地。特别是明途的决策智能技术,正是DeepSeek推理能力的下一步延伸方向。

在四川,各行各业对DeepSeek的应用与推动正呈现出多点开花的态势。算力领域,四川华鲲振宇智能科技有限责任公司已适配DeepSeek多个模型,并免费提供基于昇腾算力的测试服务。芯片领域,成都华微也在积极推进DeepSeek推理模型在处理器上的部署,以打造端到端的解决方案。医药领域,四川合纵药易购医药股份有限公司宣布全面部署DeepSeek大模型,推动医药大健康产业生态的数字化升级。

此外,AIGC应用服务商成都数据天空科技有限公司也上线了DeepSeek,其人工智能开放平台已包含近60个AI模型,为用户提供低成本的模型对比应用服务。

延伸阅读:

随着DeepSeek的爆火,服务器限制及海外网络攻击成为用户面临的新挑战。西南交通大学计算机与人工智能学院副院长、博士生导师邢焕来指出,面对大规模网络攻击,DeepSeek应具备有效的防御机制,并采用技术手段提前预测和应对流量峰值。同时,他建议加强API调用频率限制,实施服务降级策略,并建立灾备和快速恢复机制。

针对DeepSeek受到的攻击新特点,邢焕来提出了实时更新防火墙安全策略、加强日志分析与溯源等防范措施。对于普通用户,他建议尝试本地部署DeepSeek,下载模型参数到本地,实现无需联网即可使用。邢焕来详细介绍了本地快速部署DeepSeek的步骤,包括安装大语言模型运行框架、下载开源模型以及安装AI客户端应用和智能助手等。

(文章来源:金融投资报)

秦教授向DeepSeek提问的数学问题

用户使用DeepSeek时收到的错误回答受访者供图