自动驾驶汽车在城市车流中自如穿梭，人工智能（AI）生成的文章与图片频繁亮相社交媒体，智能系统驱动的工厂流水线以惊人效率运转……人工智能正逐步重塑生产生活，引领时代变革。然而，随着技术的不断进步和应用场景的拓宽，一系列安全风险与挑战也随之浮现，如何确保人工智能在安全、稳定、高效的轨道上运行，成为业界亟待解决的课题。

垂直领域机遇涌现

作为先进技术标杆，人工智能领域的动态备受全球瞩目。从ChatGPT的横空出世到Sora的惊艳亮相，仅用一年多时间，国内“百模大战”便如火如荼地展开，一批通过备案的大模型已向各行业及公众开放。全球范围内，人工智能的竞争愈发激烈。

咨询巨头麦肯锡预测，以AIGC为代表的AI技术将为全球经济带来超7.9万亿美元的价值。到2030年，若生成式AI广泛应用于各行业，其年总经济效益将高达6.1万亿至7.9万亿美元。在中国发展高层论坛2024年年会“人工智能发展与治理专题研讨会”上，中国科学院副院长吴朝晖指出，人工智能将成为第四次工业革命的标配，加速传统产业转型升级，实现质量、效益和动力的变革，重塑工业基础、生产和服务模式，引领新型工业化发展，为智能经济注入新动力。

面对新一轮产业革命，如何抢占先机，既是机遇也是挑战。人工智能需与产业深度融合，推动产业数字化转型，助力经济社会发展。我国庞大的人口规模、丰富的应用场景及完整的产业链，为产业落地提供了坚实支撑。360集团创始人周鸿祎认为，企业若拥有独特业务数据，应在垂直领域训练好大模型，并与业务工具结合。未来，企业或将拥有多个小规模、百亿级的大模型，各司其职。

腾讯云副总裁吴运声介绍，腾讯已将AI大模型应用于多个业务场景，基于腾讯云TI平台推出的行业大模型，结合行业知识和数据训练，以及企业数据进行精调，助力企业快速生成专属模型。目前，已向20多个行业输出超过50个行业大模型解决方案。百度智能云亦通过大模型重构和升级，推出覆盖营销内容创作、数字人、智能客服等七大垂直领域的7款产品。

业内人士指出，对于多数企业，尤其是中小微企业而言，以小规模、垂直化的大模型为切入点，可高效实现人工智能对产业的数字化赋能。同时，将企业在垂直领域的智能化应用开发交由专业智能产品服务商，可提升专业性和效率。

山东浪潮智能生产技术有限公司正基于基础通用模型，研发围绕智能生产的“智产大模型”。浪潮智能生产总经理宋志刚表示，制造业需以人工智能与行业场景的深度融合为主线，与生产环节紧密结合，充分发挥深度学习、自主决策等优势，提升生产智能化水平。浪潮智能生产以智产大模型为支撑，打造智能生产数据分析平台，已应用于多家制造业企业，显著提升生产效率。福建东亚机械有限公司采用该智能平台后，生产效率提高20%，产品合格率提升至99%。

监管面临新挑战

人工智能在创造机遇的同时，也带来前所未有的风险，对监管提出严峻考验。AI模型的数据获取、训练及应用上线运营全过程均存在安全问题。吴运声强调，需重点关注AI模型和算法在可靠性、公平性、可解释性、透明性等方面的安全缺陷；AI应用安全涉及模型从开发、测试、部署到运行交互的完整生命周期；AI衍生安全即AIGC内容安全，主要关注生成内容的违法违规内容审核。长期来看，AI伦理和AGI可控性将成为AI安全的焦点。

百度法律研究中心主任陈晨表示，随着大模型的普及和迭代，确保其输出内容符合用户预期和法律要求至关重要。大模型的内容输出风险源于模型的推理能力和逻辑风险，可能导致“偏见”“误判”“幻觉”等。因此，多元数据集对大模型发展至关重要。当前，我国生成式人工智能和大模型技术创新仍处于初级阶段，数据训练需包容多样，而高质量、具有良好价值观的数据往往涉及版权。若因高质量内容缺失导致AI产生偏见或推理逻辑风险，将不利于产业深度融合和公共服务水平提升。

宋志刚认为，数据是核心。智能模型的决策基于训练数据，训练数据的不准确会影响模型决策，且训练样本数据面临泄露或被篡改的风险。他建议，基于传感器等智能化设备多维度采集数据，建立与数据准确性、完整性、有效性相关的管理机制。同时，加强技术攻关，基于小样本数据快速学习，调优模型参数。此外，建立数据多重授权和安全防护机制以保障数据安全。

随着人工智能广泛应用于生产生活的方方面面，关于真实性、道德要求、权责归属等议题的讨论逐渐增多。周鸿祎表示，合理监管可推动人工智能正向发展。除监管外，还需寻找技术方法，如在AI生产视频中加入不可更改的内部水印等。

中国政法大学数据法治研究院教授张凌寒认为，应通过技术发展回应和解决安全问题。不发展是最大的不安全，技术和产业的国际竞争中，发展应以制度设计为目标。

治理体系持续完善

人工智能的安全与治理关乎产业发展、权利义务及国际竞争中的优势。北京航空航天大学法学院院长助理赵精武表示，一国对人工智能的法律规制不仅影响本国产业发展和风险治理，还决定其在全球人工智能治理中的话语权。全球化背景下，人工智能技术的跨国应用要求国际社会共同面对和解决挑战。

2023年10月18日，我国发布《全球人工智能治理倡议》，围绕发展、安全、治理三方面阐述中国方案。倡议提出，各国应加强信息交流和技术合作，提升人工智能技术的安全性、可靠性、可控性、公平性。

有效的治理方案既能为人工智能的创新发展与产业应用提供良好环境，又能应对技术发展过程中的风险与问题。中国信通院政策与经济研究所高级工程师程莹表示，算法治理是在成熟业态后展开的相对稳定、清晰、可预期的治理。当前大模型具有扩展性强、迭代快速等特点，全球主要经济体面临“边发展边摸索边治理”的挑战。在我国，人工智能治理正从原则理念转化为可落地的规则规范。立法层面，既有针对深度伪造、大数据杀熟等问题的治理条款，也有关于算法推荐、深度合成、AIGC领域的要求。伦理层面，在《关于加强科技伦理治理的意见》规范下，推进《科技伦理审查办法（征求意见稿）》实施。标准层面，发布《国家新一代人工智能标准体系建设指南》《生成式人工智能服务安全基本要求》等，提出具体落地要求。

人工智能领域的专门法也在逐步推进中。今年，十四届全国人大二次会议新闻发布会上，大会发言人娄勤俭表示，将研究推进科技创新立法，深入研究人工智能等前沿科技领域的伦理、道德、安全等问题，不断完善科技法律体系。