近日，电商智能体、医疗健康智能体、办公智能体接连发布，AI应用迎来爆发式增长，正成为推动各行业发展的新引擎。从电商平台到医疗健康，从制造业到能源生产，AI技术正加速赋能千行百业。然而，随着技术的广泛应用，AI带来的安全风险也引发广泛关注。近日，我国发布《人工智能生成合成内容标识办法》，中国信通院也启动了2025年对AI智能体和大模型的安全评估工作，为AI应用划定安全边界，推动人工智能在合法、安全、可控的框架内发展。

AI应用加速落地，赋能各行各业。探域科技发布的“探域电商智能体”成为电商平台的“智能客服”，帮助商家智能回复买家提问。钉钉推出的AI智能体客服则服务于企业官网、公众号，成为企业的“电子员工”。在医疗领域，中康科技发布的“医疗健康全场景智能体”辅助医生提升诊断效率。今年一季度，阿里、腾讯、字节跳动等企业积极布局AI产业链，进一步推高了AI应用热度。

百度创始人李彦宏预测，2025年可能会成为AI智能体爆发的元年。随着大模型技术的迭代和应用成本的下降，人工智能应用将迎来大爆发，加速赋能工业、制造、能源、交通、政务等行业。AI正加速重构生产力，在化工、装备制造业、能源生产、医疗等领域发挥着重要作用。

AI技术广泛应用，也带来安全风险。国家互联网信息办公室、工业和信息化部等部门联合发布的《人工智能生成合成内容标识办法》，为AI生成的内容划定安全边界。小米集团创始人雷军表示，AI换脸、拟声等技术带来新的违法重灾区。科大讯飞董事长刘庆峰指出，大模型技术在医疗领域应用广泛，但面临着数据安全、医学专业性及伦理风险等问题。

个人与企业的数据安全同样面临威胁。奇安信董事长齐向东指出，许多企业和个人部署私有化大模型时，服务器未采取安全措施，数据隐私和基础设施安全风险巨大。为应对AI应用带来的网络安全挑战，360集团创始人周鸿祎提出“以模制模”思路，通过研发安全大模型，管理企业知识库的使用。

近年来，人工智能领域不断出现突破性创新，但也带来了诸多潜在风险和挑战。为规范人工智能应用安全边界，我国围绕统筹“发展与安全”两项重要议题，先后颁布一系列重要文件，加强顶层设计，推动人工智能产业良性发展。据今年发布的第55次《中国互联网络发展状况统计报告》，我国生成式人工智能产品用户规模达2.49亿人。AI技术成为未来竞争力的重要一环。

为AI健康发展塑造根基，需要更完善的治理框架。全国网络安全标准化技术委员会发布的《人工智能安全治理框架》1.0版，提出了包容审慎、确保安全，风险导向、敏捷治理等人工智能安全治理的原则。中国信通院正在推动人工智能安全治理方面的研究，聚焦识别、评估、应对人工智能“真风险”。