3月27日，《工业和信息化领域人工智能安全治理标准体系建设指南（2025）（征求意见稿）》（以下简称《指南》），面向社会公开征求意见。该《指南》旨在构建AI安全治理标准体系框架，应对AI技术广泛应用带来的数据安全、网络安全、伦理风险等挑战。

短期急用先行，快速突破

长期全面保障，产业落地

《指南》明确了两阶段建设目标。

短期而言，未来1至2年内，将秉持急用先行、快速突破的策略，初步搭建工业和信息化领域人工智能安全标准体系框架，确立标准体系的总体结构、分类和关键标准领域。制定一批急需标准，为行业提供基本安全规范和技术指导。推动相关标准的试点应用，在部分重点企业和项目中验证标准实施效果，为标准的完善和推广奠定基础。

长期来看，未来3至5年，将为AI技术的产业化落地提供全面保障。将完善工业和信息化领域人工智能安全标准体系，细化和补充各领域的安全标准，覆盖人工智能系统的设计、开发、部署、运行、维护全生命周期，以及工业和信息化领域人工智能应用的各个方面，并推动与国际标准的对接。同时，加强标准的推广应用，规范人工智能应用，提高行业整体安全水平，为传统产业高端化升级和前沿技术产业化落地提供有力保障。

搭建AI安全治理标准体系框架

从7方面着手AI安全治理

《指南》提出的人工智能安全领域标准体系框架主要包括治理能力、基础设施安全、网络安全、数据安全、算法模型安全、应用安全、赋能安全7个部分。

其中，人工智能治理能力标准主要规范支撑和管理能力，包括安全支撑技术和治理支撑技术，以及风险分类分级、管理影响评估等相关标准，为AI安全治理奠定基础。人工智能基础设施安全标准主要规范硬件、软件平台和智算中心等方面安全。人工智能网络安全标准主要规范网络安全防护、监测、管理，确保安全可靠运营。数据安全标准主要规范基础数据服务、训练数据等方面安全。算法模型安全标准主要规范算法、模型安全。应用安全结合新型工业化、智能网联汽车等典型应用，提出安全要求和评估方法。赋能安全标准主要包括人工智能赋能网络、数据等方面安全要求。

日前发布的《人工智能生成合成内容标识办法》，明确AI生成合成内容需添加标识。《指南》也强调规范深度合成、生成式AI等内容安全要求，制定安全规范和评估方法，包括生成内容审核、算法审核及评估等技术规范要求。

已发布55项AI安全治理标准

未来三年内还将发布70项标准

据《指南》统计，截至2025年2月，全国信息技术标准化技术委员会等技术委员会或工作组，共计发布55项国家标准与行业标准，涵盖AI治理能力、数据安全等领域。其中，涉及自动驾驶、人脸识别等AI应用安全的多个国家标准已正式施行。未来三年内，还计划发布70个国家标准和行业标准，进一步完善AI安全治理标准体系。

出品：南都大数据研究院

（文章来源：南方都市报）