人工智能技术的迅速普及带来了诸多治理和安全挑战，特别是在AI换脸、AI谣言、数据隐私及模型安全等领域。近期，“靳东两会建议AI换脸立法”和“雷军回应国庆7天被AI雷军骂8天”等话题冲上热搜，公安部网安局亦发布消息，一名男子因使用AI捏造“顶流明星在澳门输10亿”的谣言被行政拘留。

为应对这些问题，3月14日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布了《人工智能生成合成内容标识办法》（简称《标识办法》），并将于2025年9月1日起正式施行。

在答记者问时，国家互联网信息办公室有关负责人表示，随着AI技术的快速发展，文字、图片、音频、视频等信息的生成合成变得更为便捷，海量信息得以迅速生成并在网络平台传播。虽然这促进了经济社会发展，但也带来了生成合成技术滥用、虚假信息传播加剧等问题。因此，经过深入调研、广泛征求意见和多轮技术论证试点，相关部门制定了《标识办法》，以进一步规范人工智能生成合成内容的标识活动。

《标识办法》聚焦于“生成合成内容标识”这一关键点，旨在通过标识帮助用户辨别虚假信息，明确相关服务主体的标识责任和义务，规范内容制作、传播各环节的标识行为。这不仅能在合理成本下提高安全性，还能促进人工智能在文本对话、内容制作、辅助设计等应用场景的落地，同时减轻技术滥用危害，防范利用AI制作传播虚假信息的风险行为，推动人工智能的健康有序发展。

在总体思路上，《标识办法》作为规范性文件，细化了标识的具体实施规范；解决了“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动了从生成到传播各环节的全流程安全管理；统筹了发展和安全，提出了文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法；并将管理要求与技术标准一体化考虑，同步发布了强制性国家标准《网络安全技术人工智能生成合成内容标识方法》。

关于强制性国家标准的具体内容，有关负责人指出，标准支撑《标识办法》，明确了提供者添加显式标识和服务提供者在文件中添加隐式标识的方法，并设置了预留字段，用于记录标识完整性、内容一致性等安全防护信息，为标识技术创新发展和保护标识安全性预留了空间。

瑞莱科技联合创始人萧子豪对第一财经表示，近一年来，利用AI换声、换脸进行诈骗、造谣等违法犯罪行为愈演愈烈，且更具迷惑性和隐蔽性。AI技术衍生出的安全风险治理是一个复杂的社会问题，涉及多个方面。因此，既需要在法律法规层面进行事前规范引导和事后监管惩戒，也需要技术手段使AI更加安全可控。

考虑到企业需要时间充分理解相关规定和标准规范，并针对性地进行能力建设和功能研发，基于标识技术实施的复杂程度和试点试行的实践经验，《标识办法》和配套强制性国家标准设定了约6个月的施行过渡期。

（文章来源：第一财经）