AI导读：

全国人大代表雷军在两会期间提交建议，呼吁加强“AI换脸拟声”违法侵权重灾区的治理，强调AI技术的不当滥用已成为新问题。他建议推出人工智能单行法，强化行业自律，加强法制宣传教育。有关部门也在积极应对，发布相关法规细化标识办法。

3月4日，在十四届全国人大三次会议开幕前夕，全国人大代表、小米集团创始人雷军提交了五份建议，聚焦自动驾驶、新能源汽车及AI治理等领域。其中，《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》尤为引人注目，指出AI的不当滥用或成违法侵权新重灾区。

雷军与AI换脸乱象的渊源，要追溯到2024年国庆假期。当时，网络上涌现大量以雷军名义发表的犀利言论视频，实为AI换脸生成。内容涉及热门话题，言辞尖锐，甚至包含粗话，引发网友调侃。此次两会，雷军再次呼吁加强“AI换脸拟声”治理，压实平台责任。

雷军强调，AI技术虽已渗透到各行各业，但“AI换脸拟声”的滥用问题不容忽视。AI深度合成技术素材获取便利、技术门槛低、侵权手段隐蔽，给治理带来挑战。他建议，针对“AI换脸拟声”问题，推出人工智能单行法，明确应用边界，完善侵权证据规则，加大刑事处罚力度。

此外，雷军还提出强化行业自律，压实平台责任，支持平台开发识别AI深度合成内容的技术，优化审核、举报、应急处理机制。同时，加强人工智能法制宣传教育，提升民众警惕性和鉴别力，在中小学教材中加入伦理规范内容，深入社区普及相关知识。

有关部门对AI乱象的治理一直在进行中。2024年9月，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，进一步细化AI合成内容标识办法，包括显式标识和隐式标识。

北京师范大学法学院副教授吴沈括表示，内容标识是AI内容治理的重要机制，有助于避免深度伪造带来的安全风险，引导业务规则设计，全链条防范风险，帮助公众识别AI内容真伪。

全球范围内，OpenAI、谷歌、微软等巨头也在积极应对AI生成内容问题，推出识别工具和功能，助力公众识别AI生成内容。

（文章来源：第一财经）