AI导读：

3月14日，公安部网络安全保卫局微信公众号发文称，近期一起由网民利用AI生成的谣言信息在互联网上迅速传播，引发广泛关注。公安部门已依法对造谣者进行处罚。业内专家指出，生成式大模型虽带来创新，但也存在安全风险，需加强风险管理。同时，如何在保护隐私和获取便利之间取得平衡也成为亟待解决的问题。

　　上证报中国证券网讯 3月14日，公安部网络安全保卫局微信公众号发文称，近期，一则“有顶流明星在澳门输了10亿元”的谣言在互联网上迅速传播，引发广泛关注。该谣言由网民徐某强于2025年3月10日使用AI生成功能制造，并通过互联网平台发布，迅速扩散，严重扰乱公共秩序。公安机关已依法对徐某强处以行政拘留8日。

　　业内专家指出，生成式大模型虽然带来了许多创新，但也带来了新的安全风险。这些风险既可能来自模型内部，如训练数据的缺陷或算法的局限性，也可能来自外部恶意使用或攻击。因此，在数据准备、预训练、微调对齐、推理及应用阶段，都需加强风险管理。

　　然而，风险不应成为阻碍发展的理由。应兼顾人工智能的发展与安全，既享受AI带来的便利，又重视对人类价值与未来社会的深度思考。清华大学交叉信息研究院副院长徐葳表示，最大的风险是不发展，真正的安全问题需通过科研来论证。

　　同时，如何在保护隐私和获取便利之间取得平衡，也成为亟待解决的问题。清华大学法学院教授申卫星指出，发展与安全应相辅相成，法律制度设计需充分把握这一平衡。

　　全国政协委员、奇安信董事长齐向东建议，平衡创新与安全需构建适配大模型的纵深防御体系，提高安全防护效率，并建立高效的应急响应机制，以有效应对新威胁。

（文章来源：上海证券报·中国证券网）