AI导读:

AI技术被不法分子利用生成仿真度高的虚假信息,包括伪造热点事件、捏造名人言论等。公众需警惕无明确作者、无正规信源的内容,通过四步识别AI谣言:查源头、看细节、验逻辑、用工具。同时,严守法律红线,共同维护清朗网络空间。

  AI技术正在逐渐改变我们的生活方式,提升工作效率,为解决许多问题提供途径。但与此同时,个别别有用心之人却在利用AI技术造谣,生产仿真度极高的虚假信息。

  警惕!AI被用来“造谣”

  当前,AI谣言场景屡见不鲜,主要包括:

  伪造热点事件:一些造谣者用AI生成“某地重大事故”图文/视频,并配以煽动性标题博取流量。

  捏造名人言论:通过篡改语音、合成视频,假借权威人士发布虚假政策解读。

  炮制伪科普:利用AI生成“科学数据”,兜售伪劣产品,如“AI检测抗癌神药”。

  嫁接虚假证据:将无关图片通过AI换脸/换背景,捏造“维权证据”“聊天记录”。

  四步识别AI谣言,不当“受害者”,更别当“帮凶”

  为了有效识别AI谣言,公众可以采取以下四步:

  1查源头:警惕无明确作者、无正规信源的内容,AI生成信息常伪装成“网友投稿”“内部消息”。

  2看细节:观察AI图像的手指数量是否异常、光影是否自然;注意AI视频的口型与声音是否同步、背景是否模糊扭曲。

  3验逻辑:AI生成谣言常出现时间矛盾、地名错误等逻辑漏洞。

  4用工具:关注“公安部网安局”新媒体账号的打谣信息,或通过“中国互联网联合辟谣平台”“腾讯较真”等渠道一键验证。

  真实案例:近日,西安公安网安部门查明,一网民利用AI生成软件将一起多年前发生于外地的旧闻进行重新编辑,通过输入指令制作文案,将其包装成本地近期发生的事件,文案多处虚构事实真相,以达到博取流量的目的,造成谣言传播扩散。目前,该网民已受到行政处罚。

  网警提示:严守法律红线,不利用AI伪造公文、证件,不生成谣言、暴力等违法信息。遇到所谓“爆炸性新闻”做到“三不”:不轻信、不转发、不扩散。通过官方平台验证信息,发现AI谣言立即举报,保存证据协助溯源。让我们共担监督责任,主动标注AI生成内容,共同维护清朗网络空间。

(文章来源:公安部网安局)