AI导读:

近期,AI技术被不法分子滥用,冒充知名人士进行直播带货、诈骗等行为频发。全国人大代表陈达呼吁加强对AI技术的立法监管,防止其被用于违法犯罪活动,特别是针对老年人和未成年人的网络诈骗。她建议明确AI技术的使用范围和条件,推动“科技向善”。

这两天,“刘晓庆接受采访”等视频在网上疯传,刘晓庆本人紧急辟谣:“画面是我,声音很像我,但不是我!这是AI合成的假视频。” 原来,这是不法分子利用AI技术生成的假视频。

除了“AI刘晓庆”,此前还有“AI张文宏”“AI靳东”“AI雷军”等假人频频出现在社交网络上。全国两会开幕在即,全国人大代表陈达在接受采访时表示,应加强对AI技术的立法监管,防止其被用于违法犯罪活动,特别是针对老年人和未成年人的网络诈骗。

AI技术的快速发展带来了诸多便利,但同时也为不法分子提供了可乘之机。不法分子利用AI换脸技术冒充知名人士进行直播带货、诈骗等行为,严重侵害了消费者的合法权益。

陈达指出,像“张文宏医生被AI换脸直播带货”事件就是AI技术滥用的一个典型。这些不法分子诱骗老年人购买不必要的商品,造成了恶劣的社会影响。除了“AI张文宏”事件,还有“AI靳东”诈骗案、“AI雷军”连环追骂事件等。

陈达表示:“AI技术的迅猛发展给我们的生活带来了巨大变化,但同时也为一些心怀恶意之人提供了违法的机会。尽管国家已经多次组织治理行动,但仍需在立法层面上进一步完善监管措施。”

针对这些问题,她建议在立法层面加强对AI技术的监管,明确AI技术的使用范围和条件,引导企业和社会各界在合法合规的框架内发展AI技术,推动“科技向善”,让技术更好地服务于社会。

陈达计划继续跟进调研,推动相关立法工作尽快落到实处。

(文章来源:上观新闻)