□江德斌

11月24日，胖东来商贸集团发表声明，指出在多个第三方网络平台发现未经授权的账号，利用AI技术生成公司创始人于东来的声音，并对享有著作权的视频内容进行非法剪辑和篡改，添加误导性文案后发布，严重误导公众，破坏了网络生态的健康与秩序。胖东来强调，此类行为已构成违法侵权，并严正警告相关账号立即停止侵权行为。（11月25日上观新闻）

这些AI生成的视频通过文案编排，结合AI生成的于东来声音与胖东来素材画面，高度仿真，令普通网友难以分辨真伪。由于视频内容并非于东来的真实声音和观点，具有一定的误导性，涉嫌侵犯人格权及著作权，对于东来及胖东来的名誉和形象造成损害。平台应迅速采取措施删除此类视频，司法部门也应介入调查，追究造假者的法律责任。

此前，小米创始人雷军也曾遭遇AI配音的恶搞，有网友利用AI生成的“雷军语音包”制作并传播恶搞视频，引发广泛网络关注，部分网友甚至信以为真。雷军对此公开表示困扰，并呼吁大家停止此类行为。随后，相关平台删除了这些恶搞视频。这一事件再次凸显了AI生成技术滥用的社会负面效应。

近年来，AI技术的飞速发展降低了深度伪造和低价量产的门槛，AI生成的影像、换声及换脸视频层出不穷，部分作品制作精良，真假难辨。这些视频虽然吸引眼球，但背后隐藏的风险不容忽视。一旦被不法分子利用，可能导致网络舆论被误导，引发社会恐慌情绪，甚至诱发网络欺诈等行为。《2024年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成严重威胁。

为了维护网络空间的健康发展，有效监管和强力治理至关重要。于东来和雷军遭遇的AI侵权案例为我们敲响了警钟，名人尚且难以防范此类侵权，普通人更是难以自保。因此，监管部门应加强对AI生成技术滥用和侵权行为的监管，规范技术使用标准和界限，严厉打击违法AI侵权行为。同时，平台也应加强AI生成内容的审核和管理，探索建立声音、肖像保护机制，确保用户合法权益不受侵犯。

然而，我们也应看到AI生成作品的传播效果良好，充分展示了该技术的市场潜力和巨大价值。未来，随着技术的不断发展和完善，AI生成将在更多领域发挥重要作用。因此，在打击非法侵权行为的同时，我们也应保护AI生成技术的正常合理使用。鼓励创作者通过正规渠道获得合法授权，生成具有版权保护的创意作品，实现技术的良性循环，让技术产生促进社会发展的正面效应。