AI导读：

近日，某知名医学专家AI合成视频事件引发公众对AI造假风险的担忧。生成式AI虽带来经济社会发展的机遇，但也带来了法律、伦理、安全等多方面的挑战。加强安全监管，促进多元主体参与，提高技术水平和国际合作是应对风险的关键。

近日，一位备受瞩目的医学专家在网络视频中意外“被带货”，后经证实，该视频实为AI（人工智能）合成，这一事件迅速引发了公众对AI造假风险的深切忧虑。

当前，生成式人工智能作为国内外最热门的AI技术，凭借其强大的内容生产力和高度的交互性，赢得了广大用户的青睐。然而，这一新生事物在带来经济社会发展的巨大机遇的同时，也带来了法律规范、伦理道德、社会安全及公共治理等多方面的挑战。一方面，由于技术本身的局限性和数据的不完备性，生成式人工智能可能产生错误、偏见和歧视性内容。另一方面，对个人数据和公共数据的过度搜集，以及技术的非法和恶意使用，都可能引发严重的侵权和网络安全问题。

为有效应对这些风险，加强生成式人工智能的安全监管显得尤为重要。这要求我们从数据搜集、算法设计到内容生成的全链条进行监管，建立数据规范机制，消除算法偏见，完善知识产权保护，制定精准的监管机制，以确保技术的健康发展。

此外，促进政府、企业、研发人员和公众等多元主体的共同参与，形成监管合力也是关键。政府部门应加强顶层设计，完善制度保障；企业应强化主体责任，加强行业自律；研发人员需提高法律和安全意识；公众则需提升AI素养，增强智能安全风险意识。

在技术层面，我们还应加大研发投入，提高大模型质量，利用AI技术进行安全风险预警和监测，提高安全监管水平。同时，加强国际合作，推动形成国际安全监管共识，共同应对生成式人工智能带来的全球性安全挑战，推动技术为人类社会的可持续发展服务。

（文章来源：经济日报，图片来源于网络）