AI导读:

随着AI技术发展,数字人直播成为新风口,但面临法律纠纷和伦理问题。电商平台限制数字人直播,商家夸大宣传,用户高价买入后效果差且易被封禁。数字人直播缺乏行业规范和法律体系,亟需制定管理条例,明确责任归属,加强平台责任与伦理审查。

  随着AI技术的快速发展,数字人直播正凭借其“24小时在线”“低门槛高收益”“只需一部手机”等特点,成为直播新风口。不少用户纷纷入局的同时,也让相关商家闻风而起,大肆宣传推销数字人直播软件。北京商报记者调查发现,此类软件通常按年收费,价格从几千元到上万元不等。然而,各大电商平台早已对数字人直播进行了限制,甚至封禁。数字人直播这一新型直播形式,还面临着法律纠纷和伦理问题,亟需行业规范与法律约束。业内认为,由数字人驱动的直播所引起的纠纷涉及多方,责任界定复杂,规范数字人直播需从法律、行业、平台多方入手。

  四折拿货、自主定价软件代理赚足差价

  在各大电商平台,数字人已悄然融入我们的生活,不少商家、品牌早已开始用数字人直播带货。而部分商家瞄准了售卖数字人直播软件这一赛道,试图“掘金”。

  “躺着赚钱”“无需真人出镜”这些话术以及“开播几小时成交额上万元”的直播截图,频繁出现在推广数字人直播软件的帖子和视频中。数字人直播软件按年收费,价格在1980—29800元之间不等。软件提供通用人物形象,若想定制自己的形象(克隆形象)、克隆声音则需另外付费。

  优秘智能数字人的业务推销员张先生介绍,克隆形象1680元一次,克隆声音599元一次。除了售卖软件和定制服务外,张先生还推荐了AI无人直播专用手机:“零售价3980元,手机和软件一起打包快递发给你,回去即可开播。”

  软件售卖过程中,还包含代理业务,即交钱获得售卖软件的权限。代理类型包括初级代理、中级代理、高级代理和战略代理,代理费用分别为6000元、10000元、29800元、59800元。代理可四折拿货,自由定价,差价自赚。

  业内认为,数字人直播生意中,最赚钱的并非使用数字人直播带货的人,而是售卖数字人直播软件、提供运营服务的商家。

  资深人工智能专家郭涛指出,售卖软件的商家处于产业链上游,掌握核心技术和资源,通过销售软件和提供服务获取高额利润。

  北京市社会科学院副研究员王鹏表示:“商家提供数字人定制、内容策划、数据分析等增值服务。部分用户对数字人直播了解不足,易被夸大宣传误导,软件开发商和销售商利用信息不对称获取超额利润。”

  开播不足一月屡被平台封禁

  数字人直播为电商领域带来新机遇,但盲目追逐风口风险巨大。软件商家夸大直播效果、盈利前景,用户高价买入后效果却不佳,还常因“非实时直播”等违规行为被平台封禁。

  林女士尝试数字人直播后发现,数字人直播易识别,直播间在线用户少。软件商家展示的直播数据虚假,真人直播效果尚且无法达到。

  李先生购买数字人直播软件后开播不到一月,直播间已因“直播违规”被平台封禁多次。他要求退款无果,表示被软件商家误导。

  目前,各大电商平台对数字人直播的规定不一,但均有所规范。抖音要求注册虚拟人形象、真人驱动实时互动、显著标识AI内容;快手仅允许使用平台提供的数字人能力,直播内容不可机械重复。

  京东推出采用创始人刘强东形象的数字人主播“采销东哥”;腾讯视频号则禁止使用虚拟数字人等非真人直播内容。

  知名商业顾问霍虹屹表示,平台对数字人直播态度不一,反映其在商业模式、用户体验和监管合规方面的考量。

  法律、伦理规范亟待完善

  数字人直播缺乏完善的行业规范和法律体系,可能引发法律纠纷和社会伦理问题。2023年4月,杭州互联网法院审结一起虚拟数字人侵权案件,被告未经授权使用原告数字人形象,构成侵权。

  数字人直播若未显著标识AI内容,侵犯消费者知情权和公平交易权;若未遵循数据安全法要求,可能引发数据泄露或滥用风险。

  AI技术进一步发展,数字人高度拟人化,观众难以区分虚拟与真实。数字人仿冒名人带货、诱导非理性消费等问题出现。

  郭涛认为,数字人直播内容增加平台审核难度,不当内容易传播,道德问题责任界定复杂。李洪江表示,应加快制定数字人直播管理条例,明确数字人身份标识、内容审核、责任归属等要求。

  平台需强化责任,采用AI识别技术监测违规内容,强制标注AI生成标识。加强伦理审查与社会共治,设立行业伦理委员会,制定数字人直播伦理指南,推动公众参与监督。

(文章来源:北京商报)