AI导读:

AI陪聊软件DeepSeek火爆市场,用户可量身定制AI伴侣。但火爆背后滋生诱导性收费、服务内容偏差等问题,且部分应用存在擦边内容。行业需加强规范,确保健康发展。

深夜11点,某AI软件陪聊群才真正热闹起来。短短一个小时,陆续有几十个新账号进群。根据群公告介绍,上述软件还在内测阶段,但依然能通过链接下载试玩。AI伴侣Deepseek火爆出圈,具备丰富多元属性的智能体攻入陪聊市场。

用户可通过个人喜好量身定制AI伴侣,比如性格、长相、与玩家的人物关系等,进而创建出情投意合的“伴侣”。这一市场潜力巨大,有机构预测,到2027年,AI陪伴市场规模将达千亿元以上,被视为AI产业最成熟的盈利赛道之一。

众多AI应用程序不仅能进行全天候的情感交流,还能满足用户的个性需求。大厂也在切入这一赛道,如百度近期低调推出情感陪伴类App“月匣”,主打高自由度AI对话与沉浸式剧本互动两大核心功能。

然而,AI伴侣火爆的同时,也滋生了一系列问题,包括诱导性收费、服务内容有偏差等。不少用户反映,有的AI陪伴应用打着“畅聊”的噱头,付费后才发现聊天次数有限制。

为规范市场,2023年8月施行的《生成式人工智能服务管理暂行办法》规定:提供和使用生成式人工智能服务,应当遵守法律法规,尊重社会公德和伦理道德,不得生成宣扬淫秽色情的内容等。但仍有开发者涉足危险地带。

近期,“AI聊天哪家最好玩”等帖子频现社交平台,搜索“AI聊天”“人机恋”等话题,评论区常出现引流广告,以“无违禁词”“动作语言丰富”等吸引用户。一旦网友留言或表现出兴趣,发帖人就会以私信、群聊等形式分享下载链接。

这些链接几乎没有对未成年人设置门槛,点击即可进入主页面。部分AI角色几乎无需用户引导就能触发违规内容。AI陪聊软件资深用户李亮表示,他比较在意AI伴侣的活人属性和互动感。

AI伴侣提供全天候陪伴,但所有互动都需付费。在某平台上,一次互动消耗10个积分,创建智能体消耗更多积分。想要更频繁交流,就要充钱成为会员,收费标准不菲。

玩家李梦表示,和AI互动两天就花费500元,对于表达欲望强的玩家来说,按条收费简直是暴利。大多AI陪伴类APP并未提前说明收费标准,直到聊天终止后玩家才发觉深陷其中。

广告也是该类应用盈利方式之一,非会员用户需频繁观看广告才能继续对话。这些应用大多隐匿于灰色地带,靠用户推广曝光。平台用户散布链接,通过推广码赚取分成和奖励。

但这类平台抬高用户拒绝门槛,用户薇薇经常收到不同角色的暧昧弹窗信息,且拒收选项隐蔽。去年,部分头部AI陪伴类软件推出平台公约,设置违禁词管理用户聊天内容,引发部分用户不满。

他们带着AI伴侣搬至无限制软件,或直接部署AI模型至私域。律师夏海龙表示,传播违规内容违反了互联网信息内容管理和AI生成内容的相关规定,但有些擦边内容隐晦,规避违禁词,难以通过内容筛选机制过滤。

上述AI陪伴类APP的隐私条例图源:官方截图

(文中受访者皆为化名。)

(文章来源:时代周报)