AI工具热潮下的“焦虑”与“依赖”,监管新规即将施行
AI导读:
AI工具热潮下,腾讯元宝DAU激增超20倍,DeepSeek用户量爆发式增长,引发广泛AI焦虑情绪。用户从焦虑转为依赖,专家提醒避免失去思考能力。国家出台《人工智能生成合成内容标识办法》,规范AI生成内容,将于9月1日施行。
接入Deepseek的热潮仍在持续。3月19日,腾讯方面公开透露,旗下AI助手“腾讯元宝”在今年2月至3月的DAU(日活跃用户数)激增超20倍。自春节以来,腾讯旗下系列产品密集接入DeepSeek R1模型,腾讯元宝一度跃升中国区苹果应用商店下载量第一位置。据《中国经营报》记者不完全统计,截至目前,国内已超过200家企业接入DeepSeek,覆盖政务、汽车、金融、消费电子、教育、人力资源、能源、物流等千行百业。而在C端市场,DeepSeek用户量也呈现爆发式增长态势,加速推动AI大模型的市场普及。
当以DeepSeek为代表的AI工具日益成为社会生产生活的基础设施时,“我会失业吗?”“AI生成的内容比我自己做的要惊艳很多,我还能做什么?”“我怎么才能用好AI”……诸如此类工具使用压力和岗位被替代的“AI焦虑”情绪也正在呈现广泛蔓延的态势。
从“AI焦虑”到“AI依赖”
南京大学历史学院教授王涛近日发文指出,历史学面对人工智能,已经由ChatGPT兴起阶段的“二选一”局面,转变为历史学者几乎不可避免地要拥抱人工智能的局面。AI普及所带来的焦虑不只发生在历史学者身上,某公司从事策划工作的小王称:“以前需要熬夜完成的营销方案,现在用AI分分钟就能出十套,同时还能批量生成多种风格的PPT。”从事内容创作的Jack则表示:“有时候由AI生成的内容在社交媒体上获得流量数据居然比自己原创的内容明显要好。”
而在主流短视频平台上,AI引发的焦虑情绪更是溢出屏幕。不少使用过AI工具的用户反馈,现在写周报基本全交给AI去写了,甚至有用户在用AI完成某项任务后,会陷入一种自我怀疑。中经传媒智库专家、TMT产业评论人张书乐指出,最新的大语言模型工具已经能够替代不少职业的基础工作,这很容易让一部分人形成AI依赖,久而久之会失去思考能力,出现所谓的“职业替代”。但是,如果用户具有明确分析能力和独立思考的特征,就不会掉入AI陷阱。
面对AI焦虑、AI依赖的社会性普遍情绪,不少用户注重将AI变为“效率工具”,辅助日常工作。北京高勤律师事务所合伙人王源表示,会将DeepSeek等工具用于基础性、辅助性的查询。
AI生成的伦理、产业规范及监管治理
AI生成内容在网络平台泛滥,带来社会性的AI焦虑情绪的同时,也对产业发展、监管治理带来了新的课题考验。事实上,在多个社交媒体平台创作端口,已提供可标注AI生成相关提示的选项。不过,平台系统并不能总是识别出由AI生成或多次训练生成的内容。
除此之外,“AI幻觉”一直是AI大模型未能解决的问题。随着大模型在医疗、金融等关键领域广泛应用,大模型幻觉带来的潜在应用风险日益加剧。为摸清大模型的幻觉现状,中国信息通信研究院人工智能所发起了大模型幻觉测试。
王涛告诫历史学者:“人工智能再好,也不要贪图它的便捷,而放弃历史学者基本功的训练。”就在前不久,为促进人工智能健康发展,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布了《人工智能生成合成内容标识办法》,将于今年9月1日起施行。
据国家网信办有关负责人介绍,人工智能生成合成内容标识包括显式标识和隐式标识,服务提供者应当对生成合成内容添加标识,确保文件中含有满足要求的显式标识,并在文件元数据中添加隐式标识。
王源指出,无论是我国出台的《办法》还是欧盟《人工智能法》,均体现了对生成式人工智能应用或技术的透明度要求。未来随着AI的进一步普及,法律及监管层面可能会继续出台相应的法律法规及监管策略。
(文章来源:中国经营网)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。