AI搜索错误率高企,个人信息保护成焦点
AI导读:
本周合规周报关注AI搜索准确率问题,研究显示AI搜索错误率高达60%。同时,多家美国AI巨头呼吁立法允许“合理使用”版权素材。国内方面,315晚会曝光“精准获客”产业隐私黑洞,多家平台开始应对AI信息污染与谣言。
每个周日,“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护上值得关注的动态。
本周,我们重点关注一项针对AI搜索准确率的最新研究。能检索增强生成(RAG)的大模型一度被认为可以缓解“胡编乱造”的问题,但研究结果显示,AI搜索的错误率依然高达60%。此外,多家美国AI巨头如OpenAI、谷歌等“建言献策”,呼吁美国立法允许“合理使用”版权素材;同时,OpenAI Operator等AI智能体已成为黑客的新武器。
在国内,3·15晚会曝光了“精准获客”产业背后的隐私黑洞,多家平台开始积极应对AI信息污染与AI谣言。
海外动态
哥伦比亚大学最新研究显示,AI搜索错误率高达60%。该大学数字新闻研究中心对八款AI搜索进行了评估,结果显示六款AI搜索的答案中60%不准确。
OpenAI和谷歌近期呼吁美国立法允许“合理使用”版权素材,以支持AI大模型的训练和发展。这两家公司目前正面临多位版权方的起诉。
OpenAI Operator等AI智能体已成为黑客的新武器,可轻松协助黑客发起钓鱼攻击,网络安全面临新威胁。
个人信息保护
315晚会曝光了“精准获客”产业的隐私黑洞,多家公司利用大数据技术疯狂窃取个人隐私。央视记者暗访发现,一些公司的“获客软件”可自动扫描短视频平台评论区,抓取用户信息。
AI治理进展
网信办等四部门正式印发《人工智能生成合成内容标识办法》,自2025年9月1日起施行。该办法要求服务提供者对生成合成内容添加显式或隐式标识。
多家平台开始积极应对AI信息污染与谣言。微博宣布启动治理,对未主动标识的AI生成内容会主动打标;今日头条也加强了低质AI内容的审核力度。
(文章来源:21世纪经济报道)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。