AI手机隐私危机:探索安全应用新方案
AI导读:
在“AI手机隐私危机:新秩序中的安全挑战与抉择”学术交流会上,专家表示应推动各方寻求共识,探索保障安全应用的方案。端侧AI理论上能最大限度减少数据传输,但实测中普遍依赖云侧大模型,数据链路不够透明。AI手机隐私保护已有监管法律法规,但监管面临挑战,市场竞争秩序也发生变化。
在日前举行的“AI手机隐私危机:新秩序中的安全挑战与抉择”学术交流会上,业内专家表示,应推动手机终端厂商、大模型提供者、开发者、政策制定者与消费者寻求共识,探索能够保障安全应用的周全方案,以应对日益严峻的隐私保护问题。
中国法学会网络与信息法学研究会常务副秘书长周辉指出,端侧AI理论上能够最大限度地减少数据传输,避免用户敏感信息被上传至云端。如果管理到位,这是一种“更私密”的解决方案。端侧AI在手机等终端设备上快速响应,隐私保护能力强,对网络依赖低。
南财合规科技研究院院长、21世纪经济报道总裁虞伟提到,在实测中发现,尽管手机厂商都宣称具备端侧AI大模型能力,但普遍仍依赖云侧大模型。端云协同中,用户与模型交互数据密切,涉及个人隐私较多。模型数据黑箱化、数据处理方多元,交互数据流动路径不明,是否涉及第三方等问题,使得数据链路不够透明。
尚隐科技有限公司CEO张仁卓表示,纯端侧模式能在本地处理用户数据,安全性可控。但风险在于,第三方App介入时,隐私保护边界模糊,容易引发数据滥用或过度采集问题。
北京汉华飞天信安科技有限公司总经理彭根介绍,无障碍权限原本为方便残障人士使用手机而设置,能打破App间沙箱隔离机制。但目前针对无障碍权限带来的风险,尚无完善防御方案。他建议用户关闭非必要权限,定期查看手机权限功能列表,避免安装第三方智能助手。
南财合规科技研究院此前测评发现,部分品牌手机隐私政策中,无障碍权限说明不清晰。同时,部分厂商滥用无障碍权限,该实测结果将后续公布。
中国信通院互联网法律研究中心主任何波指出,AI手机隐私保护已有监管法律法规,如《网络安全法》《数据安全法》《个人信息保护法》等,明确了个人信息处理要求,包括知情同意、最小必要原则等。今年生效的《网络数据安全管理条例》也对涉及自动化工具、生成式AI等新兴技术的数据处理活动作出特殊规定。但AI手机涉及主体众多,数据流动复杂,各环节责任难以区分,监管面临挑战。
北京大学政府管理学院教授马亮强调,AI手机带来的另一大挑战是市场竞争秩序变化,厂商和App将为用户权限展开激烈争夺。当前亟需形成共识,探索合理的权限治理模式。
此次会议由《21世纪经济报道》、南财合规科技研究院主办,与会嘉宾对端侧AI治理的深度研讨,对行业的健康发展具有重要意义。
(文章来源:经济参考网)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。