AI导读:

在“AI手机隐私危机:新秩序中的安全挑战与抉择”学术交流会上,专家表示应推动各方寻求共识,探索保障安全应用的方案。端侧AI理论上能最大限度减少数据传输,但实测中普遍依赖云侧大模型,数据链路不够透明。AI手机隐私保护已有监管法律法规,但监管面临挑战,市场竞争秩序也发生变化。

在日前举行的“AI手机隐私危机:新秩序中的安全挑战与抉择”学术交流会上,业内专家表示,应推动手机终端厂商、大模型提供者、开发者、政策制定者与消费者寻求共识,探索能够保障安全应用的周全方案,以应对日益严峻的隐私保护问题。

中国法学会网络与信息法学研究会常务副秘书长周辉指出,端侧AI理论上能够最大限度地减少数据传输,避免用户敏感信息被上传至云端。如果管理到位,这是一种“更私密”的解决方案。端侧AI在手机等终端设备上快速响应,隐私保护能力强,对网络依赖低。

南财合规科技研究院院长、21世纪经济报道总裁虞伟提到,在实测中发现,尽管手机厂商都宣称具备端侧AI大模型能力,但普遍仍依赖云侧大模型。端云协同中,用户与模型交互数据密切,涉及个人隐私较多。模型数据黑箱化、数据处理方多元,交互数据流动路径不明,是否涉及第三方等问题,使得数据链路不够透明。

尚隐科技有限公司CEO张仁卓表示,纯端侧模式能在本地处理用户数据,安全性可控。但风险在于,第三方App介入时,隐私保护边界模糊,容易引发数据滥用或过度采集问题。

北京汉华飞天信安科技有限公司总经理彭根介绍,无障碍权限原本为方便残障人士使用手机而设置,能打破App间沙箱隔离机制。但目前针对无障碍权限带来的风险,尚无完善防御方案。他建议用户关闭非必要权限,定期查看手机权限功能列表,避免安装第三方智能助手。

南财合规科技研究院此前测评发现,部分品牌手机隐私政策中,无障碍权限说明不清晰。同时,部分厂商滥用无障碍权限,该实测结果将后续公布。

中国信通院互联网法律研究中心主任何波指出,AI手机隐私保护已有监管法律法规,如《网络安全法》《数据安全法》《个人信息保护法》等,明确了个人信息处理要求,包括知情同意、最小必要原则等。今年生效的《网络数据安全管理条例》也对涉及自动化工具、生成式AI等新兴技术的数据处理活动作出特殊规定。但AI手机涉及主体众多,数据流动复杂,各环节责任难以区分,监管面临挑战。

北京大学政府管理学院教授马亮强调,AI手机带来的另一大挑战是市场竞争秩序变化,厂商和App将为用户权限展开激烈争夺。当前亟需形成共识,探索合理的权限治理模式。

此次会议由《21世纪经济报道》、南财合规科技研究院主办,与会嘉宾对端侧AI治理的深度研讨,对行业的健康发展具有重要意义。

(文章来源:经济参考网)