大模型搭载进入手机已成为科技领域的最新潮流，各大手机品牌纷纷推出以AI大模型为底层技术的AI手机，旨在通过智能化服务提升用户体验。

然而，这一新风潮也带来了新问题。AI手机主打“贴身服务”，实时收集用户的语音、手势、微表情、使用习惯及偏好等个人信息，掌握了现代人大量的隐私数据。如何在AI手机时代保护隐私与数据安全，成为亟待解决的问题。

在移动互联网时代，用户与App直接互动，隐私保护与数据安全主要依赖于单个App。但进入AI手机时代，手机终端、第三方大模型、App以及云服务均涉及用户数据的处理与使用，数据链条变得复杂，数据的流向与用途更难以追踪。

此外，手机终端不仅掌握用户数据，还把控着流量入口的开关，如“一句话点餐”“一句话取消自动续费”等功能，均体现了手机终端的调用权限。对App而言，想要被第一时间调用，需要全面接入手机生态，这引发了关于是否应开放数据给手机厂商，以及各方如何履行数据保护义务的讨论。

随着新业态的展开，新秩序却尚未明确。手机厂商纷纷将隐私保护作为卖点，但AI手机的隐私保护是否真的能做到位，仍是一个未知数。据Canalys数据显示，2024年全球16%的智能手机出货量为AI手机，预计到2028年这一比例将跃升至54%，AI手机出货复合年增长率将达到63%。

AI手机通过人格化、记忆、感知和管理能力，为用户提供全新的人机交互体验。然而，这种“贴身服务”基于全面的用户数据，包括个性化信息、细微的表情、操作习惯等，提供准确且定制化的服务。但这也引发了关于数据安全的担忧。

腾讯研究院曾指出，在端侧AI场景及读屏录屏技术下，终端智能体可以获取录屏文件本身，并通过模型分析获取身份、位置、支付等敏感信息。由于录屏场景丰富，所识别的信息类型无法提前预测，且可能包含大量其他自然人的个人信息。

手机厂商深知用户隐忧与监管风向，纷纷采取优先本地化（端侧）处理+加密上传云端处理的措施。然而，缜密的机制设计也无法完全消除风险。尚隐公司CEO张仁卓指出，数据上云确实放大了数据隐私保护的风险。同时，厂商之间的配合也存在问题，如苹果在AI功能实现上，虽然增强了端云配合的隐私保护，但并未详细展示与大模型厂商之间的隐私保护动作。

AI手机时代的隐私保护难题在于生态参与方复杂，包括手机终端、第三方大模型、App以及云服务等。各方在数据安全上的责任关系并不明确，如手机外接其他大模型，在共同处理相关数据或上传至第三方云端AI处理等情况时，如何进行责任分配成为问题。

观韬中茂（上海）律师事务所合伙人吴丹君认为，终端厂商在预装App时应通过平台规则或合同明确第三方产品和服务提供者的网络数据安全责任，并监督第三方加强数据安全管理。大成律师事务所高级合伙人邓志松指出，AI大模型开发商在收集用户个人信息或其他数据前，应获得用户同意，并明确告知该类数据可能被用于大模型训练，同时进行去标识化、匿名化处理。

在隐私保护问题背后，是行业生态变化带来的上中下游摩擦。手机终端掌握了App的调用权，成为流量入口。这引发了关于调用权归属、用户数据保护及各方义务履行的讨论。若App不接入终端厂商生态，又该如何保护数据？AI手机利用“拟人化”操作模拟用户在App中的行为，App无法准确知晓手机终端AI的识别、操作动作，这进一步加剧了App与终端厂商之间的权责划分问题。

（文章来源：21世纪经济报道）