AI智能体元年:技术跃迁与隐私保护的双重挑战
AI导读:
2025年被视为AI智能体元年,手机厂商积极备战,但技术背后隐忧浮现。多款手机智能体在后台获取无障碍权限,未通知用户,引发隐私保护担忧。文章探讨手机智能体的技术跃迁、隐私保护、App变革及商业利益博弈。
“2025年会是AI智能体元年。”开年的短暂时间里,关于智能体的投资如潮水般涌现。在通用人工智能(AGI)的宏伟蓝图中,AI Agent(智能体)被视为从“说到做”的关键进化步骤,不仅能聊天,更能执行实际任务。
事实上,AI智能体已在手机领域展现潜力,如一键点咖啡、群发红包等。手机厂商正积极备战,试图打造如科幻电影中的“贾维斯”。然而,技术背后隐忧浮现。南财合规科技研究院与21世纪经济报道发现,多款手机智能体在后台获取无障碍权限,未通知用户。这一设计原为残障人士服务,却能读取所有隐私内容,执行任何操作,属高敏感权限。
手机智能体的技术跃迁带来隐私保护与App变革的新课题。南财合规科技研究院测评6款AI手机,提出七大关键问题。手机智能体究竟能“代劳”到何种程度?从Siri到各大厂商的AI智能体,虽能语音交互,但离真正智能尚有距离。生成式AI的加入带来变革,荣耀、华为等厂商升级手机助手为AI智能体。
然而,实际体验并不理想。以点咖啡为例,小米、OPPO仅跳转至美团搜索页,无法继续操作。荣耀YOYO稍进步,但仍需多轮确认。手机智能体多为“宣传巨人”,成功率低、响应不稳定是普遍问题。关键在于跨App操作与复杂用户指令的处理。
西湖大学AGI实验室负责人张驰表示,早一代手机助手主要调用系统应用,而智能体需面对跨第三方App操作。他们提出的App Agent框架测试显示,成功率约73%,学习后可提升至84%,但仍低于真人操作。提升性能和效率是关键方向。
手机智能体需“眼睛”和“手”操作手机,关键技术有两种:意图框架和视觉路线。意图框架需App授权,通过API或SDK调用特定功能,稳定且安全,但App大厂态度谨慎,担心影响流量和广告曝光。
视觉路线则通过“读屏+模拟操作”调用App,无需App授权,但界面变化可能导致智能体难以适应,且存在安全风险。需用到“无障碍服务”,拥有系统级别最高权限,可读取所有信息,执行操作,如“上帝之手”。
从测试来看,除华为外,几乎所有手机智能体都涉及此权限。荣耀、小米、三星在实际使用中用到无障碍功能。vivo输入法中的小v写作功能,同意授权后全程打开无障碍功能。OPPO虽在隐私政策中提到,但无法核查。
技术具有双刃剑特性,无障碍功能亦如此。一方面,滥用无障碍服务的黑灰产业不少;另一方面,无障碍服务是残障人士融入数字生活的必需品。核心问题在于合理使用的边界,需明确通知用户并获得同意,提供权限开关。
各厂商做法不一,小米、荣耀、三星在系统中提供开关,小米在启用前明确说明权限用途。vivo在首次用到小v写作时跳出授权提示。观韬中茂律师事务所合伙人指出,无障碍功能会获取敏感个人信息,需单独同意,否则涉嫌违法。
安卓官方规定,无障碍权限需用户手动确认开启。六款AI手机提供不同程度的安全防护,但仍有担忧。手机智能体是厂商原生产品,安全规则由厂商制定,是否存在双重标准?实测中,vivo和OPPO的智能体未出现在无障碍应用列表中。
手机智能体设有安全机制,关键在于明确操作场景。需监督模式监控安全范围操作。OpenAI的Operator设立安全护栏,如敏感操作需用户手动接管。国产手机在敏感场景需用户手动操作,三星提供本地化数据处理选项。
除了隐私风险,还有网络安全和决策层面的隐患。视觉路线的智能体理论上能读取所有内容,执行所有操作,难以被第三方监测。可能面临“代理劫持”等新型攻击,甚至成为僵尸网络节点。此外,若智能体做出错误决策,谁担责?
《网络数据安全管理条例》对自动化工具作出特殊规定,适用手机智能体。但用户与智能体互动经验不足,需明确授权,可视化解释数据流向。市场调研机构Canalys预测,2024年具备生成式AI能力的手机将占全球市场16%,2028年提升至54%。
技术发展存在分歧,数据安全立场认为视觉路线是过渡方案,最优解是API合作,构建意图框架。但手机智能体还面临商业利益博弈。手机厂商、AI公司、互联网巨头布局智能体,用户数据成为关键。意图框架和视觉路线应并行发展。
监管人士提醒,需关注手机智能体对互联网市场秩序的冲击,未来涉及权限定义、掌控及优先级划分等问题。各方在隐私安全、数据流动及商业竞争中如何平衡,将是接下来看点。
(文章来源:21世纪经济报道)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。