AI导读:

文章探讨了AI手机的发展及其带来的便利与隐私保护问题,实测了多款AI手机的功能与隐私政策,并指出了手机厂商在数据收集与使用上的模糊性,以及AI智能体与用户之间的未知领域。

一天清晨,当你正准备出门时,银行短信的提示音突然响起:“您的账户已成功支付1999元。”你困惑地打开手机,发现AI手机助手已经帮你购买了一款你多次浏览过的智能音箱,并提示“根据您的消费记录与偏好,已为您抢购商品,确保最佳购物体验。”

在另一个忙碌的下午,你驾车回家的路上突然记起还未提交工作总结,于是你呼唤AI手机助手,请它帮忙撰写并发给老板。到家后,你却发现AI助手过于“贴心”,不仅帮你写了总结,还将你的吐槽也一并加入,并一键发送到了工作群。

这些看似荒诞不经的场景,未来或许会成为我们生活的常态。

自2024年起,手机厂商开始大肆宣传:只需一句话,无需动手,手机便能根据你的习惯和喜好,帮你点咖啡、订餐厅。这一功能背后,是手机内置的AI智能体,它是Siri的升级版,更加流畅,能够掌握你的喜好和行为,为你做出判断和决策。

然而,“像人一样操作”真的可靠吗?自1月20日起,全国各地陆续推出手机等数码产品的购新补贴政策,每件手机最高补贴500元,那么,AI手机真的值得购买吗?

近日,21世纪经济报道记者对OPPO Find X8、vivo X200、荣耀Magic7、小米14等多款AI手机进行了实测。发现这些手机为了更深入地了解用户,会收集包括位置、用户习惯、健康情况等在内的大量个人信息,并在一些功能中自动获取家庭和公司位置等信息;在执行操作时,它们甚至可以绕过第三方App授权,直接操作App内部功能。

这些功能真的可控吗?手机厂商的宣传真的靠谱吗?

近年来,人工智能大模型从抽象的概念逐渐变为触手可及的应用,特别是AI手机,已成为手机厂商刺激消费的重要手段。研究机构Techinsights的数据显示,2023年中国消费者的换机周期已超过40个月,全球更是长达51个月。

在实测多款AI手机后,记者发现,它们最基础的AI功能包括AI修图,拍照更方便,一键便能AI去反光、去路人。例如,在OPPO手机上,长按底部进行一键识屏,AI就能快速修图手指划圈的区域;实时的会议纪要、同传翻译也是较为基础的AI功能。vivo手机可以在通话时同时进行纪要,多人之间的对话也可以总结摘要,并识别出不同角色。

手机厂商最引以为傲的卖点,无疑是“一句话点外卖”“一句话订餐厅”。在荣耀的发布会上,原CEO赵明用荣耀Magic7演示了点咖啡的功能,赵明对着手机说了一句“我有些困了,帮我点杯喝的”,YOYO智能体便根据以往记录判断赵明喜欢喝什么,自动打开外卖软件或小程序下单。

这些功能的实现主要依赖于AI智能体,如YOYO、小布、蓝心小v等,它们就像是藏在手机里的管家。

智能体完成任务的核心思路是“让AI像人类一样”,理解指令的语义,“理解”屏幕,“点击”或“调用”各种应用功能,从而完成复杂任务。

但是,如何确保这些模拟人的操作是用户真正想要的,而不是AI的自作主张?用户真的明白智能体是如何运作的吗?我们的数据又被用在了哪里?

在实测了多款AI手机后,记者发现,这些智能体必须吃下大量的“个人数据”,才能理解用户,精准执行任务。从基本功能来看,智能体首先需要理解人类的意图,无论是语音命令还是文字命令,必须“听得懂”,精准明白用户诉求,这一点就立基于数据之上。

例如,vivo的语义理解是与百度合作的,会收集指令、会话等信息、当前地理位置、前台应用以及运行状态等信息。在理解用户指令后,如何执行任务呢?目前行业中有两大主流方案:一是“屏幕识别+模拟点击”,二是“屏幕识别+意图框架执行官方接口(或类API)调用”。其中,“屏幕识别+模拟点击”是更为通用的方案,简而言之,就是时刻读取显示在屏幕上的一切信息,并模拟人的手指操作。

以荣耀magic7为例,在点咖啡的过程中,全程无需自己动手,AI智能体YOYO会根据你的语音、识别当前屏幕信息,模拟人手打开美团进行点单,并根据手机时间、定位等信息填充配送地址。

要完成上述操作,必然伴随着大量的数据搜集行为。小v助手的隐私政策中提到,模拟点击需要收集界面控件、文本、图像的位置、媒体影音数据、联系人信息等。这些数据被吞噬后,智能体或许只能满足基本要求,而理想的智能体形态,如同《钢铁侠》中的贾维斯,聪明俏皮,清楚主人最合身的尺寸,了解他的风格秉性,能给出判断、执行任务。

更进一步了解用户、深探用户心智,才是智能体的野心,也是手机厂商想要俘获用户的手段。在这场手机厂商的大战中,赵明认为YOYO优于其他手机智能体的原因,在于其能对用户意图进行分析理解。比如,当你说自己困了,YOYO能理解你意图背后的信息和逻辑,并且知道在这种情况下,你的习惯是喝咖啡,然后再进行操作。赵明称,“这个短时间内还没人能追上荣耀。”

其实,除了荣耀,所有厂商都在做这件事。眼花缭乱的意图感知、智能增强、识屏改善、个人记忆等功能,目标无一例外:洞察用户行为和偏好,打造反应更快、更懂你的智能体。

OPPO小布的意图感知服务,会收集设备信息、WiFi、蓝牙、位置信息、开关机信息、运动健康信息(步数、睡眠)、应用名称等,并基于自身的算法自动学习。YOYO助理也会基于与用户对话中获取到的卡证信息、日程信息、交易信息、重要人物/地点、纪念日信息,提供个人记忆相关的对话和服务,这些信息可能还会被用于云端模型推理。

但是,作为手机主人的用户,是否真的了解这些带有强烈个人色彩的数据会被作何用途?用户授权的到底指向哪个功能?这些功能是否会在未来某一天的操作中,绕过用户的个体意志?

针对意图感知服务,OPPO回应称,“我们致力于在隐私合规的前提下为用户提供个性化的服务;所有的用户授权信息只会用于设备端侧范围内,用户首次使用前会有完整的隐私授权协议,明确告知用户会读取哪些信息。”

在实测过程中,记者还发现了一些问题:一是隐私政策过多,每个AI手机的隐私政策至少有5个,这与AI功能的丰富性有关;二是手机厂商并未清晰说明数据用于何处,用户授权是厂商收集个人信息的合法性基础,但并非逃避责任的理由;三是用户隐私及行为习惯等数据分散,比如YOYO的个人记忆功能,提及用户个人信息可能会被用于云端模型推理,还有的会提到优先在端侧处理位置信息,但有些内容结果的返回可能涉及第三方服务商。

AI手机仿佛创建了一个黑箱,数据的链路、流动路径模糊不清。

此外,手机智能体与第三方App之间也存在未知领域。在AI手机的“读屏+模拟点击”模式中,智能体可绕过第三方App授权,直接操作App内部功能。赵明在接受采访时明确表示,荣耀智能体可以实现跨第三方应用的AI智能体操作。这意味着调用App的权限掌握在了智能体手中,它帮我们提供“最佳选择”,但这个最佳选择会是用户所想的吗?

在实测中,记者向OPPO的小布、vivo的蓝心小v要求点一杯咖啡,由于手机尚未安装相关App,OPPO跳转到美团的下载界面,vivo则提示需要下载美团或大众点评。这对于饿了么用户来说,是否造成了不便?OPPO回应表示,目前智能体对后端内容和服务的调用还处在相对初级的发展阶段,APP开放的接口和能力并不多,他们会基于对后端模型的效果评测以及用户的使用反馈来调整服务的调用,致力于为用户提供最好的体验。

在AI手机的光明前景中,AI智能体将成为用户与手机新的交互口,这有望为手机厂商带来新的商机。智研咨询指出,端侧AI将带来新的盈利模式,手机、PC等终端厂商及其应用生态合作伙伴有望通过提供除硬件之外的AI服务和解决方案获得更多价值增量。

然而,掌握流量分配大权的AI智能体,是否真的能以用户需求为导向?是否会在无形中强化对用户行为的控制,甚至引发新的隐私和公平竞争问题?这些问题还有待我们进一步探讨。

接下来,我们将继续发布详细的实测情况,敬请关注!

(文章来源:21世纪经济报道)

隐私政策繁多AI手机未来