手机AI助手也开始要收费了？
文｜周路平
编｜游勇
9月16日，vivo一年一度的开发者大会上在深圳召开。当天除了蓝心智能战略、原系统7、蓝河操作系统4等领域的进展，数智前线获悉，vivo AI助手蓝心小V将会对任务处理模式进行分层，分为标准模式和Pro模式。Pro模式在消耗完免费额度之后，需要用户购买会员或者Token Plan套餐。
这两种模式有不同分工。蓝心小V的标准模式，主要面向高频日常的任务，比如查询信息、跨APP操作、管理日程。而Pro模式，主要面向深度研究、专业的内容创作和复杂的长程任务，然后手机系统通过模型路由，综合任务难度、响应时间、调用成本和能力要求，按需选择，灵活组合。
目前，手机AI助手基本是免费给用户使用，不过只能做一些简单的任务处理。而随着Agent在长程任务以及办事能力的大大增强，AI带来更好用户体验的同时也带来了成本上的激增，手机厂商不得不考虑更长远可行的商业模式。
01
手机厂商为何收费？都怪Agent太耗token
“Agent任务太消耗token了。”vivo AI战略与技术规划总监炊文伟告诉数智前线，“token涨了快100倍了”。而背后最大的问题在于，行业实现了Agent的能力，但还没有做足够多的优化将成本再往下降。
炊文伟透露，query判断调哪个模型是vivo自己在做路由，不会消耗太多资源。但现在的Agent框架，为了保证更高的准确率，Agent会一直在loop（循环），导致AI上下文变得很长。
“以前就是一问一答，可能就10K，现在可能直接变成了100K。”炊文伟说，loop的量和上下文的量是一个M×N的过程，消耗了大量token，“你问个’你好’，你的codex可能就消耗了100K。因为你不管问啥它都要转一圈。”
vivo的思路是对任务进行分层，“一个query进来以后，如果它是手机层面的需求，那就走我的，如果它就是通用的高上限的需求，那我找一个合适的模型给你分过去。”比如意图识别和模型路由的工作由vivo做，另外一些简单的任务，比如手机功能设置、多App调用，也是vivo的模型在提供服务，但一些需要复杂推理和长程任务会交给第三方的云侧模型。
“我们在整个链路里还在持续地把这个成本往下降。”炊文伟告诉数智前线，在AI这个事情上，大家先保证效果，成本是时间问题。
另外，据数智前线获悉，蓝心小V很快也会上线视频AI的功能，用户可以打开摄像头对着现实世界与AI进行实时交互。这样的交互场景对Token消耗也是一个不小的挑战。
所以，vivo的Pro模式会先给用户一些免费的额度，超出额度的部分需要支付token费用。不过，具体收费方案并未在开发者大会上公布。
但在炊文伟看来，这些钱并不是装进了vivo的口袋，基本会根据第三方模型输入输出的公开价格来定价。
其实，vivo的做法并不令人意外，这与市面上的通用Agent助手的商业模式非常相似——简单任务调用Flash模型，消耗的token量少，大部分可以免费使用。但要处理复杂长程任务时，往往需要调用更高端的模型或者外部第三方模型，则需要通过购买积分或者token套餐的方式向模型厂商付费。
而数智前线也从OPPO获悉，OPPO在9月17日最新发布的AI助手小布Next，展示了大量长线任务处理和服务的主动响应，目前小布Next还在内测阶段，用户可以免费试用，但现场一位OPPO工程师告诉数智前线，正式上线之后，大概率也会推出token Plan套餐。
02
vivo的个人智能背后，考验模型与Harness
AI时代，手机与用户的连接方式发生了最直接的变化：过去的用户习惯于先判断要打开哪个APP，再寻找功能；而现在的用户更多希望可以通过一句话来帮他完成这些事情。
炊文伟认为，要实现个人化智能，有三件事情必须同时成立：一是懂用户，形成持续更新的个人上下文；二是要把任务做成，背后靠的不是一次简单的模型推理，而是一段持续运行的任务过程；三是连接生态，AI的服务不可能靠手机厂商一家提供，需要开发者将AI的能力封装到App上。
而Agent的做事能力依赖大模型+Harness的结合。在vivo的设计体系里，蓝心大模型矩阵提供推理生成和多模态能力，蓝心个人智能框架连接系统和场景，串联起感知、记忆、交互、规划、执行以及安全构建完整的任务闭环。
vivo AI算法中心高级总监陈晓昕举了个例子，当用户在蓝心小V想要得到一个出行计划，背后是大模型负责理解目标，规划行程，而Harness则结合用户的日程、出行偏好和历史记忆，调用天气、地图等服务，把一份通用的行程规划转化为真正适合用户的个性化行程。“大模型定义了智能的上限，Harness把智能转化为生产力。”
但一个模型无法同时兼顾能力、时延、成本还有隐私的需要，vivo的做法是构建一个分工明确、相互配合的蓝心大模型矩阵。其中，语音大模型负责自然交互，端侧大模型负责实时的感知和个人记忆，云侧大模型同时支撑高频任务的快速执行和复杂任务的推理规划。
同时，vivo也将语音、端侧、云侧、手语以及行业大模型统一接入到了蓝心智能开放平台，由平台负责统一的接入、调用、评测和治理，开发者不必处理复杂的模型选择和组合，可以把更多的精力放在场景和产品创新上。
在这个技术架构之上，vivo的重点是围绕端侧和云侧体验进行优化。
比如在端侧模型上，强调模型、系统和芯片的协同。芯片层，vivo跟高通、MTK等芯片厂商开展了联合设计，在模型层优化低比特的量化和运行解码，在系统层优化内存调度和资源控制，在芯片层协同推进算子优化和异构算力的调度，最终让端侧模型的首词速度提升了30%，初始速度提升了3倍，屏幕感知降到900毫秒。
目前，vivo的行程助手、小V圈搜、AI智能通知和相册Agent，都建立在端侧模型的多模态理解和个人记忆之上。据悉，vivo也正在预研蓝心30B MoE端侧大模型，探索在手机上完成长链路复杂任务。
据数智前线获悉，这部分的能力更多依赖手机厂商自己搭建。一方面，手机厂商可以配合自己的系统级工具，专门为这些任务进行优化；另一方面，这些任务往往涉及到用户的个人数据和隐私，手机厂商不太可能交给第三方处理。
在云侧模型上，vivo重点做了三项技术的优化。
一是将模型与vivo操作系统的Harness框架深度匹配，把端侧记忆、个人上下文、手机知识和工具体系纳入到模型训练，强化模型对手机场景的理解，以及对系统能力的稳定调用。
二是采用MOPD多专家教师蒸馏机制，把ToolUse、GUI Agent、Coding、STEM等不同的专家能力高效迁移到统一模型。
三是基于真机的环境开展在线强化学习，让模型在真实的任务环境中去执行，并且根据结果反馈，持续优化规划和执行策略。
“最终的目标是能够用一个更小的手机专用模型，把用户高频成熟的任务做得更快、更稳、成本更低。”陈晓昕说。
