大模型会彻底改变手机智能系统吗？

手机

我先提出另一个疑问：在探讨大模型是否将颠覆手机智能系统之前，不得不提的是，当下最受欢迎的几个大模型，早已推出了移动端应用，甚至还有以其为基础开发的衍生软件。这些App虽非本地部署，但通过远程调用云端大模型，既避免了对手机性能的额外消耗，又可借助更高算力，实现更强大的AI功能。如果这样，是否就无需投入大量资源和资金自主研发可部署于手机的大模型了？手机上的大模型应用及其衍生的各种功能， already 让手机具备了大模型的 AI 能力，对吗？事情并不简单，大模型的算力与流量成本高昂，目前看不到回收的希望。每次用户使用都会造成亏损，后续可能通过涨价或悄悄削弱功能来弥补损失，这些情况很可能已经存在或即将发生。即使厂商愿意前期烧钱投入，但随着计算需求增长，大模型云端算力难以支撑巨大计算量，会使单次计算的效率下降、成本飙升。云端与终端协同，按场景和计算需求分配AI工作负载，高效利用算力资源，提升用户体验。我们常玩的FPS游戏，也是通过本地计算与云端服务器协同工作，来保证游戏的公平性和流畅性。本地客户端用于处理玩家输入、渲染游戏画面及执行本地逻辑，比如移动和开火操作。而游戏服务器负责管理所有玩家状态与事件，保证游戏世界的同步和一致性。人类同样如此，中枢神经与外周神经协同工作，某些低级反射不受大脑支配。此外，仅部署在云端的大模型也存在一些需要解决的问题。使用过ChatGPT等大模型的人可能发现，这些模型存在不少局限性，比如容易健忘或产生幻觉。

在端侧部署大模型，是解决其失忆和幻觉问题的有效方法，因为历史数据仅来自单一用户，更具针对性。如果大模型能在终端设备上进行训练和调整，它将成为强大的个人专属AI，专注服务于单一用户，彻底掌握用户的偏好与需求。即使存在记忆限制，也能减轻遗忘对任务的干扰，同时降低产生矛盾幻觉的概率。QuestMobile发布的2023年上半年中国移动互联网报告显示，截至2023年6月，用户月人均单日使用时长已达7.2小时，月人均单日使用次数为116.3次，反映了移动互联网的深度渗透及用户依赖程度持续提升。

尽管多年来手机上使用时长最长的 App 不断变化，但手机厂商始终稳居主导地位。手机厂商研发大模型是理所当然，且在to C应用层比其他科技公司更具优势。现在可以回应最初的疑问了：手机上部署大模型确实有必要。与其他以App形式存在于手机的大模型不同，融入手机系统的大模型能够变革智能手机的使用方式，使其他App在某种程度上也具备大模型的能力。这对智能手机系统而言，意义非凡，犹如猿人首次学会使用工具。尽管距离完全进化为真正的人类智能还很遥远，但其重要性显而易见。部署大模型后，手机系统将让智能手机实至名归，具备真正的智能。从目前泄露的OriginOS4大模型能力看，vivo手机无疑是动作最快的厂商之一。vivo在人工智能领域的布局很早，其手机的智慧功能早已让我们习以为常。比如，我每次想找到合适的应用时，应用建议里几乎总会出现我当下需要的App。

移动

比如相册的智能分类，即使我有近万张图片，它也能自动将内容精细分类，涵盖各种题材。

vivo的影像算法、Jovi智慧建议以及后台调度等功能，都是人工智能的具体应用。手机系统是否好用，离不开这些细微且智能的能力加持。这些都源于2017年vivo人工智能全球研究院的成立，随后还成立了图谱研究院。至今，vivo始终保持千人以上团队专注相关技术研发。这五年的成果，最能体现的莫过于大模型评估排行榜。用户不在乎研发时长，而在意能力高低对体验的直接影响。唯有性能强大，才能确保好用。在众多排行榜里，我认为对国内用户而言最有价值的是 C-Eval。这是清华大学、上海交通大学与爱丁堡大学共同开发的中文模型评估体系，包含 13948 道选择题，覆盖 52 个学科领域及四个难度层次，能够全面衡量中文模型的多学科知识水平和多层次理解能力。https://cevalbenchmark.com/static/leaderboard_zh.html（这是C-Eval排行榜的链接）在专为大模型设计的考试中，vivo 自研大模型取得最高分（受限访问范围内），以下是各科具体得分：

C-Eval是针对大语言模型的中文评估套件，涵盖多层次多学科，可详细评测模型性能，链接附上以供查看详细结果。仔细观察各科成绩，若将vivo大模型视作一个人，他堪称全才：除数学稍逊外，其余科目均达A+水平，文科、理科、工科无所不通。OriginOS4 搭载的 vivo 自研大模型，如同在手机中加入了一位多领域专家。这位专家的理解能力远超以往，为我们带来了广阔的想象空间，让手机功能更加智慧与强大。最直接且易预见的情景是，手机智能系统将变得更加聪明。目前的语音助手虽能执行部分不太精确的模糊指令，但常会出现我好像听不明白这类无法理解用户需求的回应。它号称人工智能，实际使用中却时常听不懂人类语言，难以理解复杂需求。OriginOS4接入vivo大模型后，Jovi Copilot或许真的能成为我们的私人助理，如同钢铁侠的J.A.R.V.I.S.一般，提供智能便捷的服务，让人机互动更加高效自然。比如，开周会前需要准备工作总结用于分享，我可以直接请Jovi帮我撰写，可能比自己写得还好，毕竟它的总结能力远胜于我。当我身体不适时，可以向Jovi描述症状，让它进行初步判断，告诉我可能的情况和该挂哪个科室，还能帮我找到医院并预约挂号。遇到报税或发票问题时，我可以向Jovi咨询税务难题，清晰明了地履行公民纳税义务。当想不起文件存储位置和名称时，可向Jovi描述特征或关键词，它能快速定位文件位置。甚至设定闹钟都成为了一整套早晨场景的打造。让 Jovi 在工作日早上 8:00 叫醒你，赖床的话就再延后几分钟提醒。用户拿起手机后，它会播报天气并给出穿衣建议……连不太会用手机的年长者，也能在Jovi指引下轻松完成操作。它还会自动挂断诈骗电话，拉黑并报警，保障用户安全。这些场景极易联想，大模型接入后可轻松实现。虽然能够回应，但精准回应乃至快速精准回应，会带来截然不同的体验。如果让类似GPT的1750亿参数大模型来处理这些需求，结合网络通信与计算时间，整个响应流程可能需要数秒才能完成。这样的速度难以称得上是良好的体验，毕竟等待时间过长。vivo采用了一种巧妙方式解决此问题，推出了5个大模型，参数量分别为10亿、70亿、660亿、1300亿和1750亿。其中，10亿和70亿参数的模型可部署在本地，而其余三个参数量更大的模型则位于云端。这为不同场景提供了灵活的选择。这与处理器的大小核架构设计异曲同工，不同模型对应不同任务，实现计算资源与性能的均衡最优。对于对响应速度要求高但性能需求低的简单任务，例如输入法的单词联想功能，使用较小模型在本地进行运算即可满足需求。而性能需求较高的复杂任务，通常对响应时间要求相对较低，如AI图片生成这类任务，往往仍需调用云端的大模型来完成运算处理。我认为，真正意义上的一体式并非单纯依赖一个大模型处理所有任务，而是像这样由五个模型协同组成的整体，这才算得上是真正的All in One。可以说，vivo 这五个大模型的集合体可能会重新定义智能手机系统，带来了巨大的想象空间。目前 OriginOS4 展现的部分功能已令人耳目一新，正式发布时，vivo 又将带来怎样的惊喜，实在令人期待。从客观角度分析，手机大模型的颠覆性时刻尚未真正来临。当年 iphone 4 改变世界，不仅因其超前设计与最优软件生态，还离不开 45nm A4 处理器的强大性能支持。再出色的创新应用，也需依赖足够的硬件实力才能实现。目前手机并非无法运行百亿参数以上的大模型，算力够用，但功耗却难以承受。如果让手机为运行大模型的负担与玩原神相当，那就会失去应有的价值平衡。值得期待的是，未来主流 SoC 将普遍强化 AI 性能。高通与联发科多年深耕 AI 算力提升，还提供了本地化大模型部署方案。苹果新发布的 A17 Pro 芯片同样将大量晶体管用于 NPU，其算力高达每秒 35 万亿次操作（35 TOPS），为设备带来更强大的人工智能处理能力。这一趋势将显著提升终端设备的智能表现。

目前，只有特定大模型可部署于手机端。然而，随着算力提升和技术进步，未来手机端的模型部署将在数量、模态类型及形式上迎来更快的发展。智能手机系统快速落地，将大幅加速手机大模型时代的到来。真正的创新价值，在于让每个人都能使用，从而实现其最大意义。iphone 4 的火爆并非因其超前，而在于能玩水果忍者这类游戏。