vivo将大模型整合进OriginOS4有何变化？

vivo

第一反应可能是，一向老实本分的vivo怎么也开始搞新花样了？没错，AI大模型是2023年科技领域最热门的词汇。从年初至今，大家应该听到不少企业宣称要做自己的大模型，可之后就没了下文。这时vivo宣称要把大模型整合进OriginOS4，实际上是下了不少功夫的。对vivo而言，宁愿慢一点，也要让产品更可靠。OriginOS 4有高性能大模型加持后，会发生什么样的变化？大模型也叫大规模语言模型，它借助复杂的机器学习来理解与生成人类语言。所谓大，指模型参数量极为庞大。例如年初爆火的GPT大模型，其参数达上千亿，它利用更多数据使人工智能的内容生成更精准。知晓大模型概念后，大家对vivo将发布大模型会有更简洁的认识，即vivo要在自家手机上部署一个融合深度学习与大模型的AI。在谈vivo为何要做以及怎样做成之前，我们可以先宽泛地聊聊，对手机厂商而言，手机内置大模型有何意义。举个例子，大家都清楚移动终端是当下主流设备，很多APP都面临着如何在移动端保障应用高频顺畅使用的难题。手机厂商在这一点上有着天然的渠道优势，即内嵌语音助手。不少人都用过语音助手，像定闹钟、设行程、搜索简单问题、语音开启导航之类的操作都可以完成。说实话，现在的语音助手有点傻，只能靠搜索应付最基本的功能，稍微难点的问题就能把它们难住。然而，语音助手是具备成为大模型杀手级应用的潜力的！比如，当你的手机里有内置语音助手，还有百度大模型、360、文心大模型、讯飞星火等众多APP时，在第一时间想要获取信息、找寻答案，你会选择什么？答案为语音助手。语音助手不用亮屏，按住电源键0.5秒，语音输入问题就能得到答案。但其他大模型得经历亮屏、解锁、找APP、启动、输入问题、得到答案这一长串流程。像vivo这样的大模型应用到手机后，用户使用有其AI加持的语音助手就很便捷：按住电源0.5秒，输入问题就能得到答案。中间步骤全部省略，这就表示，对用户而言，每一部vivo OriginOS4手机都相当于自带一个类GPT的AI助手，切实让智能手机变得更智能了。再举个例子，当你教孩子写作文，想借助GPT这类App生成范文作参考时，如果手机没有内置大模型的语音助手，那你或许就会打开文心一言、星火等APP来创作范文，就像我前面所说的那样。但是当内嵌大模型后，在vivo手机上只要按住电源键0.5秒，语音说出想看的范文，它就能创作相似范文，既省心又省事省力。这是vivo做大模型的关键要素之一，可使大模型面向用户，融入生活。日常生活里，所有问题都能借助语音助手简单便捷地解决。如果要给全家安排一个三天后出发去北京玩四天的行程，它能设计出一份从出行、住宿，到景点游玩、餐饮的全程路书，还会借助系统级服务接口，帮你搞定买火车票/机票、订酒店、买景点门票等一系列事务，全部内嵌完成。我猜这是vivo做大模型的核心要素之一，从规划到执行全方位一步到位，省去所有步骤，或许连预约打车这样的事都能帮你做。其他家大模型或许只能做行程规划，而vivo不同，你只需下达一个命令，它就能从行程规划到执行细节一次性全部搞定。就像前面提到去北京游玩的例子，在其他大模型APP里，你只能得到一串文字形式的行程规划。它会告知你购买机票的时间，如果第一天打算爬长城且想在长城附近住宿，会推荐值得入住的酒店，或者建议去哪家好评较多的美食店；接着会告诉你第二天的游玩地点、入住酒店和附近美食等。然而，当你在搭载大模型的vivo手机中输入这一需求时，它能调用更多系统级应用，依照行程规划为你具体执行。它可一步跳转至往返机票购买页面，按你的需求预订酒店、购买行程门票、团购美食套餐等，若获得授权，或许还能帮你联系商家预订餐位。这才是真正实用的大模型，可用性非常强。未来很美好，如何实现？这必然离不开算力和大模型布局。首先来看硬实力，在大模型基准测试排行榜里，vivo取得了C - EVAL排行榜第一的成绩。这个排行榜并非单纯用于跑分、打榜，而是基于复杂推理问题的基准进行排名的。有些评测基准包括中文能力、基础能力、理解与知识推理能力，或者能力、任务、指标等方面的能力。而EVAL以实操推理能力为核心，简单来讲，这个排行榜是权威标准之一。

vivo取得第一的成绩，相当优秀，这显然和vivo长期在AI方面的投入有着紧密的联系。六年前，vivo就着手布局人工智能了。2017年，vivo过饱和投入，首轮将1000名高端人才投入AI全球研究院，在2017到2019年期间，每年还新增约350位AI工程师。此外，vivo在算力方面组建了约150人的工程团队，专门致力于实践。在应用大模型方面，vivo与一般互联网公司不同，vivo不是做一两个传统大模型，而是打造了五个大模型。这五大模型规模分别为10亿、70亿、660亿、1300亿、1750亿，要适配手机生态，从硬件、软件，甚至未来的智能家居都要考虑在内。10亿和70亿的模型已实现端测算，可在手机端运算，无需借助云服务。660亿模型是云端运算的主力，而1300亿和1750亿模型更多是展示更高能力的一种体现与背书。各家大模型都面临这样一个问题，成本是目前行业的难题，大模型对话成本高昂，每分钟约5000元人民币。vivo国内用户达3亿，用户量级庞大，如果每人每天使用10次，那一天成本就达3000万，一年成本大概100亿。这是大模型难以推向普通用户的核心因素之一，vivo推出不同规模模型也有此缘故。这是当前制约大模型性能的一个关键之处。大家都清楚，大模型是依靠测算与分析来作答的，就像问GPT，通常也要等几秒才能得到答案。通常，这类大模型的反馈靠云端完成。但手机厂商并非互联网厂商，若要实现实用性，就得尽量对大模型反馈做本地化处理。功耗是衡量大模型使用体验的重要参数。170亿参数的大模型持续运算（不用NPU版），耗电约500毫安，这对手机而言耗电过大难以承受。然而，若规模调整到10亿，经NPU端测算子化后，电流可降至200毫安，相较于原来的500毫安，实用性会大大提升。毕竟手机与电脑不一样，大模型在手机上不仅要有实用性，还得综合考量功耗、运算速度、结果反馈等要素。其实不只是vivo在手机侧接入大模型，苹果也在A17 Pro中加入大量晶体管，旨在提升本地AI计算性能。华为也宣称要在手机中接入大模型，首先提高小艺的智能化水平。大家都要在大模型领域发力的时候，vivo已处于先发地位，提前落地实施。这为大模型后续的落地开了个好头。在手机行业，当前比较难堪之处在于，未来的想象力似乎被禁锢了。即便手机依旧是未来极为重要的终端设备，可市场对手机行业的想象力却像是走到头了。像智能家居中控、钱包、钥匙、交通卡、门禁卡等能想到的各种需求都处理过了，唯独在手机本身上还没更好的想象方向。语音助手推出多年了，人们对手机智能化的想象似乎已达极限。但目前语音助手的实用性欠佳。此次vivo把大模型引入OriginOS4，这着实给手机行业突破了新的极限。暂且不论当下的实用性怎样，其对未来确实充满无尽想象。特别是与手机自身系统级能力叠加后，一旦大模型融入手机系统，那就不再是普通语音助手，而是具备很强工作与生活能力的真正AI助手了。就如我之前提到旅行的作用那般，它在其他生活场景中也很好用。比如买药、点外卖的时候，它能整合你的手机号码与位置信息。你只要说我中午想吃常吃的或者上次吃的猪脚饭，也许它就能从众多服务单里直接为你购买、下单，然后你等着收饭就行。再比如说，你11点得赶到机场，打算10点出发，那你就能直接对语音助手说：帮我预订一辆10点准时从家出发去xx机场的专车。大模型领会你的需求后，就在手机里进行操作，为你规划好从家出发到机场、10点出发、乘坐专车的整套安排，你只需等着专车到来就行。这表明生活里的大部分琐事，都能直接用语音来处理了。在工作里它同样是个得力助手。像开会要录音时，语音助手能翻译录音并记录。那大模型？你可对录音输入指令：把这段录音整理成会议记录。接着大模型会按你的需求，先把语音转成文字，再依据不同音色的声音和相关文字内容，整理出专门的会议记录，这样你查看时会更便捷。要是领导发了很长的文字，完全不清楚内容，这时只需下令：帮我提取这篇文章的重点。接着就会出现提取后的重点文字内容，这样能节省大量时间，工作效率也会成倍提高。这么来讲，手机加上大模型后，会成为真正的智能化终端，具备工具和助理这两种属性。无论何时，只要按住vivo手机电源键0.5秒，输入指令，就能生成相关内容并执行操作。重点在于执行，这是其他大模型做不到的。手机厂商能切实做好隐私保护与安全可信。之前有个隐私和安全话题，很多用户表示大模型的痛点之一是隐私安全。用户信任手机，却不信任其他APP。像vivo这样的手机厂商做的大模型能天然规避这种弊端，值得用户信赖。vivo大模型被整合进OriginOS4，说不定能开启手机体验的新纪元。十年前，没人能料到手机会与生活密不可分。如今，我们可以想象，手机将成为智能生活的核心部分，没有手机就谈不上智能。