蓝心大模型矩阵
端侧大模型与手机场景天然匹配,是这次开发者大会AI部分的重点。此次,vivo发布了30亿参数量级的蓝心端侧大模型(下称“蓝心3B”)——而此前,手机厂商基本上在卷6B、7B参数量的模型。
周围表示,过去行业对于大模型量级有着尺寸上限的执着追求。不过,过度追求端侧大参数并无意义,在手机有限的空间里,反而挤占内存和电量,也起不到什么作用。而vivo团队发现,3B的模型才是最适合手机端侧应用的参数量。
根据介绍,在对话写作、摘要总结、信息抽取等能力上,“蓝心3B”几乎可比肩行业7B-9B模型。vivo方面给出了一系列参数对比——相比蓝心7B,蓝心3B性能提升了300%、功耗优化达46%、内存占用仅1.4GB。
不过,vivo的“蓝心大模型矩阵”不仅仅只有端侧大模型,vivo此次也公布了他们其他类型的大模型(语音、图像、多模态)的升级。
比如,vivo如今全新的语言大模型,是基于千亿级的云端大模型,此次vivo重点优化了意图理解和任务规划能力,相比去年,整体能力提升30%;
vivo全新的蓝心语音大模型,则强化了准确理解自然语义,模拟人声的能力;
vivo的蓝心图像大模型,今年则着重强化了东方美学和中国特色;
蓝心多模态大模型,则升级了其视觉感知理解能力。
周围表示,目前云端大模型在手机上的调用,成本已经下降至“不到一分钱一次”。
降本,不仅仅源于云端成本下降,也由于vivo持续推进大规模端侧普及,“今年我们有十几个、数十个功能都端侧化了,以后可能闲聊、识别、决策、执行全部都端侧化了”。
截至目前,vivo的AI能力已覆盖全球60多个国家和地区,服务超过5亿手机用户,大模型token输出量超过了3万亿个。
不过,种种大模型升级,打好了底层技术设施,而要让用户感知到,还需要进一步产品化。在此次开发者大会上, vivo基于蓝心大模型技术,在手机上探索落地了“PhoneGPT”手机智能体。
PhoneGPT
从演示中,这一智能体重构了用户与手机的交互方式。比如,基于vivo的语音交互“蓝心小V”,用户可以对屏幕界面进行识别操作,直接接管音频进行自主对话,以完成用户交代的任务,例如帮助用户去订餐厅、订咖啡等等。
AI在手机上的实现,离不开强大操作系统的支撑,vivo也在以蓝心大模型为基础技术底座,探索AI与OS的深度融合。此次开发者大会上,vivo推出新一代操作系统“原系统5”(OriginOS 5)。
周围表示,操作系统的重构包括,重构完整的交互、数字服务体验。
在交互体验上,基于“原系统 5”,用户可以用一按一复制、一按一拖拽,满足用户的多任务需求。此外,系统还支持全新的语音,比如苗家、壮族的方言等等。
在重构数字服务体验方面,在蓝心多模态大模型技术的加持下,vivo全新推出小V圈搜功能。
据vivo方面介绍,在既有的文本搜索基础上,通过图像识别与圈选交互的结合,精准搜索对象,提供更便捷的“一圈即搜”。
原系统5还全新升级了“原子岛”功能,除通知功能外,“蓝心小V”的意图识别能力,可以分析、判断用户当前的需求,主动为用户提供后项服务。
end
梦幻少女 | 8天前 |
我已经离不开这个app了! |
那年今日的 | 3天前 |
功能简单到不能再简单了,几乎没有任何实用价值,纯粹是个摆设! |
樱花雪 | 2天前 |
点赞,太好用了,挺良心的,我会一如既往的支持你们的。 |
小仙女 | 9天前 |
功能强大,非常满意! |
快乐小天使 | 8天前 |
操作简单,功能强大,完全超出了我的预期! |
美梦被尿惊醒 | 5天前 |
我非常喜欢这个app的流畅度,每个功能都能够快速响应,让我能够高效地完成任务。 |
自甘堕落 | 1天前 |
解决问题,效率高! |
星光小精灵 | 9天前 |
功能多样,满足需求! |
甜心小公主 | 3天前 |
这款app的流畅度让我感到惊喜!无论是打开速度还是页面加载,都非常迅速。 |
魔法小精灵 | 4天前 |
操作有些繁琐,希望能够简化一下流程,提升用户体验。 |