GEO资讯

面壁智能发布MiniCPM-V 4.7,350亿参数模型跑上手机

发布于 2026/10/13 7 次阅读
面壁智能发布MiniCPM-V 4.7,350亿参数模型跑上手机

10月13日,端侧多模态开源模型再进一步

10月13日,面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,包含 35B-A3B 与 1B 两个版本。据上海证券报中国证券网与环球网等媒体报道,35B-A3B 采用 MoE 架构,总参数350亿、每次推理仅激活30亿,厂商称仅需约3GB内存即可运行,iPad Pro 实测解码速度达每秒15个词元以上;发布当日即适配瑞芯微、英伟达、英特尔与苹果等主流芯片平台,支持 iOS、安卓与鸿蒙系统,并提供开源端侧适配代码与主流推理框架。1B 版本面向效率敏感的入门设备,让多模态能力覆盖更多机型。

背景:MoE 上手机难在哪里

混合专家(MoE)架构的好处是能力与开销兼顾:模型内部分布着大量"专家",每次回答只调用其中少数几位,同样的参数规模下推理成本更低。但放到手机上,难点恰好出在这里——传统做法是用到哪位专家,就临时把它的权重搬进运存,一搬一停就会出现卡顿。面壁智能给出的解法是自研的 LES(前瞻专家调度)技术:系统提前预判接下来要用到哪些专家,趁当前计算还在进行时同步完成加载,好比接力赛里接棒人提前起跑、边跑边接棒,棒子到手时已是全速。厂商方面介绍,该技术目前为业界独家开源方案。

深度分析:厂商口径与真实水位

需要标明的是,"可在端侧无损流畅运行的开源 MoE 模型""独家开源方案"均为面壁智能方面的表述,流畅度数据来自厂商在特定设备上的实测,第三方独立复测尚未见到;实际体验还取决于终端算力、系统调度与具体任务。不过方向本身有行业共识:端侧模型的优势在于离线可用、响应快、数据不出设备,对车载、办公、健康等隐私敏感场景有明确价值。此前端侧多模态多为小参数稠密模型,350亿总参数的 MoE 走进约3GB内存,相当于把过去云端才具备的能力规格下探到终端,端云协同的分工边界随之改变。

企业视角:内容要经得起端侧助手的转述

端侧模型普及对企业内容的另一层影响在可见性。手机厂商正把系统级AI助手做成默认入口,用户在锁屏下或离线状态提问时,回答可能来自端侧模型的知识与缓存,而非实时搜索。极欧互联在做 GEO 优化(生成式引擎优化)项目时观察到,被AI引用的前提始终是事实清晰、来源可信:产品参数、服务范围、联系方式写成结构明确、口径统一的页面,无论引擎在云端还是端侧取材,转述都不容易失真。另外,MiniCPM 系列由面壁智能联合 OpenBMB 开源社区发布,全球累计下载量已突破6000万次(厂商披露口径),开源模型被大量下游开发者接入,意味着企业内容的读者还包括众多第三方应用——图文对照、参数清晰的多模态素材,比纯文字更容易被准确转述。

趋势:端侧与云端各管一段

从行业看,端侧模型与云端模型正在形成分工:日常简单问答与隐私数据处理留在设备上,复杂推理交给云端完成。国产芯片与鸿蒙等系统生态的适配进度,会成为端侧多模态普及速度的关键变量。对企业来说,与其争论端侧还是云端,不如把内容的事实层做扎实——机器取材的入口越来越多,官网作为可信事实来源的地位反而更突出。

信息来源