返回公开档案

面壁智能发布35B多模态大模型MiniCPM-V 4.7,称可在手机端运行

科技日报报道,面壁智能发布总参数35B(十亿)、约3B激活参数的多模态大模型MiniCPM-V 4.7,企业称其可在手机端运行:运行时内存占用约3GB,生成速度超过每秒20个词元,同系列1B版本可下探至千元机乃至部分百元设备。

模型采用混合专家(MoE)架构,将专家权重存于闪存并按需加载,配合前瞻专家调度、分层量化与投机解码降低等待时间。 上述性能数字均为企业发布口径,报道未提供第三方复测或同行评审。

事实原始来源可核对
事实与证据边界

科技日报11月9日报道,面壁智能发布MiniCPM-V 4.7,为35B(十亿)总参数、约3B激活参数的多模态大模型,报道称其实现手机端无损流畅运行。 该模型采用混合专家(MoE)架构,手机端运行内存占用约3GB,生成速度超过20token/s(词元/秒); 同系列1B版本可下探至千元机及部分百元设备。

技术做法上,面壁智能将大部分专家权重存于手机闪存、推理时按需加载,并提出前瞻专家调度技术,提前预测下一层可能调用的专家,将数据读取与当前层计算并行以隐藏存储I/O(输入/输出)等待,同时结合分层量化、投机解码提升推理效率。 面壁智能表示已将推理引擎、App代码及相关安装包开源。 报道中的性能数字来自企业发布,未见第三方复测。

分析判断

这条发布把端侧多模态模型的竞争点从“能否运行”推进到“如何在手机内存与存储带宽约束下保持可用速度”。 其核心路线是用MoE(混合专家)稀疏激活把权重放到闪存,再用调度预测掩盖读取延迟,实际上把端侧体验的一部分交给了I/O(输入/输出)调度与量化策略,而非单纯堆参数。

35B总参数与3B激活参数的组合说明,厂商的参数规模宣传与实际推理开销之间存在明显区分,读者应分开看。 开源推理引擎和App代码若被手机与芯片厂商采用,可能加快端侧部署适配,但目前尚无独立测试验证不同机型上的内存占用与速度一致性。

后续观察信号

  • 前瞻专家调度技术在真机长时间运行下的延迟稳定性如何
  • 分层量化对多模态任务准确率的影响是否有公开评测

原创编辑内容 © BlisseMind Insight。欢迎分享原文链接;全文转载须取得授权。引用的研究、数据及第三方材料的权利归相应权利人所有。

署名与转载说明

Insight 智能顾问

BlisseMind Insight

你好,我是 Insight 智能顾问。

我可以帮你查找公开市场信息、解读研究内容、比较公司与竞品,并提供可核对的来源。