Arm 月度盘点:Liquid AI 开放权重模型 LFM3 在 SME2 加速下预填充提速 3.1 倍
Arm 新闻室在十月生态盘点中称,Liquid AI 新发布的 LFM3 紧凑型开放权重模型覆盖文本、视觉、音频与决策任务。
Arm 称早期临时测试显示,启用量化版 LFM3-1.7B 在启用 SME2(可伸缩矩阵扩展 2)的 Arm CPU(中央处理器) 上、两个线程条件下,预填充快 3.1 倍、解码快 1.5 倍。
此为 Arm 自测的早期结果,非独立复现基准。
事实原始来源可核对
事实与证据边界
Arm 新闻室博客文章称,Liquid AI 于十月发布 LFM3 系列紧凑型开放权重模型,覆盖文本、视觉、音频与决策; Arm 正在支持该系列。
Arm 给出的早期、临时测试数据显示,在启用 SME2(Scalable Matrix Extension 2,可伸缩矩阵扩展 2)的 Arm CPU(中央处理器) 上、使用两个 CPU 线程时,量化版 LFM3-1.7B 的预填充速度提升 3.1 倍、解码速度提升 1.5 倍。
文章同时提到 Liquid AI 是 Arm Total Design for Physical AI 的合作伙伴之一,Liquid AI 首席运营官 Jeffery Li 出镜说明双方在模型、软件与硬件上的合作。
分析判断
价值在于端侧小模型与 CPU(中央处理器) 矩阵指令集协同优化的路径:开放权重模型若能在通用 Arm CPU 上获得明显加速,意味着手机、PC 等设备部署多模态小模型的门槛可能下降。 但 3.1 倍与 1.5 倍均为 Arm 自测的早期临时结果,量化方式、参考硬件等测试条件披露有限,不能等同于终端用户体验提升。
后续观察信号
- 核实 LFM3-1.7B 的量化精度与测试所用参考硬件型号
- 追踪 Arm SME2 在更多端侧模型上的公开基准
