返回公开档案

Arm 月度盘点:Liquid AI 开放权重模型 LFM3 在 SME2 加速下预填充提速 3.1 倍

Arm 新闻室在十月生态盘点中称,Liquid AI 新发布的 LFM3 紧凑型开放权重模型覆盖文本、视觉、音频与决策任务。

Arm 称早期临时测试显示,启用量化版 LFM3-1.7B 在启用 SME2(可伸缩矩阵扩展 2)的 Arm CPU(中央处理器) 上、两个线程条件下,预填充快 3.1 倍、解码快 1.5 倍。

此为 Arm 自测的早期结果,非独立复现基准。

事实原始来源可核对
事实与证据边界

Arm 新闻室博客文章称,Liquid AI 于十月发布 LFM3 系列紧凑型开放权重模型,覆盖文本、视觉、音频与决策; Arm 正在支持该系列。

Arm 给出的早期、临时测试数据显示,在启用 SME2(Scalable Matrix Extension 2,可伸缩矩阵扩展 2)的 Arm CPU(中央处理器) 上、使用两个 CPU 线程时,量化版 LFM3-1.7B 的预填充速度提升 3.1 倍、解码速度提升 1.5 倍。

文章同时提到 Liquid AI 是 Arm Total Design for Physical AI 的合作伙伴之一,Liquid AI 首席运营官 Jeffery Li 出镜说明双方在模型、软件与硬件上的合作。

分析判断

价值在于端侧小模型与 CPU(中央处理器) 矩阵指令集协同优化的路径:开放权重模型若能在通用 Arm CPU 上获得明显加速,意味着手机、PC 等设备部署多模态小模型的门槛可能下降。 但 3.1 倍与 1.5 倍均为 Arm 自测的早期临时结果,量化方式、参考硬件等测试条件披露有限,不能等同于终端用户体验提升。

后续观察信号

  • 核实 LFM3-1.7B 的量化精度与测试所用参考硬件型号
  • 追踪 Arm SME2 在更多端侧模型上的公开基准

原创编辑内容 © BlisseMind Insight。欢迎分享原文链接;全文转载须取得授权。引用的研究、数据及第三方材料的权利归相应权利人所有。

署名与转载说明

Insight 智能顾问

BlisseMind Insight

你好,我是 Insight 智能顾问。

我可以帮你查找公开市场信息、解读研究内容、比较公司与竞品,并提供可核对的来源。