返回公开档案

英伟达在 IFA 2026 公布本地 AI(人工智能) 推理优化与 PAIR 多机调度工具,RTX Spark 电脑 10 月上市

英伟达在 IFA 2026 公布本地 AI(人工智能) 一组更新:经 llama.cpp 与 vLLM 优化,GeForce RTX 5090 上 llama.cpp 吞吐最高提升 1.9 倍,RTX PRO 6000 Blackwell 工作站版上 vLLM 提升 1.2 倍。

免费开源的 PAIR(Personal AI Router,个人 AI 路由器)可把推理请求分发到同一局域网内多台电脑,处于 beta。

搭载 RTX Blackwell GPU(图形处理器) 的 RTX Spark Windows 电脑 10 月出货。 上述倍数为英伟达自测口径,非第三方评测。

公司口径原始来源可核对
事实与证据边界

英伟达称,与开源社区合作后,llama.cpp 在 GeForce RTX 5090 上吞吐最高提升 1.9 倍(内核优化、增强的投机解码与更快预填充); vLLM 在 RTX PRO 6000 Blackwell 工作站版提升 1.2 倍,在两台 DGX Spark 集群上最高提升 1.4 倍,相关优化也可通过 LM Studio 和 Ollama 使用。

PAIR 自动发现局域网内兼容 PC 并路由推理请求,支持 Ollama 与 LM Studio,覆盖 Windows、macOS、Linux,支持 GeForce RTX 20 系列及更新、RTX PRO 工作站 GPU(Turing 架构及更新)、DGX Spark 和 Apple M4 及更新芯片。

Hermes Agent(由 Nous Research 开发)、OpenClaw 和 Perplexity Portable Computer 将提供本地模型简化配置。

RTX Spark 搭载 1 Petaflop(千万亿次浮点运算/秒)RTX Blackwell GPU(图形处理器)、最高 128GB 统一内存和 20 核 Grace CPU(中央处理器),10 月由联想、宏碁等 OEM(原始设备制造商)出货。

分析判断

核心变化不在单卡性能,而在“本地推理的调度层”开始产品化:PAIR 把多台普通 PC 视为可动态加入退出的算力池,直接对应家庭和小团队场景中 GPU(图形处理器) 利用率低的问题。 推理优化以开源后端为载体分发,性能提升能否兑现取决于模型、量化设置与硬件组合,厂商倍数不构成通用基准。

对算力与数据基础设施而言,若本地多机调度成熟,一部分轻量智能体负载可能留在端侧,云侧更多承担高难度任务的按需升级; 但这一分流规模尚无公开数据支撑。

后续观察信号

  • PAIR 在多机并发下的调度策略与故障迁移机制是否公开
  • DGX Spark 双机集群跑 DeepSeek v4 Flash 的实际内存与延迟表现

原创编辑内容 © BlisseMind Insight。欢迎分享原文链接;全文转载须取得授权。引用的研究、数据及第三方材料的权利归相应权利人所有。

署名与转载说明

Insight 智能顾问

BlisseMind Insight

你好,我是 Insight 智能顾问。

我可以帮你查找公开市场信息、解读研究内容、比较公司与竞品,并提供可核对的来源。