英伟达在 IFA 2026 公布本地 AI(人工智能) 推理优化与 PAIR 多机调度工具,RTX Spark 电脑 10 月上市
英伟达在 IFA 2026 公布本地 AI(人工智能) 一组更新:经 llama.cpp 与 vLLM 优化,GeForce RTX 5090 上 llama.cpp 吞吐最高提升 1.9 倍,RTX PRO 6000 Blackwell 工作站版上 vLLM 提升 1.2 倍。
免费开源的 PAIR(Personal AI Router,个人 AI 路由器)可把推理请求分发到同一局域网内多台电脑,处于 beta。
搭载 RTX Blackwell GPU(图形处理器) 的 RTX Spark Windows 电脑 10 月出货。 上述倍数为英伟达自测口径,非第三方评测。
英伟达称,与开源社区合作后,llama.cpp 在 GeForce RTX 5090 上吞吐最高提升 1.9 倍(内核优化、增强的投机解码与更快预填充); vLLM 在 RTX PRO 6000 Blackwell 工作站版提升 1.2 倍,在两台 DGX Spark 集群上最高提升 1.4 倍,相关优化也可通过 LM Studio 和 Ollama 使用。
PAIR 自动发现局域网内兼容 PC 并路由推理请求,支持 Ollama 与 LM Studio,覆盖 Windows、macOS、Linux,支持 GeForce RTX 20 系列及更新、RTX PRO 工作站 GPU(Turing 架构及更新)、DGX Spark 和 Apple M4 及更新芯片。
Hermes Agent(由 Nous Research 开发)、OpenClaw 和 Perplexity Portable Computer 将提供本地模型简化配置。
RTX Spark 搭载 1 Petaflop(千万亿次浮点运算/秒)RTX Blackwell GPU(图形处理器)、最高 128GB 统一内存和 20 核 Grace CPU(中央处理器),10 月由联想、宏碁等 OEM(原始设备制造商)出货。
核心变化不在单卡性能,而在“本地推理的调度层”开始产品化:PAIR 把多台普通 PC 视为可动态加入退出的算力池,直接对应家庭和小团队场景中 GPU(图形处理器) 利用率低的问题。 推理优化以开源后端为载体分发,性能提升能否兑现取决于模型、量化设置与硬件组合,厂商倍数不构成通用基准。
对算力与数据基础设施而言,若本地多机调度成熟,一部分轻量智能体负载可能留在端侧,云侧更多承担高难度任务的按需升级; 但这一分流规模尚无公开数据支撑。
后续观察信号
- PAIR 在多机并发下的调度策略与故障迁移机制是否公开
- DGX Spark 双机集群跑 DeepSeek v4 Flash 的实际内存与延迟表现
