英伟达发布DSX算力工厂能效套件:Lambda验证同功率预算下token吞吐提升24%
英伟达在AI(人工智能) Infra Summit(人工智能基础设施峰会)上以算力工厂(AI factory)每兆瓦产出多少token为核心指标,介绍DSX平台在功耗管理与电网响应上的早期结果。
云服务商Lambda在五机架、19节点集群上运行DSX MaxLPS后,在同等功率预算下将集群token吞吐从约每秒400万提升至500万,每瓦性能提升23%。 读者可据此理解“同电多算”的可行路径与验证边界。
英伟达博客文章称,DSX平台于5月GTC Taipei发布,涵盖DSX MaxLPS(动态功耗分配,实时监测GPU(图形处理器)与机架级功耗,回收被闲置容量)、DSX Flex(接收电网削峰、需求响应、电价事件信号并调整AI(人工智能)工作负载优先级)、DSX OS(开源模块化AI工厂生命周期管理软件)、DSX Sim(部署前仿真建模)与DSX Reference Designs(分代验证架构)。
Lambda在NVIDIA(英伟达) HGX B200 GPU服务器上首次验证DSX MaxLPS:以19个节点运行在约85%功率策略下,对比16节点满功率基线,在同一设施功率预算内实现集群token吞吐提升24%,从约每秒400万token增至500万,每瓦性能提升23%。
英伟达基于自身预测称,在合适的部署环境下,DSX MaxLPS可为下一代Vera Rubin NVL72算力工厂在同一兆瓦预算内带来最多40%的GPU容量提升。
电网侧案例中,Emerald AI的Conductor平台作为Silicon Valley Power(硅谷电力公司)Flexible Load Interconnect Program的参与方运行于英伟达Eos算力工厂; 文章称该公用事业已向该工厂发送超过200次需求信号,每次均自动响应,功率在不到一分钟内从4兆瓦降至3兆瓦,高优先级任务未中断。
首个专门的DSX Flex商业部署将是位于弗吉尼亚州马纳萨斯的96兆瓦Vera Rubin算力工厂(英伟达AI Factory Research Center)。 文章还提到800V直流供电架构,称相较54V配电端到端效率预计提升3%至5%,将随Vera Rubin NVL72于2027年提供。
这批数据的意义在于把“每兆瓦有效工作量”变成可对照的运营指标:24%的token吞吐提升和23%的每瓦性能提升来自同一设施功率预算下的节点调度策略,而非芯片换代,说明供电与调度侧的优化空间在现有B200硬件上已被部分兑现。
但需注意,这些数字由英伟达博客转述Lambda的首次部署环境验证,不是独立第三方测评,集群规模为五机架19节点,能否线性外推到多兆瓦级、混合训练与推理的生产集群尚未披露。 电网响应案例的200余次信号同样来自参与方叙述,其“每次成功”缺乏第三方审计口径。
40%的GPU(图形处理器)容量提升与800V架构的3%至5%效率增益均为英伟达自身预测或预计值,其中800V方案标注2027年提供,属于路线图而非可用产品。
后续观察信号
- Lambda的19节点验证是否有完整方法学或第三方复核?
- 超过200次电网需求信号的响应记录是否有公用事业或监管方公开数据?
- Vera Rubin NVL72下40%GPU(图形处理器)容量提升的假设条件是什么?
