返回公开档案

Google(谷歌) Cloud 为 Dataflow 批处理作业加入暂停/恢复,并支持英伟达 RTX PRO 6000 Blackwell GPU(图形处理器)推理

Google Cloud(谷歌云)宣布 Dataflow 两项更新正式可用:批处理作业可暂停/恢复,长任务失败后不必从头重跑;

G4 虚拟机开始支持英伟达 RTX PRO 6000 Blackwell GPU(图形处理器),原文称可在 Dataflow 作业内对 70B 以上参数模型执行推理。

对需要兼顾容错与加速资源再分配的团队,这提供了调度和硬件选型新选项; 实际吞吐、延迟与降本幅度均未公布实测数据。

公司口径原始来源可核对
事实与证据边界

Google(谷歌) Cloud 产品经理 Efesa Origbo 与软件工程师 Danny McCormick 在官方博客中称,Dataflow 批处理作业的暂停/恢复功能已正式可用(GA),由谷歌内部技术实现;

此前作业失败后已处理数据无法复用、需整单重试,该功能也允许按业务需求主动暂停与恢复,以便把 GPU(图形处理器)、TPU(张量处理器)等加速资源从低优先级批作业转给特征工程和 AI(人工智能)推理等高优先级任务。 另一项更新是 Dataflow 支持由英伟达 RTX PRO 6000 Blackwell GPU 驱动的 G4 虚拟机。

原文称该 GPU 相比英伟达 L4 GPU 有明显性能提升,提供 96GB vGPU 显存和 1.6 TB/s 带宽,可在 Dataflow 作业内对 70B 以上参数模型执行推理,并沿用 RunInference、GPU 自动扩缩容等原生能力。

分析判断

把失败恢复和资源让渡做进同一套批处理调度,反映云厂商正把“算力利用率”当作可计费的产品特性来卖,而不只是卖裸 GPU(图形处理器)。 70B 级模型声明可直接在数据管道内推理,意味着推理环节可能向数据处理层下沉、减少数据搬移。

不过 96GB 显存和 1.6 TB/s 带宽是硬件规格,能否支撑 70B 以上模型的实际吞吐与延迟仍取决于量化方案与并发配置,原文未给出实测。

后续观察信号

  • 核查 Dataflow 暂停/恢复在作业失败与主动暂停两种情形下的数据一致性说明
  • 了解 G4 虚拟机与 RTX PRO 6000 Blackwell 的可用区域和配额限制

原创编辑内容 © BlisseMind Insight。欢迎分享原文链接;全文转载须取得授权。引用的研究、数据及第三方材料的权利归相应权利人所有。

署名与转载说明

Insight 智能顾问

BlisseMind Insight

你好,我是 Insight 智能顾问。

我可以帮你查找公开市场信息、解读研究内容、比较公司与竞品,并提供可核对的来源。