Google(谷歌) Cloud 为 Dataflow 批处理作业加入暂停/恢复,并支持英伟达 RTX PRO 6000 Blackwell GPU(图形处理器)推理
Google Cloud(谷歌云)宣布 Dataflow 两项更新正式可用:批处理作业可暂停/恢复,长任务失败后不必从头重跑;
G4 虚拟机开始支持英伟达 RTX PRO 6000 Blackwell GPU(图形处理器),原文称可在 Dataflow 作业内对 70B 以上参数模型执行推理。
对需要兼顾容错与加速资源再分配的团队,这提供了调度和硬件选型新选项; 实际吞吐、延迟与降本幅度均未公布实测数据。
Google(谷歌) Cloud 产品经理 Efesa Origbo 与软件工程师 Danny McCormick 在官方博客中称,Dataflow 批处理作业的暂停/恢复功能已正式可用(GA),由谷歌内部技术实现;
此前作业失败后已处理数据无法复用、需整单重试,该功能也允许按业务需求主动暂停与恢复,以便把 GPU(图形处理器)、TPU(张量处理器)等加速资源从低优先级批作业转给特征工程和 AI(人工智能)推理等高优先级任务。 另一项更新是 Dataflow 支持由英伟达 RTX PRO 6000 Blackwell GPU 驱动的 G4 虚拟机。
原文称该 GPU 相比英伟达 L4 GPU 有明显性能提升,提供 96GB vGPU 显存和 1.6 TB/s 带宽,可在 Dataflow 作业内对 70B 以上参数模型执行推理,并沿用 RunInference、GPU 自动扩缩容等原生能力。
把失败恢复和资源让渡做进同一套批处理调度,反映云厂商正把“算力利用率”当作可计费的产品特性来卖,而不只是卖裸 GPU(图形处理器)。 70B 级模型声明可直接在数据管道内推理,意味着推理环节可能向数据处理层下沉、减少数据搬移。
不过 96GB 显存和 1.6 TB/s 带宽是硬件规格,能否支撑 70B 以上模型的实际吞吐与延迟仍取决于量化方案与并发配置,原文未给出实测。
后续观察信号
- 核查 Dataflow 暂停/恢复在作业失败与主动暂停两种情形下的数据一致性说明
- 了解 G4 虚拟机与 RTX PRO 6000 Blackwell 的可用区域和配额限制
