Reflection发布开放权重模型Beam,Google(谷歌) Cloud首日支持并称吞吐最高提升5倍
Reflection发布首个开放权重模型Beam(约501B总参数、每token激活约23B、约100万token上下文),以Apache 2.0许可证发布,面向软件工程与长周期智能体任务。
Google Cloud同日公布部署方案,称在llm-d(搭配vLLM)与NVIDIA Dynamo(搭配SGLang)优化下,吞吐最高提升5倍、延迟最高降低8倍。 上述数字来自客户基准测试,两组配置硬件不同。
Google(谷歌) Cloud博客称,Reflection于2026年10月17日发布Beam,这是其首个开放权重模型,总参数约501B、每token激活约23B参数、上下文窗口约100万token,权重以Apache 2.0许可证发布,上线即提供BF16、FP8、NVFP4检查点,可从Reflection的Hugging Face页面获取。
博客称Beam解决复杂推理与编程问题时,所需推理token比同类开放权重模型少3至4倍。 Google Cloud宣布首日支持,在AI(人工智能) Hypercomputer与NVIDIA AI Infrastructure上提供部署配方,配合llm-d(含vLLM)与NVIDIA Dynamo(含SGLang)优化服务栈;
相关Kubernetes清单、路由配置与基准脚本已开源。 博客注明性能数字基于客户基准测试,且两组对比配置硬件不同(Dynamo在32块NVIDIA GB300 NVL72的A4X Max实例,llm-d在8块NVIDIA RTX PRO 6000的G4虚拟机),不可相互比较。
这条消息的价值在于把模型效率与服务体系放在一起讨论。 Beam每token仅激活约23B参数,压低单步推理成本; 但多轮智能体会话会累积数十万token上下文,预填充计算与KV缓存容量随即成为瓶颈。 Google(谷歌) Cloud给出的解法是把无状态轮询路由改为前缀感知路由、预填充与解码分离、把KV缓存分层溢出到主机DRAM与本地SSD。
这说明开放权重模型的竞争正从参数与榜单转向同等硬件下的有效吞吐。 需注意5倍与8倍是厂商引用的客户自报结果,缺少独立复现,且两组配置硬件不同,不能跨组比较。 带括号的中文释义仅为首现说明,不改变原文表述。
后续观察信号
- 核对Beam在Hugging Face上的许可证与检查点实际发布情况
- 追踪AgentX轨迹数据集基准的复现条件与硬件差异说明
