Reflection 推出了 Beam，这是一款专为高级软件工程及长周期代理任务设计的开放权重模型。Beam 采用 Apache 2.0 许可证，在其参数量级中展现出卓越的推理效率。Google Cloud 宣布立即支持 Beam，并在其 AI 超算平台及 NVIDIA AI 基础设施上提供部署方案。与 Reflection 合作，Google Cloud 利用 llm-d 和 NVIDIA Dynamo 优化了 Beam 的推理性能，以提升服务效率。在 Google Cloud 上部署 Beam，显著提升了代理任务的吞吐量并降低了延迟。此次发布强调模型与系统效率的协同提升，从而为代理任务带来更高的吞吐量和更低的延迟。通过 KV 缓存感知路由和推测解码等先进技术，实现了高效的多轮次服务。开发者如今可轻松获得针对代理任务的开箱即用型优化部署。代理任务的推理扩展需要在模型层和服务系统层同时进行优化。Beam 独特的架构仅激活其参数的一小部分以生成每个 token，大幅降低了计算需求。服务栈解决了长上下文场景中的瓶颈问题，如预填充计算和 KV 缓存容量。这一联合开发方案旨在为开发者提供强大且高效的 AI 工具。