Meta 以 Muse Glimmer 回归开源,这是一款采... 笔记

Meta 以 Muse Glimmer 回归开源,这是一款采用 Apache 2.0 许可、拥有 300 亿参数的 AI 模型,专为智能体优化,现已上线。

Meta 发布了 Muse Glimmer,这是一个拥有 300 亿参数的开源权重 AI 模型。该模型旨在直接在消费级硬件上运行自主 AI 代理,从而将云端工作负载卸载至本地。Glimmer 采用宽松的 Apache 2.0 许可证,是 Meta 迄今为止最开放的发布。其权重已在 Hugging Face 上提供,并将得到 Ollama 和 LM Studio 等多种平台的支持。Mark Zuckerberg 强调了 Glimmer 的本地运行能力以及 Meta 对开源的承诺。该模型围绕规划、工具调用和结果解释的代理循环进行训练,能够作为具备强大上下文理解能力和工具交互能力的代理运行。Glimmer 集成了感知编码器,使其能够处理文本和图像。Glimmer 的量化版本经过优化,可在高端消费级 GPU 的 24GB 显存内运行,从而实现无需持续向远程服务传输数据的本地部署。该模型还具备推测解码功能,以加速生成速度并降低延迟。Muse Glimmer 与其他本地代理模型竞争,但在特定代理基准测试中表现优异。Meta 强调其在现实世界企业代理部署中的实际应用价值。
CdXz5zHNQW_bUti3r9O8h.png