无云、无 GPU,也无问题:Liquid AI 的新模型 L... 笔记

无云、无 GPU,也无问题:Liquid AI 的新模型 LFM2.5-2.6B 将强大的 AI 代理部署到小到树莓派级别的设备上。

Liquid 是一家由前麻省理工学院计算机科学家创立的人工智能初创公司,已发布 LFM2.5-2.6B,这是一款针对代理任务(agentic tasks)优化的开源权重语言模型。该模型专为在本地硬件上完全运行而设计,从智能手机到树莓派(Raspberry Pi)均可部署,无需依赖云端推理或 GPU。这一能力释放了边缘人工智能(edge AI)应用潜力,并为敏感数据提供增强的隐私保护。LFM2.5-2.6B 在定义明确、高体量的代理任务中表现卓越,例如工具调用(tool calling)、文档管理和工作流自动化。它同样适用于连接受限的环境,如车辆和机器人领域。该模型拥有 26 亿参数和高达 128,000 个 token 的上下文窗口。其原生支持工具调用,并已在 Hugging Face 上发布,兼容主流推理栈。Liquid 将本模型定位为并非与大型前沿模型竞争,而是作为在延迟、隐私和成本至关重要的场景下的解决方案。LFM 架构优先考虑实际 CPU 性能,即使在树莓派等设备上也展现出令人印象深刻的速度。Liquid 专门针对代理框架训练了 LFM2.5-2.6B,聚焦于其有效使用工具的能力,而非仅限于对话任务。该模型的训练流程包含在生产级代理框架内专门的强化学习阶段。Liquid 还开发了其自身的主动式代理框架(proactive agent harness),旨在实现能够在后台自主运行的助手。LFM2.5-2.6B 的许可协议允许年收入低于 1000 万美元的组织进行商业使用,而年收入更高的公司则需另行签署商业协议。在基准测试中,LFM2.5-2.6B 在指令遵循和工具使用任务上表现出强劲性能,在其专业领域内往往优于更大的模型。
CdXz5zHNQW_Eyqv2GZhf1.png