MIT 컴퓨터 과학자 출신들이 설립한 AI 스타트업 Liquid가 에이전트 작업에 최적화된 오픈 웨이트 언어 모델인 LFM2.5-2.6B를 출시했습니다. 이 모델은 스마트폰부터 Raspberry Pi까지 모든 로컬 하드웨어에서 완전히 실행되도록 설계되어 클라우드 추론이나 GPU의 필요성을 없앴습니다. 이러한 기능은 엣지 AI 애플리케이션을 가능하게 하고 민감한 데이터에 대한 향상된 개인 정보 보호를 제공합니다. LFM2.5-2.6B는 도구 호출, 문서 관리, 워크플로우 자동화와 같이 잘 정의되고 대량의 에이전트 작업에 탁월합니다. 또한 차량 및 로봇과 같이 연결성이 제한된 환경에도 적합합니다. 이 모델은 26억 개의 매개변수와 상당한 128,000개의 토큰 컨텍스트 창을 가지고 있습니다. 네이티브 도구 호출 기능을 갖추고 있으며 주요 추론 스택에 대한 지원과 함께 Hugging Face에서 사용할 수 있습니다. Liquid는 이 모델을 대규모 프론티어 모델의 경쟁자가 아닌, 지연 시간, 개인 정보 보호 및 비용이 가장 중요한 솔루션으로 포지셔닝합니다. LFM 아키텍처는 실제 CPU 성능을 우선시하며, Raspberry Pi와 같은 장치에서도 인상적인 속도를 보여줍니다. Liquid는 LFM2.5-2.6B를 에이전트 프레임워크를 위해 특별히 훈련했으며, 단순히 대화형 작업이 아닌 도구를 효과적으로 사용하는 능력에 중점을 두었습니다. 모델의 훈련 파이프라인에는 프로덕션 에이전트 하네스 내에서 전용 강화 학습 단계가 포함됩니다. Liquid는 또한 자체적인 능동 에이전트 하네스를 개발하여 백그라운드에서 자율적으로 작동하는 어시스턴트를 목표로 합니다. LFM2.5-2.6B의 라이선스는 연간 수익 1,000만 달러 미만의 조직에 대한 상업적 사용을 허용하며, 더 큰 규모의 회사는 별도의 상업 계약이 필요합니다. 벤치마크에서 LFM2.5-2.6B는 지시 따르기 및 도구 사용 작업에서 강력한 성능을 보여주며, 전문 분야에서는 종종 더 큰 모델을 능가합니다.