Meta는 300억 개의 매개변수를 가진 오픈 가중치 AI 모델인 Muse Glimmer를 출시했습니다. 이 모델은 클라우드 기반 워크로드를 오프로드하여 소비자 하드웨어에서 직접 자율 AI 에이전트를 실행하도록 설계되었습니다. Glimmer는 허용적인 Apache 2.0 라이선스에 따라 라이선스가 부여되어 Meta의 가장 개방적인 릴리스입니다. 가중치는 Hugging Face에서 사용할 수 있으며 Ollama 및 LM Studio와 같은 다양한 플랫폼에서 지원될 예정입니다. Mark Zuckerberg는 Glimmer의 로컬 운영 기능과 Meta의 오픈 소스에 대한 의지를 강조했습니다. 이 모델은 계획, 도구 호출 및 결과 해석의 에이전트 루프를 중심으로 훈련되었습니다. 상당한 컨텍스트 이해와 도구 상호 작용을 갖춘 유능한 에이전트로 기능할 수 있습니다. Glimmer는 인식 인코더를 통합하여 텍스트와 이미지를 모두 처리할 수 있습니다. Glimmer의 양자화된 버전은 고급 소비자 GPU의 24GB VRAM에 맞도록 최적화되었습니다. 이를 통해 원격 서비스로의 지속적인 데이터 전송 없이 로컬 배포가 가능합니다. 이 모델은 또한 생성 속도를 높이고 지연 시간을 줄이기 위해 추측 디코딩 기능을 제공합니다. Muse Glimmer는 다른 로컬 에이전트 모델과 경쟁하지만 특정 에이전트 벤치마크에서 뛰어납니다. Meta는 실제 엔터프라이즈 에이전트 배포에서의 실용적인 응용을 강조합니다.