VentureBeat на русском
Подписаться
Meta возвращается к открытому исходному коду с Muse Glimmer, моделью ИИ с 30 миллиардами параметров, лицензированной по Apache 2.0 и оптимизированной для агентов — доступна сейчас.
Meta выпустила Muse Glimmer, модель ИИ с 30 миллиардами параметров и открытым весом. Эта модель предназначена для запуска автономных ИИ-агентов непосредственно на потребительском оборудовании, снимая нагрузку с облачных сервисов. Glimmer распространяется под разрешительной лицензией Apache 2.0, что делает ее самым открытым релизом Meta на сегодняшний день. Ее веса доступны на Hugging Face и будут поддерживаться различными платформами, такими как Ollama и LM Studio. Марк Цукерберг подчеркнул возможности локальной работы Glimmer и приверженность Meta открытому исходному коду. Модель была обучена вокруг цикла агента, включающего планирование, вызов инструментов и интерпретацию результатов. Она может функционировать как способный агент со значительным пониманием контекста и взаимодействием с инструментами. Glimmer интегрирует энкодер восприятия, позволяющий обрабатывать как текст, так и изображения. Квантованные версии Glimmer оптимизированы для работы в пределах 24 ГБ видеопамяти на высокопроизводительных потребительских видеокартах. Это позволяет развертывать модель локально без постоянной передачи данных на удаленные сервисы. Модель также оснащена спекулятивным декодированием для ускорения генерации и снижения задержки. Muse Glimmer конкурирует с другими локальными моделями агентов, но превосходит их в определенных агентских бенчмарках. Meta подчеркивает ее практическое применение в реальных корпоративных развертываниях агентов.