Открытые модели ИИ Granite 4.0 Nano от IBM достаточно малы, чтобы запускаться локально прямо в вашем браузере.

IBM выпустила четыре новые языковые модели с открытым исходным кодом Granite 4.0 Nano, с количеством параметров от 350 миллионов до 1,5 миллиарда. Эти модели уделяют первостепенное внимание эффективности и доступности, они разработаны для работы на ноутбуках и периферийных устройствах, а не требуют обширных ресурсов облачных вычислений. Самые маленькие модели могут даже работать в веб-браузере, что делает их очень универсальными для разработчиков. Модели лицензированы по лицензии Apache 2.0, что позволяет использовать и модифицировать их в коммерческих целях. Они обладают встроенной совместимостью с такими инструментами, как llama.cpp и vLLM, и сертифицированы по стандарту ISO 42001 для ответственной разработки ИИ. Результаты тестов показывают, что они конкурируют или превосходят более крупные модели в аналогичных категориях, особенно в следовании инструкциям и вызове функций. Модели Granite от IBM отвечают потребностям в гибкости развертывания, конфиденциальности выводов и открытой аудируемости. IBM взаимодействует с сообществом открытого исходного кода, намекая на более крупные модели и рецепты тонкой настройки в будущем. Этот выпуск сигнализирует о переходе к стратегически масштабируемому ИИ, а не только к опоре на размер модели. Модели Granite разработаны как готовые к использованию в корпоративной среде системы, подчеркивающие прозрачность и производительность.