Гермес 3: Первый тонко настроенный ллама 3.1 модель 405B

Компания Nous Research запустила Hermes 3, первый полнопараметрический тонкий настрой Llama 3.1 модели Meta 405B, обученный на кластере Lambda 1-Click. Hermes 3 - это модель общего назначения с нейтральным выравниванием и сильными возможностями рассуждения, предназначенная для сообщества с открытым исходным кодом и доступная бесплатно через API Chat Completions от Lambda. Модель отлично справляется с креативными задачами, такими как роль-плей и художественная литература, а также в профессиональных приложениях, требующих высококачественных рассуждений и принятия решений. Hermes 3 был обучен с помощью синтетических данных, контролируемого тонкого настройки и обучения с подкреплением от человеческой обратной связи, за которым последовала квантование FP8 от Neural Magic, что уменьшило его требования к VRAM и дисковому пространству на 50%. Модель может работать эффективно на одном узле или масштабироваться до кластера из нескольких узлов для дополнительного тонкого настройки. Hermes 3 разблокирован, нецензурирован и управляем, обеспечивая гибкость и соответствие потребностям пользователей. Модель превосходит Llama 3.1 Instruct по результатам тестирования и доступна бесплатно через новый API Chat Completions от Lambda, который совместим с API OpenAI. API предлагает легкий доступ без сложной настройки, позволяя пользователям генерировать завершения и чат-комплиты с легкостью.