Nous Researchは、MetaのLlama 3.1 405Bモデルに対する最初のフルパラメーターファインチューンであるHermes 3をリリースしました。このモデルは、Lambdaの1-Click Clusterでトレーニングされた中立的な一般的なモデルで、強い推論能力があり、オープンソースコミュニティ向けに無料で提供されています。Hermes 3は、役割演技やフィクションのような創造的なタスク、また高度な推論と意思決定が必要なプロフェッショナルアプリケーションでも秀です。このモデルは、合成データ、人々からのフィードバックに基づく教え込み、強化学習を使用してトレーニングされました。Neural MagicのFP8量子化も適用され、VRAMとディスク要件が50%削減されました。Hermes 3は、単一ノードで効率的に実行できるか、さらなるファインチューニングのためにマルチノードクラスターにスケールアップも可能です。このモデルは、ロック解除されており、フィルタもなく、ユーザーのニーズと一致するように調整できます。Hermes 3は、Llama 3.1 Instructのベンチマークを上回り、Lambdaの新しいChat Completions APIを通じて無料で提供されています。このAPIは、簡単なセットアップが不要で、ユーザーが簡単に生成やチャットの完了を実現できます。
lambdalabs.com
Hermes 3: The First Fine-Tuned Llama 3.1 405B Model
Create attached notes ...