Nous Research har lanserat Hermes 3, den första full-parametriska finjusteringen av Metas Llama 3.1 405B-modell, tränad på Lambdas 1-Click Cluster. Hermes 3 är en neutral, generalistisk modell med starka resonemangsförmågor, utformad för den öppna källkodsgemenskapen och tillgänglig gratis via Lambdas Chat Completions API. Modellen excellerar i kreativa uppgifter som rollspel och fiktion, liksom i professionella tillämpningar som kräver avancerade resonemang och beslutsfattande. Hermes 3 tränades med syntetiska data, övervakad finjustering och förstärkningsinlärning från mänsklig feedback, följt av Neural Magics FP8-kvantisering, vilket minskade dess VRAM- och diskkrav med 50%. Den kan köra effektivt på en enskild nod eller skalas till en multi-nod cluster för ytterligare finjustering. Hermes 3 är olåst, uncensurerad och styrbar, vilket ger flexibilitet och överensstämmelse med användarnas behov. Modellen överträffar Llama 3.1 Instruct på benchmarkar och är tillgänglig gratis genom Lambdas nya Chat Completions API, som är kompatibelt med OpenAI API. API:et erbjuder enkel åtkomst utan komplex installation, vilket möjliggör användare att generera slutföranden och chatt-slutföranden utan ansträngning.
lambdalabs.com
Hermes 3: The First Fine-Tuned Llama 3.1 405B Model
Create attached notes ...