Hermes 3: Den første finjusterte Llama 3.1 405B-modellen

Nous Research har lansert Hermes 3, den første full-parametere fine-tune av Metas Llama 3.1 405B-modell, trent på Lambdas 1-Click Cluster. Hermes 3 er en nøytralt orientert, generalistisk modell med sterke resonnementeknikker, designet for open-source-samfunnet og tilgjengelig gratis via Lambdas Chat Completions API. Modellen excellerer i kreative oppgaver som rollespill og fiksjon, samt i profesjonelle anvendelser som krever avansert resonnement og beslutningstaking. Hermes 3 ble trent med syntetiske data, overvåket fine-tune og styrket læring fra menneskelig feedback, etterfulgt av Neural Magics FP8-kvantisering, som reduserer dens VRAM- og diskkrav med 50%. Den kan kjøre effektivt på en enkelt node eller skaler til en multi-node-cluster for videre fine-tune. Hermes 3 er låst opp, uncensured og styrbar, tilbyr fleksibilitet og tilpasning til brukernes behov. Modellen overgår Llama 3.1 Instruct på benchmarks og er tilgjengelig gratis gjennom Lambdas nye Chat Completions API, som er kompatibelt med OpenAI API. API-et tilbyr enkel tilgang uten kompleks setup, tillater brukerne å generere fullføringer og chat-fullføringer uten vanskeligheter.