Hermes 3: Den første finjusterede Llama 3.1 405B Model

Nous Research har lanceret Hermes 3, den første fulde parameter-fine-tune af Metas Llama 3.1 405B-model, trænet på Lambdas 1-Click Cluster. Hermes 3 er en neutral, generalistisk model med stærke resonneringsfærdigheder, designet til det åbne kilde-samfund og tilgængelig gratis via Lambdas Chat Completions API. Modellen excellerer i kreative opgaver som rollespil og fiktion, såvel som i professionelle anvendelser, der kræver avanceret resonnering og beslutningstagning. Hermes 3 blev trænet ved hjælp af syntetiske data, superviseret fine-tune og styring af menneskelig feedback, efterfulgt af Neural Magics FP8-quantificering, hvilket reducerede dens VRAM- og diskkrav med 50%. Den kan køre effektivt på en enkelt node eller skaler til en multi-node-cluster for yderligere fine-tune. Hermes 3 er låst op, uncensureret og styrbar, hvilket giver fleksibilitet og tilpasning til brugernes behov. Modellen overgår Llama 3.1 Instruct på benchmarks og er tilgængelig gratis via Lambdas nye Chat Completions API, som er kompatibelt med OpenAI API. API'et tilbyder nem adgang uden kompleks opsætning, hvilket gør det muligt for brugerne at generere afslutninger og chat-afslutninger let.