Hermes 3: De Eerste Fijn Afgestemde Llama 3.1 405B Model

Onderzoeksbureau Nous Research heeft Hermes 3 gelanceerd, de eerste full-parameters fine-tune van Meta's Llama 3.1 405B-model, getraind op Lambda's 1-Click Cluster. Hermes 3 is een neutraal-georiënteerd, generalistisch model met sterke redeneer- en besluitvormingscapaciteiten, ontworpen voor de open-source gemeenschap en beschikbaar voor iedereen via Lambda's Chat Completions API. Het model excelleert in creatieve taken zoals rollenspel en fictie, evenals in professionele toepassingen die geavanceerde redenatie en besluitvorming vereisen. Hermes 3 werd getraind met behulp van gesynthetiseerde data, begeleide fine-tuning en versterkend leren van menselijke feedback, gevolgd door Neural Magic's FP8-quantificatie, waardoor zijn VRAM- en schijfvereisten met 50% werden verminderd. Het kan efficiënt draaien op één node of schalen naar een multi-node-cluster voor verdere fine-tuning. Hermes 3 is ontgrendeld, ongecensureerd en stuurbaar, wat flexibiliteit en alignering met gebruikersbehoeften biedt. Het model presteert beter dan Llama 3.1 Instruct op benchmarks en is beschikbaar voor iedereen via Lambda's nieuwe Chat Completions API, die compatibel is met de OpenAI API. De API biedt eenvoudige toegang zonder complexe setup, waardoor gebruikers eenvoudig generaties en chat-completingen kunnen creëren.