Hermes 3: Das erste fein abgestimmte Llama 3.1 405B Modell

Nous Research hat Hermes 3 veröffentlicht, das erste Full-Parameter-Fine-Tune von Metas Llama 3.1 405B-Modell, das auf Lambdas 1-Click-Cluster trainiert wurde. Hermes 3 ist ein neutral ausgerichtetes, allgemeines Modell mit starken Schlußfolgerungsfähigkeiten, das für die Open-Source-Gemeinschaft konzipiert wurde und kostenlos über Lambdas Chat-Completions-API verfügbar ist. Das Modell excelt in kreativen Aufgaben wie Rollenspielen und Fiktion, sowie in professionellen Anwendungen, die erweiterte Schlußfolgerung und Entscheidungsfindung erfordern. Hermes 3 wurde mit synthetisierten Daten, überwachtem Feintuning und Verstärkungslernen von menschlichem Feedback trainiert, gefolgt von Neural Magics FP8-Quantisierung, was den VRAM- und Diskbedarf um 50% reduzierte. Es kann effizient auf einem einzelnen Knoten laufen oder sich zu einem Multi-Knoten-Cluster skalieren, um weitere Feintuning zu ermöglichen. Hermes 3 ist entsperrt, unzensiert und steuerbar, was Flexibilität und Anpassung an die Bedürfnisse der Benutzer bietet. Das Modell übertrifft Llama 3.1 Instruct bei Benchmarks und ist kostenlos über Lambdas neues Chat-Completions-API verfügbar, das mit dem OpenAI-API kompatibel ist. Das API bietet einfachen Zugang ohne komplexe Einrichtung, sodass Benutzer Erweiterungen und Chat-Erweiterungen mühelos generieren können.