헤르메스 3: 최초의 미세 조정된 라마 3.1 405B 모델

Nous Research는 Llama 3.1 405B 모델의 첫 번째 풀-파라미터 파인튜닝인 Hermes 3을 출시했습니다. Hermes 3은 Lambda의 1-Click Cluster에서 훈련된 중립적이고 일반적인 모델로, 강력한 추론 기능을 제공합니다. 이 모델은 오픈 소스 커뮤니티를 위해 무료로 제공되는 것으로, Lambda의 Chat Completions API를 통해 접근할 수 있습니다. Hermes 3은 창의적인 작업, 예를 들어 역할 연기와 소설, 뿐 아니라 고급 추론 및 의사 결정이 필요한 전문적인 애플리케이션에서 탁월한 성능을 보여줍니다. Hermes 3은 합성 데이터, 감독된 파인튜닝, 인간 피드백에 대한 강화 학습을 통해 훈련되었습니다. 또한 Neural Magic의 FP8 quantization을 적용하여 VRAM 및 디스크 요구 사항을 50% 줄였습니다. Hermes 3은 싱글 노드에서 효율적으로 실행할 수 있고, 추가 파인튜닝을 위해 멀티 노드 클러스터로 확장할 수도 있습니다. Hermes 3은 잠금 해제, 검열 해제, 조정 가능하여 사용자 요구에 맞게 유연하게 작동합니다. 이 모델은 Llama 3.1 Instruct 벤치마크에서 더 나은 성능을 보여주는 데 성공했으며, Lambda의 새로운 Chat Completions API를 통해 무료로 제공됩니다. 이 API는 복잡한 설정이 필요하지 않아 사용자가 쉽게 접근하고 채팅 완성 기능을 사용할 수 있습니다.