Hugging Face transformers 라이브러... 노트

Hugging Face transformers 라이브러리를 사용한 소형 언어 모델 + smolLM3

70B 모델을 프로덕션에서 실행하는 것은 비싸며, 많은 작업에 있어서는 불필요합니다. 집중된 파이프라인을 구축하고 있다면, 잘 훈련된 3B 모델이 특정 작업에서 70B 모델과 같거나 더 나은 성능을 보이면서 비용은 훨씬 적게 들 것입니다.
CdXz5zHNQW_9u1HCOOSgF.png