클라우드플레어의 인프라에서 빠르고 큰 언어 모델을 실행하기 위해 맞춤형 기술 스택을 구축했습니다. 이 게시물은 고성능 AI 추론을 사용할 수 있게 하기 위해 필요한 엔지니어링 트레이드오프와 기술 최적화를 살펴봅니다.