토큰 효율적인 RAG: 쿼리 의도를 활용하여 정확도를 유지하면서 비용 절감

이 기사에서는 응답 정확도를 유지하면서 응답 생성에 필요한 토큰 수를 줄이기 위한 RAG 최적화 기법을 살펴볼 것입니다. RAG에 대해 더 자세히 알아보기 전에 몇 가지 기본 용어를 복습해 보겠습니다. LLM(대규모 언어 모델)이란 무엇인가요? 대규모 언어 모델(LLM)은 방대한 양의 데이터로 사전 훈련된 매우 큰 딥 러닝 모델입니다. 콘텐츠 생성, 텍스트 분류, 텍스트 마이닝, 요약 등 간단한 작업부터 복잡한 작업까지 수행할 수 있습니다.