Un aperçu simple de la pile du développeur RAG moderne

L'approche de génération augmentée de récupération (RAG) est utilisée dans de nombreuses applications de pointe, et une pile RAG moderne se compose de plusieurs composants. Un modèle de langage grand et de haute qualité (LLM) est nécessaire, et les développeurs peuvent choisir entre des modèles ouverts comme Llama 3.3 ou des modèles pilotés par API comme GPT-4 d'OpenAI. Les frameworks comme LangChain, LlamaIndex et Haystack aident à assembler les composants et fournissent des outils pour des tâches comme la recherche et le calcul. Les bases de données vectorielles comme Chroma, Qdrant et Weaviate sont utilisées pour stocker des connaissances fragmentées et activer des recherches de similarité rapides. L'extraction de données implique l'ingestion de connaissances provenant de sources diverses, notamment le scraping web, l'analyse de documents et les API, et est généralement automatisée à l'aide d'outils de workflow. Les couches d'accès aux LLM comme Open LLM Hosts et les fournisseurs de cloud aident à découpler le code des fournisseurs spécifiques. Les embeddings de texte comme Sentence-BERT, BGE et les embeddings d'OpenAI sont utilisés pour activer la récupération, et leur qualité est évaluée à l'aide de métriques comme le rappel@k et le mrr. L'évaluation est cruciale, et les outils comme RAGas, Giskard et TruLens aident à mesurer les métriques comme la pertinence, la précision et le coût. Une vue d'ensemble visuelle de la pile montre comment ces composants interagissent, et les développeurs peuvent utiliser cette pile pour construire des applications d'IA à haute performance.