Construire un système RAG multi-agents avec Granite localement

Ce tutoriel démontre la construction d'un système de génération augmentée de récupération (RAG) multi-agents localement, contournant ainsi le besoin de modèles de langage grand public (LLM) coûteux. Le RAG agentic utilise des agents d'IA pour planifier et exécuter des tâches, améliorant ainsi la scalabilité et l'optimisation du RAG. Un système multi-agents, utilisant un modèle petit et efficace comme Granite 3.2, offre des performances supérieures par rapport à des agents uniques. Le système emploie une architecture modulaire avec des agents spécialisés : un planificateur, un assistant de recherche, un résumeur, un critique, un agent de réflexion et un générateur de rapports. Chaque agent joue un rôle spécifique, contribuant à l'achèvement efficace des tâches et à l'amélioration de la précision. AutoGen (AG2) orchestre le flux de travail et la prise de décision, aux côtés d'Ollama pour le service de modèle de langage local et d'Open WebUI pour l'interaction utilisateur. Tous les composants sont open-source, priorisant la confidentialité et l'efficacité coût. Le système utilise des outils tels que des bases de données vectorielles pour la recherche de documents et SearXNG pour les recherches web. Des instructions de setup détaillées sont disponibles sur le dépôt GitHub du projet. Cette approche crée un système d'IA puissant et respectueux de la confidentialité accessible sur un ordinateur portable personnel.