Construye un sistema RAG multi-agente con Granite localmente

Este tutorial demuestra cómo construir un sistema de Generación Aumentada por Recuperación (RAG) multi-agente localmente, evitando la necesidad de costosos modelos de lenguaje grandes (LLMs). RAG Agéntico utiliza agentes de IA para planificar y ejecutar tareas, mejorando la escalabilidad y la optimización de RAG. Un sistema multi-agente, usando un modelo pequeño y eficiente como Granite 3.2, ofrece un rendimiento superior en comparación con agentes individuales. El sistema emplea una arquitectura modular con agentes especializados: un Planificador, Asistente de Investigación, Resumidor, Crítico, Agente de Reflexión y Generador de Informes. Cada agente realiza un papel específico, contribuyendo a la finalización eficiente de la tarea y a una mayor precisión. AutoGen (AG2) orquesta el flujo de trabajo y la toma de decisiones, junto con Ollama para el servicio local de LLM y Open WebUI para la interacción del usuario. Todos los componentes son de código abierto, priorizando la privacidad y la rentabilidad. El sistema utiliza herramientas como bases de datos vectoriales para la búsqueda de documentos y SearXNG para las búsquedas web. Instrucciones detalladas de configuración están disponibles en el repositorio de GitHub del proyecto. Este enfoque crea un sistema de IA poderoso y consciente de la privacidad accesible en un ordenador portátil personal.