Erstelle ein Multi-Agenten-RAG-System mit Granite lokal

Dieses Tutorial demonstriert den Aufbau eines lokalisierten, mehragenten-basierten Retrieval-Augmented-Generation-Systems (RAG), das die Notwendigkeit teurer großer Sprachmodelle (LLMs) umgeht. Das agente RAG verwendet künstliche Intelligenz-Agenten, um Aufgaben zu planen und auszuführen, was die Skalierbarkeit und Optimierung von RAG verbessert. Ein mehragenten-System, das ein kleines, effizientes Modell wie Granite 3.2 verwendet, bietet eine überlegene Leistung im Vergleich zu einzelnen Agenten. Das System verwendet eine modulare Architektur mit spezialisierten Agenten: einem Planer, einem Forschungsassistenten, einem Zusammenfasser, einem Kritiker, einem Reflexionsagenten und einem Berichtsgenerator. Jeder Agent übernimmt eine spezifische Rolle, die zur effizienten Aufgabenbearbeitung und verbesserten Genauigkeit beiträgt. AutoGen (AG2) orchestriert den Workflow und die Entscheidungsfindung, zusammen mit Ollama für lokale LLM-Dienste und Open WebUI für die Benutzerinteraktion. Alle Komponenten sind Open-Source, priorisieren Datenschutz und Kosteneffizienz. Das System verwendet Tools wie Vektordatenbanken für Dokumentensuchen und SearXNG für Web-Suchen. Detaillierte Einrichtungsanweisungen sind auf dem GitHub-Repository des Projekts verfügbar. Dieser Ansatz schafft ein leistungsfähiges und datenschutzorientiertes KI-System, das auf einem persönlichen Laptop zugänglich ist.