使用 Granite 在本地构建多-agent RAG 系统

本教程演示了在本地构建多agent检索增强生成（RAG）系统，绕过了昂贵的大型语言模型（LLM）的需求。 Agentic RAG 使用AI代理来计划和执行任务，提高了RAG的可扩展性和优化性。 使用小型、高效模型如Granite 3.2的多agent系统比单个代理具有更好的性能。 系统采用模块化架构，具有专门的代理：计划者、研究助手、总结器、批评家、反思代理和报告生成器。 每个代理执行特定的角色，对任务完成和准确性提高做出了贡献。 AutoGen（AG2）负责工作流程和决策，同时使用Ollama进行本地LLM服务和Open WebUI进行用户交互。 所有组件都是开源的，优先考虑隐私和成本效益。 系统利用了矢量数据库进行文档搜索和SearXNG进行网络搜索。 详细的设置说明可在项目的GitHub存储库中找到。 这种方法创建了一个强大且隐私意识的AI系统，可以在个人笔记本电脑上访问。