Base de conocimiento de inteligencia artificial local con Next.js, Ollama y PostgreSQL

Aman Yadav desarrolló un sistema de gestión de base de conocimientos totalmente local y potenciado por IA para el reto de IA de código abierto. Este sistema utiliza extensiones de IA de PostgreSQL y los modelos locales de Ollama, lo que garantiza que todo el procesamiento de IA se lleve a cabo en la máquina del usuario para un control y privacidad completos. El sistema cuenta con una interfaz de chat con capacidades RAG, llamadas de funciones para una interacción ampliada y una moderna interfaz web con interacciones de chat en tiempo real y gestión de archivos. El proyecto aprovecha varias herramientas de código abierto, entre las que se incluyen Next.js, Vercel AI SDK, shadcn/ui y Min.io. El aspecto más desafiante fue permitir la operación local, y el repositorio de GitHub del proyecto está disponible para un mayor desarrollo. Las mejoras futuras incluyen ajustar las indicaciones, añadir soporte para más formatos de documentos, implementar soporte multimodelo, optimizar el rendimiento de la búsqueda vectorial y añadir capacidades de procesamiento por lotes.