Base de connaissances locale d'intelligence artificielle avec Next.js, Ollama et PostgreSQL

Aman Yadav a développé un système de gestion de base de connaissances entièrement local et alimenté par l'IA pour le défi Open Source AI. Ce système utilise les extensions IA de PostgreSQL et les modèles locaux d'Ollama, garantissant que tout le traitement IA se produit sur la machine de l'utilisateur pour une confidentialité et un contrôle complets. Le système dispose d'une interface de chat avec des capacités RAG, d'un appel de fonction pour une interaction étendue et d'une interface web moderne avec des interactions de chat en temps réel et une gestion de fichiers. Le projet utilise divers outils open source, notamment Next.js, Vercel AI SDK, shadcn/ui et Min.io. L'aspect le plus difficile a été de permettre le fonctionnement local, et le référentiel GitHub du projet est disponible pour un développement ultérieur. Les améliorations futures incluent l'affinage des invites, l'ajout de la prise en charge de plus de formats de documents, la mise en œuvre de la prise en charge de plusieurs modèles, l'optimisation des performances de recherche vectorielle et l'ajout de capacités de traitement par lots.