Локальная база знаний искусственного интеллекта с помощью Next.js, Ollama и PostgreSQL

Аман Ядав разработал полностью локальную систему управления базой знаний, основанную на искусственном интеллекте (ИИ), для Открытого соревнования по ИИ. Эта система использует расширения ИИ PostgreSQL и локальные модели Ollama, гарантируя, что вся обработка ИИ происходит на устройстве пользователя для полной конфиденциальности и контроля. Система имеет интерфейс чата с возможностями RAG, вызов функций для расширенного взаимодействия и современный веб-интерфейс с взаимодействием в режиме реального времени и управлением файлами. Проект использует различные инструменты с открытым исходным кодом, включая Next.js, Vercel AI SDK, shadcn/ui и Min.io. Наиболее сложной задачей было обеспечение локальной работы, а репозиторий проекта на GitHub доступен для дальнейшего развития. Будущие улучшения включают тонкую настройку запросов, добавление поддержки более форматов документов, реализацию поддержки нескольких моделей, оптимизацию производительности поиска векторов и добавление возможностей пакетной обработки.