RSS DZone.com
Подписаться
Снижение галлюцинаций RAG с помощью поиска, учитывающего отношения
Генерация с дополненным поиском (RAG) является стандартом для интеграции частных или предметно-ориентированных знаний в большие языковые модели. Однако большинство систем RAG по-прежнему генерируют галлюцинации, поскольку этап поиска является несовершенным. Большие языковые модели могут обрабатывать только ту информацию, которую они получают, и если извлеченные фрагменты неадекватны, модель будет выдумывать неподтвержденную информацию. Следовательно, точность и надежность системы RAG в значительной степени зависят от ее поисковых возможностей. В этой статье исследуется поиск с учетом отношений как решение этих недостатков поиска. В ней представлена RudraDB-Opin, бесплатная векторная база данных с учетом отношений, в качестве практической реализации. RudraDB-Opin предназначена для обучения, прототипирования и реальных проектов. Она может обрабатывать значительное количество векторов и отношений. Эта возможность позволяет моделировать обширные базы знаний. База данных призвана продемонстрировать различные шаблоны поиска, обсуждаемые в статье.