Выбор модели встраивания имеет... Заметка
DZone.com Feed на русском

Выбор модели встраивания имеет большее значение, чем ваша большая языковая модель

Неудобная правдаВы потратили дни на создание промптов для своей LLM. Вы сравнили Claude с GPT. Вы спорили, использовать ли Mixtral. Но ваш RAG-пайплайн по-прежнему выдает мусорные ответы, и вы вините не тот компонент.LLM хороша настолько, насколько хорош контекст, который она получает. Качество контекста полностью определяется извлечением. Качество извлечения полностью определяется вашей моделью встраивания. Исправьте низ, и верх исправится сам.