DZone.com Feed на русском
Подписаться
Выбор модели встраивания имеет большее значение, чем ваша большая языковая модель
Неудобная правдаВы потратили дни на создание промптов для своей LLM. Вы сравнили Claude с GPT. Вы спорили, использовать ли Mixtral. Но ваш RAG-пайплайн по-прежнему выдает мусорные ответы, и вы вините не тот компонент.LLM хороша настолько, насколько хорош контекст, который она получает. Качество контекста полностью определяется извлечением. Качество извлечения полностью определяется вашей моделью встраивания. Исправьте низ, и верх исправится сам.