Через несколько месяцев после начала серьёзного внедрения RAG большинство инженерных команд сталкиваются с той же стеной. Наша демонстрация платежного ассистента на базе искусственного интеллекта прошла прекрасно. Пилот с двадцатью внутренними пользователями сработал прекрасно. Затем он запускается, кто-то задаёт вопрос о медицинских льготах или о банковском переводе, который не удался, модель уверенно что-то придумывает, и вдруг «чат-бот» становится словом, которое никто из команды не хочет слышать в посмертном анализе. Решение — не более умный запрос. Это архитектура, которая предполагает, что модель иногда будет ошибаться, иногда её спрашивают на что-то, на что она не должна отвечать, и иногда приходится полностью уходить в сторону и передавать человека человеку. Вот как бы я структурировал эту систему, если бы строил её сегодня.