В этой статье мы рассмотрим, как правильно проводить тестирование производительности приложения генерации с дополненной выборкой (RAG), охватывая как скорость, так и корректность, а также как интегрировать оба аспекта в конвейер CI/CD, чтобы регрессии выявлялись до попадания в продакшн.Тестирование производительности RAG-приложения требует двух отдельных этапов тестирования: одного для скорости и одного для качества ответов. Традиционные инструменты нагрузочного тестирования измеряют время отклика, но не могут обнаружить галлюцинации, когда модель быстро возвращает фактически неверные ответы, основанные на выдуманном контексте, а не на извлеченных документах.