在本篇博客中，我们将探讨如何正确地对检索增强生成（RAG）应用进行性能测试，涵盖速度与准确性两个方面，并说明如何将两者集成到 CI/CD 流水线中，以便在代码进入生产环境之前捕获回归问题。对 RAG 应用进行性能测试需要两个独立的测试关卡：一个用于评估速度，另一个用于评估答案质量。传统的负载测试工具可以测量响应时间，但无法检测幻觉问题，即模型返回快速但事实错误的回答，这些回答基于虚构的上下文而非检索到的文档。