在任何一个严肃的 RAG 部署进行几个月后，大多数工程团队往往会遇到同样的瓶颈。我们的 AI 驱动支付助手演示效果极佳，面向二十名内部用户的试点运行也一切顺利。然而一旦正式上线，当有人询问其医疗福利或某笔电汇失败时，模型却自信地胡编乱造，于是"chatbot"这个词便成了团队在事后复盘会上无人愿提及的词汇。解决方案并非更聪明的提示词，而是一种架构设计：该架构预设模型偶尔会出错，偶尔会被问及不应回答的问题，偶尔则需要完全退居幕后，将用户转接给人工服务。如果由我来构建这样的系统，我会采用如下架构。