怎样设计企业级 RAG 系统？

图：企业 RAG 在通用检索生成链路上还需补充权限过滤、版本和审计。 来源：Retrieval-augmented generation diagram，作者 Turtlecrown，许可 CC BY-SA 4.0。

考察意图

检查需求澄清、权限、数据更新和端到端可靠性，而不只问向量数据库。

回答前自测

• 重建期间怎么服务？
• 如何让撤权生效？
• 怎样证明可上线？

30 秒回答

从用户、权限、更新和错误成本设计入库与在线回答。授权覆盖内容外发，版本删除覆盖派生物，最后用任务评测、容量和故障预案验收。

评分点

需求、双链路、权限生命周期、容量故障、评测。

90 秒回答

我先确认用户、文档类型、更新频率、权限模型、延迟和错误成本。离线链路负责连接数据源、解析、切分、去重、版本与删除同步，并继承文档 ACL 建索引。在线请求先鉴权和租户隔离，再做查询理解、带权限过滤的混合召回、重排、上下文组装和生成引用。答案经过策略检查，无证据时拒答。系统记录文档版本、候选、最终上下文和模型配置，用黄金集和线上反馈分别评测召回、忠实度、延迟与成本。

深入解释

设计顺序

明确文档规模与类型、更新频率、用户租户、延迟和外部模型限制。离线做连接、解析、切分、编码与版本发布；在线做身份、查询理解、授权召回、细排、上下文、生成和引用。

版本缓存

chunk 关联原文和处理版本，新索引追平增量后切换。缓存含知识和授权范围，命中仍检查权限有效性。撤权在权威访问层先阻断，再清理索引、摘要和缓存。

负载与降级

按长度分布和并发压测，拆排队、检索、细排与生成。设置总 deadline、有限队列、限流和熔断。一路检索坏可依预案降级，授权服务坏不能取消权限检查。

工程权衡

索引新鲜度、查询延迟和重建成本相互制约；多租户共享提高利用率，却需要更强隔离和配额。

常见错误回答

只画“文档—向量库—大模型”，没有身份、生命周期、引用、评测和故障处理。

连续追问

重建期间怎么服务？

旧版继续服务，新版追平增量并验收后切换，保留回滚方案。

如何让撤权生效？

权威授权层先拒绝外发，派生物异步清理并追踪，明确实际保证边界。

怎样证明可上线？

任务集、权限矩阵、故障注入、真实负载压测，加监控与回滚；只有 demo 不能支持生产结论。

项目结合

准备一个权限或更新故障案例，说明观测信号、止损和补偿流程。

关联知识

• 大模型应用的端到端系统设计
• RAG

延伸复习

继续阅读完整机制与案例。完成后回到本页，在不看答案的情况下重述并回答三个追问。