RAG 的 Chunk 策略怎样选择？

图：层次化切分保留文档父子结构，为不同粒度的检索提供上下文。 来源：Hierarchical chunking，作者 Kpmiyapuram，许可 CC BY 2.5。

考察意图

确认候选人能把切分连接到文档结构、召回和生成，而不是给固定 token 数。

回答前自测

• overlap 越大越好吗？
• PDF 表格如何切？
• 只看 Recall 够吗？

30 秒回答

按结构保留语义完整块，再按目标 tokenizer 限长；小块检索、父块解释。大小与重叠用证据完整性、答案质量和成本验证。

评分点

结构切分、token 预算、父子块与元数据、overlap 代价、实验控制。

90 秒回答

Chunk 没有通用最优长度。我先看文档结构和查询粒度：条款、函数、FAQ、表格与长叙事需要不同边界。Chunk 太小会丢失条件和指代，太大会稀释向量表示并占用上下文。通常先做按标题、段落或代码结构的语义切分，保留父子关系与来源，再用少量 overlap 处理边界。最终用带证据标注的查询集比较 Recall@k、重排后命中、上下文完整性和端到端答案，不凭直觉选择长度。

深入解释

为什么边界比字数重要

政策条款需保留适用对象与例外，表格需保留表头、单位和脚注，代码需保留签名。机械切分可能把“除外”放到下一段，导致语义反转。标题路径、页码、文档版本和权限都要随块保留。

大小与重叠

小块匹配精确但缺条件，大块完整但稀释相关性。长度 L、重叠 o、长文 token 数 T，在忽略尾部条件下块数约 T/(L−o)。重叠增加存储、重复候选和输入 token，不是免费补全。应比较若干合理配置，没有通用最优字数。

父块扩展

命中子块后获取父块或邻近范围，合并重复范围并重新计算 token。父块权限要重查，不能以一个可见子块放出整篇受限文档。引用指向原始位置，改切分策略与索引版本一起发布。

工程权衡

更多 overlap 提高边界召回，却增加索引、重复候选和上下文成本。多粒度索引提高覆盖，也增加更新复杂度。

常见错误回答

直接回答“固定 500 token，加 50 token overlap”，没有说明语料、查询和评测协议。

连续追问

overlap 越大越好吗？

过大降低候选多样性并增加成本，需验证跨边界题收益。

PDF 表格如何切？

先校验行列与单位，再保留表头的行组；复杂计算可以使用结构化表格和程序。

只看 Recall 够吗？

还需看条件完整性、重复率、引用定位与最终答案，在相同 token 预算下比较。

项目结合

展示真实失败查询怎样促使切分规则改变，并给出改变前后的召回证据。

关联知识

• RAG 的端到端设计
• Retrieval-Augmented Generation

延伸复习

继续阅读完整机制与案例。完成后回到本页，在不看答案的情况下重述并回答三个追问。