当前位置:首页>科技新闻>RAG文档切分粒度多大合适?实测数据给出参考区间
科技新闻

RAG文档切分粒度多大合适?实测数据给出参考区间

过去两周,我们团队在三个内部知识库上跑了同一套评测:把同一批合同、技术手册和会议纪要,按 64、128、256、512、1024、2048 token 六种粒度切分后接入检索增强生成管线,用 218

来源:发布时间:2026-11-22 05:13:30栏目:科技新闻浏览:101 次

RAG文档切分粒度多大合适?实测数据给出参考区间

过去两周,档切度多大合我们团队在三个内部知识库上跑了同一套评测:把同一批合同、分粒技术手册和会议纪要,适实按 64、测数出参128、据给间256、考区512、档切度多大合1024、分粒2048 token 六种粒度切分后接入检索增强生成管线,适实用 218 条真实查询做召回命中测试。测数出参结果有些反直觉——表现很好的据给间不是最细的 64,也不是考区最粗的 2048,而是档切度多大合 256 到 512 这一档,平均上下文召回完整率高出 64 token 组 31%,分粒比 2048 token 组高 18%。适实这个区间,可以当作多数中文文档场景的起始参考。

所谓文档切分粒度,就是决定把原始长文档拆成多长的小块塞进向量库。切得太细,一段话被腰斩,检索时召回的一半是断句;切得太粗,一个块里塞了五六个主题,向量被稀释,模型拿到后也难定位关键事实。我们测到最典型的一个失败案例:把一份 46 页的采购合同按 64 token 切,查询“违约责任上限是多少”时,系统召回了“违约责任”标题块和“上限”所在的金额块,但中间的定义条款块没进 top-5,生成结果把 20% 写成了 30%。同样的查询在 256 token 粒度下,完整条款一次性进上下文。

256 到 512 为何是实用甜区

这个区间对应中文大约 180 到 360 字,恰好能装下一个完整的条款、一个操作步骤组或一小节说明。嵌入模型在这个长度上产生的向量,既能保留段落级语义,又不会因为信息过载导致检索精度塌方。我们用 bge-m3 和 text-embedding-3-small 各跑了一遍,两个模型都在 384 token 附近出现召回率平台期——继续加大块大小,召回率提升非常有限,但单次送入大模型的 token 成本线性上涨。换句话说,512 之后再往上切,多半是在为噪音买单。

不同文档类型的分层建议

合同、制度类文档结构化程度高,条款边界清晰,建议 256 到 384 token,配合按标题层级切分,而不是机械地数 token。技术手册和教程类内容,一个操作步骤往往需要 400 token 左右才能完整覆盖前置条件、命令和预期结果,512 token 是更稳妥的选择。会议纪要和访谈记录这类口语化文本,语义边界模糊,我们实测 384 token 加上 64 token 的相邻块重叠,能把漏召回率从 22% 压到 9%。重叠不是浪费,是对切片边界的补偿。

实测中发现的两个隐藏变量

块大小相同,预处理的差异能让结果差出 15 个百分点以上。我们把换行符和空格归一化后再切分,召回完整率比直接按字符数硬切提高 12%——因为硬切经常把一个自然段从中间劈开。另一个变量是查询侧的处理:用户输入“怎么续签合同”时,如果你在文档侧只存“合同续签流程”这个表述,向量距离天然偏远。对术语做同义词扩展,比单纯调大块大小更能救回这类查询。

给一个可以直接抄的起点:默认 384 token,块间重叠 64 token,按标题层级优先切分,换行归一化开启。跑一轮你自己的评测集,看 top-3 召回完整率和生成答案的事实错误率。如果事实错误集中在条款遗漏,块放大到 512;如果检索结果总是带回无关段落,块缩小到 256。这个区间不是真理,是减少试错成本的参考基线。