一分钟读懂RAG的切分策略


RAG飞速发展,成为连接“生成能力”与“外部知识”的桥梁,关于RAG的介绍可以参考


什么是RAG?一文搞懂检索增强生成技术

前面我们介绍了RAG系统中的文档解析,
RAG 的文档解析:PDF 篇,在解析文档得到数据后,由于数据规模很可能非常庞大,整体存储具有难度,并且在查询的时候可能仅仅和其中的一个或几个段落有关系,所以需要分块技术将解析后的文档内容切分为适当的片段。

在RAG系统的构建中,文档切分策略很大程度上决定着模型检索质量,切分的好,信息命中更精准,生成回答更有上下文逻辑;切分的差,AI或许会变成“口吃患者”。

分块技术在实际应用中面临诸多挑战。首先是如何选择合适的分块粒度。如果分块过大,模型在检索时可能会引入大量无关信息,影响回答的精准度;如果分块过小,又可能导致上下文被打断,使得模型缺乏完整语义,难以理解用户问题的背景。

其次,语义完整性是一个核心问题。很多文档结构并非严格按段落划分语义,尤其在技术文档、法律条款或科研论文中,一个重要的论点可能跨越多个段落甚至页码。简单按长度切分容易打断逻辑,导致模型“读到的”和“作者要表达的”不是一回事。

下面,我介绍一下5种RAG切分策略。

一分钟读懂RAG的切分策略

1.固定大小切分

 将文档按照预设的字符数、词数或句子数进行等间隔划分。例如每段包含500个字符或5个句子。该方法实现简单,但容易打断语义边界,可能导致上下文缺失或内容重复。 

一分钟读懂RAG的切分策略

2.语义切分

 通过自然语言处理技术(如句向量相似度、话题建模等)判断文本语义的边界,在语义上自然断句。

一分钟读懂RAG的切分策略

以向量相似度为例,将句子或段落转换为向量,通过计算相邻句段的余弦相似度,如果判断两个段落语义上属于同一单元,那么就进行合并。 

一分钟读懂RAG的切分策略

这种方式能提升分块的语义连贯性,适用于逻辑紧密的文章,但计算代价较高,依赖模型质量。 

3.递归切分

一分钟读懂RAG的切分策略

在保持固定长度的同时,尝试以语义结构(如段落、句子、标点)为边界递归地切分文本。若段落太长无法容纳于块中,则再递归切分为句子,直到满足长度要求。

一分钟读懂RAG的切分策略

相比纯固定切分,该方法能更好地保留语义完整性。 

4.基于文档结构的切分

一分钟读懂RAG的切分策略

利用原始文档的结构信息(如HTML标签、Markdown标题、PDF书签、Word段落等)进行切分。比如以章节、小标题、列表项为边界进行分块。

一分钟读懂RAG的切分策略

这种方式在处理格式规范的文档(如手册、报告)时效果尤为突出。 

5.基于LLM的切分

一分钟读懂RAG的切分策略

 借助大语言模型来“理解”文档内容并主动划定分块边界。例如,提示模型判断哪些段落构成完整的语义单元,或根据任务需求生成最佳的分块方案。这种方式智能程度高,但计算成本也相对较大,适合高精度应用场景。 

6.总结

 实际应用中,往往需要结合多种策略,根据数据类型和业务需求灵活调整,以构建既高效又精准的 RAG 系统。 

前沿技术大模型技术新闻资讯

AI产品,真正的壁垒在哪?

2025-6-17 9:37:38

前沿技术大模型技术新闻资讯

🧠 解码大语言模型的记忆力:上下文长度的前世今生

2025-6-17 10:46:56

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索