LlamaIndex 检索调优实战：七个能落地的技术细节

2025-12-04
广东
本文字数：16571 字
阅读完需：约 54 分钟

RAG 系统搭完其实才是工作的开始，实际跑起来你会发现，答案质量参差不齐，有时候精准得吓人、有时候又会非常离谱。这个问题往往不模型本身，而是在检索环节的那些"小细节"。

这篇文章整理了七个在 LlamaIndex 里实测有效的检索优化点，每个都带代码可以直接使用。

1、语义分块 + 句子窗口

固定长度切分文档是最省事的做法，但问题也很明显：这样经常把一句话从中间劈开，上下文断裂，检索器只能硬着头皮匹配这些残缺的片段。

所以 LlamaIndex 提供了两个更聪明的解析器。SemanticSplitter 会在语义边界处切分，不再机械地按字数来；SentenceWindow 则给每个节点附加前后几句话作为上下文窗口。并且这两者还可以组合使用，能达到不错的效果：

 # pip install llama-index  from llama_index.core import VectorStoreIndex, SimpleDirectoryReader  from llama_index.core.node_parser import (      SemanticSplitterNodeParser, SentenceWindowNodeParser  )  
docs = SimpleDirectoryReader("./knowledge_base").load_data()  
# Step 1: Semantically aware base chunks  semantic_parser = SemanticSplitterNodeParser(buffer_size=1, breakpoint_percentile_threshold=95)  semantic_nodes = semantic_parser.get_nodes_from_documents(docs)  
# Step 2: Add sentence-window context to each node  window_parser = SentenceWindowNodeParser(window_size=2, window_metadata_key="window")  nodes = window_parser.get_nodes_from_documents(semantic_nodes)  
 index = VectorStoreIndex(nodes)

复制代码

检索模型打分的对象是单个节点，所以让每个节点包含完整的语义单元，再带上一点其他的附加信息，命中率自然就上去了。

2、BM25 + 向量的混合检索

向量嵌入擅长捕捉语义相似性，但碰到专业缩写、产品型号这类精确匹配场景就容易翻车。老牌的 BM25 算法恰好补上这个短板，它对精确词项敏感，长尾术语的召回能力很强。

把两种检索方式融合起来，LlamaIndex 的 QueryFusionRetriever 可以直接搞定：

 from llama_index.core.retrievers import QueryFusionRetriever  from llama_index.core import StorageContext  from llama_index.core.indices.keyword_table import SimpleKeywordTableIndex  
# Build both indexes  vector_index = index  # from above  keyword_index = SimpleKeywordTableIndex.from_documents(docs)  
retriever = QueryFusionRetriever(      retrievers=[          vector_index.as_retriever(similarity_top_k=5),          keyword_index.as_retriever(similarity_top_k=5)      ],      num_queries=1,            # single query fused across retrievers      mode="simple",            # RRF-style fusion   )

复制代码

BM25 抓精确匹配，向量抓语义关联，RRF 融合后的 top-k 质量通常比单一方法好一截，而且不用写多少额外代码。

3、多查询扩展

用户的提问方式千奇百怪，同一个意图可以有很多种表达方法。所以单一 query 去检索很可能漏掉一些相关但措辞不同的文档。

多查询扩展的思路就是：自动生成几个 query 的变体，分别检索，再把结果融合起来。

 from llama_index.core.retrievers import QueryFusionRetriever      multi_query_retriever = QueryFusionRetriever.from_defaults(       retriever=vector_index.as_retriever(similarity_top_k=4),       num_queries=4,            # generate 4 paraphrases       mode="reciprocal_rerank", # more robust fusion   )

复制代码

如果业务场景涉及结构化的对比类问题（比如"A 和 B 有什么区别"），还可以考虑 query 分解：先拆成子问题，分别检索，最后汇总。

不同的表述会激活 embedding 空间里不同的邻居节点，所以这种融合机制保留了多样性，同时让多个检索器都认可的结果排到前面。

4、reranker

初筛拿回来的 top-k 结果，质量往往是"还行"的水平。如果想再往上提一个档次 reranker 是个好选择。

和双编码器不同，交叉编码器会把 query 和 passage 放在一起过模型，对相关性的判断更精细。但是问题就是慢，不过如果只跑在候选集上延迟勉强还能接受：

创作场景

LlamaIndex 检索调优实战：七个能落地的技术细节

1、语义分块 + 句子窗口

2、BM25 + 向量的混合检索

3、多查询扩展

4、reranker

郝培强

评论