理解 RAG 第六部分：有效的检索优化
图片由 Editor | Midjourney & Canva 提供
请务必查看本系列的上一篇文章
- 理解 RAG 第一部分：为什么需要它
- 理解RAG第二部分：经典RAG如何工作
- 理解 RAG 第三部分：融合检索与重排序
- 理解 RAG 第四部分：RAGAs 与其他评估框架
- 理解 RAG 第 V 部分：管理上下文长度
在检索增强生成 (RAG) 系统中，负责从外部知识库中识别相关上下文的检索器组件的性能，与语言模型生成有效响应的性能同等重要，甚至更为重要。因此，一些改进 RAG 系统的努力将重点放在优化检索过程也就不足为奇了。
本文介绍了一些从检索方面改进 RAG 系统性能的常用方法。通过实施混合搜索与重排序、选择性检索和查询转换等高级检索技术，RAG 系统能更好地应对上下文不相关和信息过载等常见挑战。每种策略都针对检索过程的不同方面，以确保生成更准确、更相关响应，并且它们都有助于缩小检索数据的范围，以找出最相关、最高质量的上下文片段，从而提高准确性和效率，尤其是在长上下文或专业 RAG 应用中。
常见的检索优化策略
在 RAG 系统中优化检索器性能的广泛应用的方法包括以下三种。
1. 混合搜索与重排序
混合搜索结合了两种检索标准，以获得一组相关的文档（或文档块）。一种常见的方法是结合稀疏检索和密集检索。稀疏检索使用基于关键字的方法（如 TF-IDF）来匹配精确术语，这对于精确术语匹配非常有效。相比之下，密集检索利用嵌入（文本的数值表示）来捕获语义相似性，这在精确术语不同但含义相似时非常理想。当此混合搜索机制旨在优化检索文档的排序以提高相关性时，我们应用重排序来优先排序文档，以更好地适应原始用户查询的意图。
2. 查询转换
查询转换包括调整或扩展查询，以便考虑更广泛或更具体的检索文档集。例如，可以通过纳入原始查询术语的同义词或重新措辞部分来完成此操作。查询转换可以通过增加捕获高质量上下文的几率来帮助优化检索器的有效性，尤其是在精确术语可能发生显著变化的情况下。
3. 上下文相关性过滤
一旦检索到相关文档，这种简单但通常有效的方法就会根据上下文元数据（如日期和时间、地点和作者身份）对这些文档进行过滤。这有助于优先考虑内容与用户上下文和意图的相关性。
高级检索优化技术
以下三种技术是更专业的方法，需要额外的设置，但对于高风险的 RAG 用例推荐使用。
1. 特定案例优化
特定案例优化背后的理念是，将检索过程调整或定制到特定领域（例如，医疗、金融等），微调该过程以更好地捕捉目标领域的细微差别。实现这一目标的一个具体解决方案是通过特定领域的加权和排序指标，其中根据某些术语或实体在目标领域内的相关性来对其进行优先排序。另一种方法是对检索器进行训练或微调，使其适应领域专业数据集。
2. 带反馈循环的主动学习
带反馈循环的主动学习是一种交互式方法，它结合用户反馈来迭代地调整和改进检索结果，从而随着时间的推移提高模型的检索准确性。与其他 RAG 检索器优化策略不同，此策略通过集成实时反馈来调整检索过程，从而促进与用户偏好或不断变化的需求保持一致。
3. 语义哈希
语义哈希通过将文档编码为哈希码（通常是紧凑的二进制向量）来提高检索效率，这允许更快的基于相似性的检索。当 RAG 效率至关重要时，它是首选解决方案，并且可以与上述其他侧重于基于相关性的检索结果质量的策略相结合。
| 技术 | 总结 |
|---|---|
| 混合搜索与重排序 | 结合稀疏（基于关键字）和密集（基于嵌入）检索方法来获取相关文档，然后应用重排序来优先处理最符合查询意图的结果。 |
| 查询转换 | 通过包含同义词或重新措辞来调整或扩展查询，以捕获更广泛或更精确的文档集，从而提高检索高质量上下文的机会。 |
| 上下文相关性过滤 | 根据上下文元数据（例如，日期、地点、作者身份）过滤检索到的文档，以确保所选内容与用户的需求密切匹配。 |
| 特定案例优化 | 通过特定领域的加权和针对专业数据集的微调，为特定领域（例如，医疗、金融）定制检索过程，从而提高细分领域的准确性。 |
| 带反馈循环的主动学习 | 结合用户反馈以迭代地优化检索结果，动态适应不断变化的用户偏好，并随着时间的推移确保更准确的结果。 |
| 语义哈希 | 将文档编码为紧凑的二进制向量，以实现快速的基于相似性的检索，尤其是在高需求的 RAG 场景中，从而显著提高效率。 |
总结
本文探讨了六种旨在增强 RAG 系统中检索过程性能的策略。每种技术的复杂性和优化侧重点各不相同。了解这些策略对于选择适合您特定 RAG 实现的最佳方法至关重要——无论是单一技术还是多种技术的组合。
暂无评论。