2025检索增强生成技术综述：从架构设计到生产环境最佳实践

1次阅读

共计 2090 个字符，预计需要花费 6 分钟才能阅读完成。

传统大语言模型（LLM）存在两个核心问题：知识固化（训练后无法更新）和幻觉生成（虚构事实）。2023 年 GPT- 4 的实测显示，其事实性错误率在开放域问答中仍高达 18.7%。检索增强生成（Retrieval-Augmented Generation）通过动态接入外部知识库，在推理阶段实时检索相关文档作为生成依据，实现：

知识可更新性：仅需更新向量数据库，无需重新训练模型
结果可追溯性：每个生成结果都能关联到检索到的参考文档
成本可控性：比全参数微调节省 90% 以上的计算资源

flowchart LR
    A[用户问题] --> B[向量检索]
    B --> C[Top- K 文档]
    C --> D[LLM 生成]

优点：实现简单，适合 POC 阶段
缺陷：检索与生成割裂，存在 ” 语义鸿沟 ” 问题

flowchart LR
    A[用户问题] --> B[查询重写]
    B --> C[混合检索]
    C --> D[结果重排]
    D --> E[生成控制]

创新点：引入查询扩展、多路召回等模块
典型延迟：200-500ms（取决于检索规模）

flowchart LR
    A[用户问题] --> B[路由决策]
    B -->| 简单问题 | C[直接生成]
    B -->| 复杂问题 | D[深度检索]

核心突破：动态计算检索必要性（Retrieval Confidence Score）
性能提升：平均延迟降低 40%，成本下降 60%

特征提取：使用轻量级 BERT 模型计算 query 的 [CLS] 向量
路由决策：通过三层 MLP 分类器预测处理路径
直接生成（置信度 >0.8）
快速检索（0.5< 置信度≤0.8）
深度检索（置信度≤0.5）
反馈学习：记录用户满意度微调路由模型

import faiss
from sentence_transformers import SentenceTransformer

class VectorSearchEngine:
    def __init__(self, model_name='paraphrase-multilingual-MiniLM-L12-v2'):
        self.model = SentenceTransformer(model_name)
        self.index = faiss.IndexFlatIP(384)  # 维度与模型匹配

    def build_index(self, documents: List[str]):
        """构建索引并处理 OOM 异常"""
        try:
            vectors = self.model.encode(documents, show_progress_bar=True)
            self.index.add(vectors)
        except RuntimeError as e:
            if "CUDA out of memory" in str(e):
                # 分 batch 处理
                batch_size = len(documents) // 10
                for i in range(0, len(documents), batch_size):
                    batch = documents[i:i+batch_size]
                    vectors = self.model.encode(batch)
                    self.index.add(vectors)

    def search(self, query: str, top_k=3) -> Tuple[np.ndarray, List[float]]:
        """带余弦相似度的近似搜索"""
        query_vec = self.model.encode([query])
        distances, indices = self.index.search(query_vec, top_k)
        return indices[0], distances[0]  # 返回 Top- K 结果

时间复杂度分析：
– 建库：O(nd) n 为文档数，d 为向量维度
– 查询：O(dlogk) 使用 HNSW 索引时