RAG（检索增强生成）技术解析：如何解决大模型的幻觉与知识更新难题

1次阅读

共计 2267 个字符，预计需要花费 6 分钟才能阅读完成。

大语言模型（LLM, Large Language Model）如 GPT-4、Claude 等虽然在自然语言处理任务上表现出色，但仍然存在几个核心问题：

知识更新延迟 ：模型训练完成后，其知识库即固定，无法获取新信息。例如，GPT- 4 的知识截止到 2023 年，无法回答之后的事件。
事实性错误（幻觉, Hallucination）：模型可能生成看似合理但实际错误的内容，这在需要高准确性的场景（如医疗、法律）中尤其危险。
垂直领域适应性差 ：通用模型在特定领域（如金融、医学）的表现往往不如领域专家，且微调成本高昂。

指标	传统微调	RAG（检索增强生成）
知识更新	需重新训练模型	仅需更新检索库
成本	高（GPU 资源消耗大）	低（仅需 embedding 计算）
可维护性	差（模型版本管理复杂）	好（检索库可版本化）
时延	低（纯生成）	中（检索 + 生成）
可解释性	差	好（可溯源检索结果）

RAG 的第一步是将文档分割成适合检索的块。以下是递归式文本分割的 Python 实现：

from langchain.text_splitter import RecursiveCharacterTextSplitter

def chunk_documents(docs, chunk_size=500, chunk_overlap=50):
    """
    递归式文本分割
    :param docs: 待分割文档列表
    :param chunk_size: 每个块的最大字符数
    :param chunk_overlap: 块间重叠字符数
    :return: 分割后的文本块列表
    """
    text_splitter = RecursiveCharacterTextSplitter(
        chunk_size=chunk_size,
        chunk_overlap=chunk_overlap,
        length_function=len,
        is_separator_regex=False,
    )
    return text_splitter.split_documents(docs)

HNSW（Hierarchical Navigable Small World）是一种高效的近似最近邻搜索算法。以下是使用 FAISS 实现 HNSW 的示例：

import faiss
import numpy as np

class VectorIndex:
    def __init__(self, dimension=768):
        self.index = faiss.IndexHNSWFlat(dimension, 32)

    def add_vectors(self, vectors):
        """
        添加向量到索引
        :param vectors: numpy 数组，形状为 [n, dimension]
        """
        if not isinstance(vectors, np.ndarray):
            vectors = np.array(vectors, dtype='float32')
        self.index.add(vectors)

    def search(self, query_vector, k=5):
        """
        搜索最近邻
        :param query_vector: 查询向量
        :param k: 返回的最近邻数量
        :return: (distances, indices)
        """
        if not isinstance(query_vector, np.ndarray):
            query_vector = np.array([query_vector], dtype='float32')
        return self.index.search(query_vector, k)

良好的提示模板能显著提升生成质量。以下是包含思维链（Chain-of-Thought）设计的模板：

def build_prompt(query, retrieved_docs):
    """
    构建 RAG 提示
    :param query: 用户查询
    :param retrieved_docs: 检索到的相关文档
    :return: 完整提示
    """context ='\n'.join([doc['text'] for doc in retrieved_docs])
    return f"""请基于以下上下文回答问题。如果上下文不相关，请回答" 我不知道 "。上下文：{context}

问题：{query}

请逐步思考：1. 首先分析问题是否需要上下文知识
2. 然后从上下文中提取相关信息
3. 最后综合信息给出答案
"""

在 HotpotQA 数据集上的测试结果：