AI Agent 架构中向量数据库的选型与实践：从性能瓶颈到解决方案

1次阅读

共计 2153 个字符，预计需要花费 6 分钟才能阅读完成。

在开发 AI Agent 时，尤其是涉及 RAG（检索增强生成）的场景，系统需要在毫秒级别内完成向量检索。例如，当用户提出一个问题时，AI Agent 需要在 100ms 内从知识库中找到最相关的文档片段作为生成答案的上下文。这种实时交互的需求对底层数据库提出了极高的要求。

传统关系型数据库在处理向量相似度计算时存在明显不足：

缺乏高效的向量索引结构，导致计算复杂度为 O(N)
不支持批量相似度查询，每次请求都需要全表扫描
难以水平扩展，数据量增长时性能急剧下降

Milvus（开源）
分布式架构，支持水平扩展
提供多种索引算法（HNSW、IVF、ANNOY 等）
需要自行维护集群
Pinecone（托管服务）
全托管服务，无需运维
自动索引管理和优化
按使用量计费
Weaviate（混合方案）
内置向量搜索模块
支持 GraphQL 查询接口
可以部署在本地或云端

HNSW（Hierarchical Navigable Small World）
适合高召回率场景
查询速度快，但内存占用高
典型配置：{"M": 16, "efConstruction": 200}
IVF（Inverted File System）
适合大规模数据集
需要训练阶段（k-means 聚类）
典型配置：{"nlist": 1024}

数据库	QPS	P99 延迟	召回率 @10
Milvus+HNSW	2500	15ms	98%
Pinecone	1800	25ms	95%
Weaviate	1200	35ms	92%

from pymilvus import connections, Collection, FieldSchema, CollectionSchema, DataType

# 连接集群
connections.connect("default", host="localhost", port="19530")

# 定义 schema
fields = [FieldSchema(name="id", dtype=DataType.INT64, is_primary=True),
    FieldSchema(name="embedding", dtype=DataType.FLOAT_VECTOR, dim=768)
]
schema = CollectionSchema(fields, "article_embeddings")

# 创建集合
collection = Collection("articles", schema)

# 配置索引
index_params = {
    "index_type": "IVF_FLAT",
    "metric_type": "L2",
    "params": {"nlist": 1024}
}
collection.create_index("embedding", index_params)

# 批量插入（每次建议 1000-5000 条）import numpy as np
vectors = np.random.random((10000, 768)).tolist()
ids = list(range(10000))
collection.insert([ids, vectors])

# 加载集合
collection.load()

# 构建查询表达式
search_params = {
    "metric_type": "L2",
    "params": {"nprobe": 16}
}

try:
    results = collection.search(data=[query_vector],
        anns_field="embedding",
        param=search_params,
        limit=5,
        expr="publish_date >'2023-01-01'"  # 标量过滤条件
    )
except Exception as e:
    print(f"Search failed: {str(e)}")
    # 实现重试逻辑或降级方案