共计 1568 个字符，预计需要花费 4 分钟才能阅读完成。

背景痛点

在构建基于 LLM 的智能应用时，向量检索系统是核心组件之一。它负责将文本数据转化为向量表示，并通过相似度计算实现语义搜索。然而，在实际应用中，开发者常面临以下挑战：

• 语义精度 ：如何确保嵌入器生成的向量能准确捕捉文本语义
• 实时性要求 ：高并发场景下的低延迟查询需求
• 成本敏感 ：大规模数据下的存储和计算成本控制

技术选型矩阵

向量数据库对比

嵌入器对比

实战示例：Weaviate+Cohere 实现

数据预处理

from weaviate import Client
import cohere

# 初始化客户端
client = Client("http://localhost:8080")
co = cohere.Client("your_api_key")

# 文本分块示例
def chunk_text(text, chunk_size=500):
    return [text[i:i+chunk_size] for i in range(0, len(text), chunk_size)]

向量化与索引构建

# 创建 schema
class_obj = {
    "class": "Article",
    "vectorizer": "none",  # 使用自定义向量
    "properties": [{"name": "content", "dataType": ["text"]}]
}
client.schema.create_class(class_obj)

# 批量导入数据
batch_size = 100
with client.batch as batch:
    for i, text in enumerate(texts):
        # 使用 Cohere 生成嵌入向量
        embedding = co.embed([text]).embeddings[0]

        batch.add_data_object(data_object={"content": text},
            class_name="Article",
            vector=embedding
        )

        if i % batch_size == 0:
            batch.flush()  # 分批提交 

相似度查询

# 查询向量生成
query = "机器学习最新进展"
query_vec = co.embed([query]).embeddings[0]

# 执行相似度搜索（余弦相似度）result = client.query.get("Article", ["content"])\
    .with_near_vector({"vector": query_vec, "certainty": 0.7})\
    .with_limit(5)\
    .do()

生产建议

冷启动优化

1. 预先生成测试数据集的全量索引
2. 采用渐进式加载策略
3. 监控首次查询响应时间

高并发缓存设计

graph LR
    A[客户端] --> B{本地缓存?}
    B -->| 是 | C[返回结果]
    B -->| 否 | D[Redis 集群]
    D --> E{命中?}
    E -->| 是 | F[返回并更新本地缓存]
    E -->| 否 | G[查询向量数据库]

监控指标

• 使用 Prometheus 采集 P99 延迟
• 定期验证召回率（人工标注测试集）
• 设置向量维度使用率告警

延伸思考

1. 如何评估不同相似度度量（余弦 / 内积 / 欧式）对业务指标的影响？
2. 当维度超过 512 时，降维技术如何选择？
3. 怎样设计 AB 测试框架对比不同嵌入器效果？

通过本文的对比分析和实践演示，开发者可以根据具体业务需求，在性能、成本和功能之间找到平衡点。建议在预生产环境进行充分的基准测试，特别注意随着数据量增长时的系统行为变化。