向量数据库选型实战:Milvus vs Chroma vs Qdrant 谁更适合 RAG

RAG 系统真到生产才发现有 N 个坑,向量库选型不能只看 benchmark。

一、选型维度:别只看"快"

RAG 系统的向量库,真到生产才发现有 N 个坑。先定义 5 个选型维度:

维度 说明
规模天花板 百万级 vs 十亿级向量,架构天差地别
部署复杂度 单文件能用 vs 分布式集群运维
检索性能 QPS、召回率、延迟
生态/过滤 是否支持标量过滤(metadata filter)、混合检索
上手成本 本地原型到生产的迁移平滑度

二、三者横评

项 Chroma Qdrant Milvus
定位 轻量、嵌入式、原型首选 单机/中小集群、Rust 高性能 分布式、十亿级、企业级
部署 pip install 即跑,可持久化到本地 二进制/Docker,单节点强 分布式需 etcd/对象存储,重
语言 Python Rust Go + C++
标量过滤 ✅ metadata ✅ 强(payload filter) ✅ 最强
混合检索 基础 ✅(稀疏+稠密) ✅(BM25+向量)
10 亿级 ❌ ⚠️ 吃力 ✅ 原生
学习曲线 最平缓 平缓 陡峭

三、场景推荐

  • 个人/学生/快速验证(< 100 万向量) :闭眼选 Chroma。三行代码起一个向量库,配 LangChain/LlamaIndex 丝滑。

  • 中小团队生产(百万~数千万,要过滤和稳定) :Qdrant。Rust 单节点就能扛高 QPS,payload filter 写起来爽,Docker 一键起。

  • 大厂/海量知识库(亿级、要水平扩展) :Milvus。分布式架构 + 多索引 + 混合检索,运维代价换来的是天花板。

四、决策树(照着走)

复制代码
你的向量量多大?
├─ < 100 万,只想快点出 Demo ───────────► Chroma
├─ 100 万 ~ 5000 万,要过滤+性能 ────────► Qdrant
└─ > 5000 万 / 要水平扩展 / 企业级 ──────► Milvus

五、最小可运行示例

Chroma(原型最快):

python 复制代码
import chromadb
client = chromadb.Client()
col = client.create_collection("docs")
col.add(ids=["1"], documents=["AWQ 用激活感知保护敏感权重"],
        embeddings=[[0.1, 0.2, ...]])
print(col.query(query_embeddings=[[0.1, 0.2, ...]], n_results=1))

Qdrant(带过滤):

python 复制代码
from qdrant_client import QdrantClient
c = QdrantClient(":memory:")
c.recreate_collection(...)
c.upsert("docs", points=[{"id":1,"vector":[...],
        "payload":{"source":"awq"}}])
c.search("docs", query_vector=[...],
         query_filter={"must":[{"key":"source","match":{"value":"awq"}}]})

Milvus(生产集群):

python 复制代码
from pymilvus import Collection, FieldSchema, CollectionSchema, DataType
fields = [FieldSchema("id", DataType.INT64, is_primary=True),
          FieldSchema("vec", DataType.FLOAT_VECTOR, dim=768)]
Collection("docs", CollectionSchema(fields)).insert([...])

六、踩坑提醒

  1. 别忘了标量过滤 :纯向量检索在真实 RAG 里几乎不够,必带 source/时间/权限 过滤,选型时优先看这块能力。

  2. 召回率别只看 benchmark:用你自己的语料测,公开数据集和你的分布可能差很远。

  3. Chroma 上生产要换后端 :默认内存版重启即丢,生产记得开 PersistentClient 或上 Qdrant/Milvus。

没有"最好"的向量库,只有"最贴合你当前阶段"的。原型用 Chroma 跑通,量起来迁 Qdrant,再大到 Milvus------别一开始就被分布式吓退,也别临生产才发现单机扛不住。

往期回顾:

技术选型决策指南:HDFS vs S3 vs MinIO 大数据存储方案

相关推荐
LiaoWL1231 天前
从零搭一个 RAG 知识库(二):换上语义 Embedding——BGE 实测与阈值重校准
python·大模型·numpy·embedding·向量检索·rag
2601_967987372 天前
AI加速波:大模型应用开发主要做哪些工作?
rag·提示词工程·agent开发·ai大模型应用开发·服务封装
东莞市云毅网络有限公司3 天前
用 Playwright 搭一套问答平台引用监测的最小骨架
python·数据清洗·rag·企业知识库·文档解析
一条大祥脚3 天前
Agent Memory 全解析:从 SQLite、向量库 + RAG 到 Zep、Mem0
sqlite·agent·rag·智能体记忆
nice_lcj5204 天前
【从零理解 Spring AI · 13】RAG 要解决什么:把“闭卷考试“变成“开卷“
java·spring·检索增强·rag·spring ai·ai应用开发
AI-Frontiers4 天前
从RAG到知识图谱再到Agent工作流,中间还差一层本体论
agent·rag
LiaoWL1235 天前
NumPy 入门实战(二):向量化与余弦相似度——从 ndarray 到 Embedding
python·numpy·embedding
东莞市云毅网络有限公司7 天前
FAQ 覆盖度打分:TF-IDF 与向量嵌入双路召回的 Python 实现
python·数据清洗·rag·企业知识库·文档解析
聪明的笨猪猪7 天前
企业知识库AI架构选型:落地导向的架构决策与组件清单
经验分享·面试·架构·embedding·数据库架构
Flynn Liang7 天前
Rerank 与上下文工程:重排、压缩与引用溯源的收益边界
langchain·rag·langchain4j·rerank·上下文工程·引用溯源