RAG组件：向量数据库（Milvus）

在当前大模型盛行的时代，大模型的垂类微调、优化成为产业落地、行业应用的关键；RAG技术应运而生，主要解决大模型对专业知识、实效性知识欠缺的问题；

RAG的核心工作逻辑是将专业知识、实效知识等大模型欠缺的知识进行收集、打包、保存为一个知识库，在用到该部分知识的时候，可以通过检索关键信息，将知识库內对应知识片段进行返回，再整合为一个结构化的prompt（提示词）输入给大模型，这样以来，大模型就可以结合这些知识片段和具体问题，整理汇总出客户想要的答案；

那在对这些知识进行保存和检索的过程中，就需要数据库技术的支持，而在众多类型的数据库中，有一类向量数据库，对图片等非结构化类型数据的保存和检索起到关键性作用；常用的向量数据库主要有Milvus、Faiss、Chroma等，今天就简单介绍一下Milvus向量数据库的应用；

一、介绍

Milvus 是一款开源的向量数据库，其高性能、分布式、专为 AI 和机器学习设计的向量数据库，广泛应用于推荐系统、图像检索、自然语言处理等领域；它支持多种数据类型（如图片、文本、音频等）的嵌入式表示，并提供快速的相似性搜索能力；

1.1 核心功能：

• 向量相似性搜索： 支持基于距离度量（如欧几里得距离、余弦相似度等）的高效查询。
• 大规模数据处理： 能够轻松处理数十亿甚至上百亿的向量数据。
• 分布式架构： 支持水平扩展，满足高性能和高并发需求。
• 多模态数据支持： 可以处理图像、文本、音频等多种非结构化数据。
• 插件式集成： 提供与主流大数据生态系统的无缝集成，例如 Kafka、Spark 和 Elasticsearch。

1.2 技术特点：

• 索引优化： 内置多种高效的向量索引算法（如 IVF、HNSW 等），提升查询性能。
• GPU 加速： 利用 GPU 的计算能力加速向量搜索。
• 实时写入与查询： 支持低延迟的数据写入和查询操作。
• 跨平台支持： 兼容多种操作系统和硬件环境。

1.3 应用场景：

• 推荐系统： 基于用户行为或内容特征进行个性化推荐。
• 图像检索： 快速查找与目标图片最相似的图像。
• 自然语言处理： 实现语义相似性搜索，如问答系统或文档检索。
• 生物信息学： 分析基因序列或蛋白质结构数据。

1.4 优势：

• 开源社区活跃： Milvus 拥有庞大的开发者社区，持续迭代和改进。
• 易用性： 提供丰富的 API 和 SDK，便于开发者快速上手。
• 灵活性： 支持多种部署方式（本地、云端、容器化）。

1.5 整体流程图：

• 创建集合： 集合是 Milvus 中存储向量数据的基本单位；
• 插入数据： 将向量数据插入到集合中；
• 构建索引： 为向量字段构建搜索方式；
• **执行查询：**进行向量相似性搜索；

二、安装

2.1 安装 Milvus 客户端库

首先需要安装 pymilvus 库，这是 Milvus 的官方 Python SDK；

# 使用以下命令安装：
pip install pymilvus

2.2 安装 Milvus

Milvus的安装采用Docker的形式进行：

# 拉取docker镜像
docker pull milvusdb/milvus:v2.3.0

# 后台运行Mlivus服务
docker run -d --name milvus_cpu -p 19530:19530 -p 8080:8080 milvusdb/milvus:v2.3.0

• 默认情况下，Milvus 的服务地址为 localhost，端口为 19530；

三、操作

3.1 连接到 Milvus

使用 pymilvus 连接到 Milvus 服务：

from pymilvus import connections

# 连接到 Milvus 服务
connections.connect("default", host="localhost", port="19530")

3.2 创建集合

集合是 Milvus 中存储向量数据的基本单位。以下是创建集合的示例：

from pymilvus import Collection, FieldSchema, CollectionSchema, DataType, utility

# 定义字段
fields = [
    FieldSchema(name="id", dtype=DataType.INT64, is_primary=True, auto_id=True),  # 主键字段
    FieldSchema(name="embedding", dtype=DataType.FLOAT_VECTOR, dim=128)          # 向量字段，维度为128
]


# 查询集合是否存在
has = utility.has_collection("example_collection")

# 创建集合模式
schema = CollectionSchema(fields, "Example collection")

# 创建集合
collection = Collection(name="example_collection", schema=schema)

• FieldSchema :

  定义集合中的字段，每个字段都有特定的数据类型、名称和其他属性。

• 字段 1: "id"

• • name="id" : 字段的名称，这里是 "id"。
  • dtype=DataType.INT64 : 字段的数据类型为 64 位整数 (INT64)。
  • is_primary=True: 将该字段设置为主键字段。主键用于唯一标识集合中的每条记录。
  • auto_id=True : 表示主键值由 Milvus 自动生成。如果设置为 False，则需要手动提供主键值。

• 字段 2: "embedding"

• name="embedding" : 字段的名称，这里是 "embedding"。

• dtype=DataType.FLOAT_VECTOR : 字段的数据类型为浮点向量 (FLOAT_VECTOR)。

• dim=128 : 向量的维度为 128。这意味着每条记录的 "embedding" 字段是一个长度为 128 的浮点数组；

• CollectionSchema :

  定义集合的整体模式，包括字段列表和描述信息。

• 参数说明:

  • fields : 字段列表，即上一步中定义的 fields。
  • "Example collection": 集合的描述信息，用于说明该集合的用途或内容。这是一个可选参数，可以为空字符串。

• Collection :

  创建一个具体的集合实例。

• 参数说明:

  • name="example_collection" : 集合的名称，必须是唯一的。在这里，集合被命名为 "example_collection"。
  • schema=schema : 集合的模式，即上一步中定义的 schema。

3.3 插入数据

将向量数据插入到集合中：

import random

# 生成随机向量数据
data = [
    [i for i in range(10)],  # 主键（可选）
    [[random.random() for _ in range(128)] for _ in range(10)]  # 10个128维向量
]

# 插入数据
collection.insert(data)

3.4 构建索引

为了加速相似性搜索，需要为向量字段构建索引：

# 定义索引参数
index_params = {
    "index_type": "IVF_FLAT",  # 索引类型
    "params": {"nlist": 128},  # 分区数量
    "metric_type": "L2"        # 距离度量（如欧氏距离）
}

# 构建索引
collection.create_index(field_name="embedding", index_params=index_params)

• 需要留意的一点是构建索引是针对字段进行的，前面创建了两个字段'id'和'embeding'，定义的索引需要作用到'embeding'字段上，因为'embeding'字段是向量数据，是数据样本的核心；

3.5 执行查询

进行向量相似性搜索：

# 加载集合到内存
collection.load()

# 定义查询参数
search_params = {
    "metric_type": "L2",
    "params": {"nprobe": 10}  # 查询时的分区采样数量
}

# 定义查询向量
query_vector = [[random.random() for _ in range(128)]]

# 执行查询
results = collection.search(
    data=query_vector,
    anns_field="embedding",
    param=search_params,
    limit=5  # 返回前5个最相似的结果
)

# 输出结果
for result in results:
    print(result)

• search_params :

  定义搜索时使用的参数。

• 参数说明:

  • metric_type="L2" : 指定距离度量方式为欧氏距离（L2 距离）。其他常见选项包括：
    • "IP": 内积（Inner Product），用于余弦相似度计算。
    • "COSINE": 余弦相似度（Cosine Similarity）。
  • params={"nprobe": 10} :
    参数定义了向量相似度搜索的具体配置，通常与索引类型相关联；它的作用是调整查询算法的行为，以优化查询性能或结果精度；

    • nprobe: 控制索引分组的数量（即访问的倒排列表数量）。值越大，搜索越精确，但性能开销也会增加。

    • 对于基于 IVF 的索引类型（如 IVF_FLAT、IVF_PQ），nprobe 是一个关键参数；

    • 例如：IVF_FLAT索引类型，它在保存数据时会通过聚类将数据划分为若干个蔟，在检索时选择最相似的蔟心的蔟进行筛选，提高检索速度；那当'nprobe'为10时，就是在带检索向量距离最近的10个蔟心对应的蔟中进行相似度计算，所以数值越小，待检索的向量越少，速度越快，反之检索的越准确权威，但速度越慢；

    • 下面是不同检索类型对应的参数：

      索引类型	支持的参数
      IVF_FLAT	nprobe
      IVF_SQ8	nprobe
      IVF_PQ	nprobe, m
      HNSW	ef
      ANNOY	search_k

四、总结

当然也不是只要是使用RAG技术就一定要用向量数据库，主要还是看需要构建知识库的数据类型来决定；当需要构建的知识库信息是图像、PDF等非结构信息时，就可以通过主流的图像特征提取网络对图像进行特征提取，完成向量空间的数据转化，再将其保存至向量数据库，方便检索调用；如果知识库是比如法律条文的文本信息，如果不涉及复杂的语义信息的理解的话，可以直接将法律条文的文本不经过任何语义空间转化，直接将其切片保存在传统数据库也是可以的。