Milvus-05-将文本变成向量并入库

文本变成向量这个操作是由大模型的embedding模型去做的,根据业界约定,如果你看到模型内部由encode开头的函数,指的就是将XXX变成向量,具体XXX是什么不一定,文本,图片,视频什么的都有可能,本文的代码是我从官方文档中摘出来的,本文将when this guy woke up this morning, he was white这句话变成向量

目录

安装国产智谱的embedding模型

我们不用官网的,我们这里使用国产embedding模型,智谱的模型主要官网简洁,申请key特别好找,能免费用一些,阿里云的控制台太复杂了,找个key费死劲了,其次就是国产的网络好

cpp 复制代码
# 安装paraphrase-albert-small-v2,服务器在国外,不好用
# pip install "pymilvus[model]" -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com  
# 安装国产智谱的embedding模型
pip install zhipuai

创建一个数据库表

cpp 复制代码
from pymilvus import MilvusClient,DataType

client = MilvusClient(uri="http://localhost:19530")
schema = client.create_schema()
# 创建一个collection_05的表,有3个字段,一个叫id的主键字段,一个叫vector的向量字段,一个叫text的普通字段
schema.add_field(field_name="id", datatype=DataType.INT64, is_primary=True, auto_id=True)
# 设置vector字段的维度为2048,因为我们后面用的智谱embedding模型将文本转换成的向量,维度就是2048,否则和数据库维度不同会报错
schema.add_field(field_name="vector", datatype=DataType.FLOAT_VECTOR, dim=2048)
schema.add_field(field_name="text", datatype=DataType.VARCHAR)
client.create_collection(
    collection_name="collection_05",
    # metric_type="L2",假设我这里设置L2,生效的只有vector字段,因为在id,vector和text三个字段中,只有vector字段是向量字段,另外两个不是
    schema = schema
)

代码执行完毕,通过ATTU查看如下图

使用智谱embedding模型将文本转换成向量并存入到Milvus数据库的collection_05的表中

cpp 复制代码
from zhipuai import ZhipuAI
from pymilvus import MilvusClient
# 创建智谱python客户端
zhipu_client = ZhipuAI(api_key="智谱的API-key,在官网注册帐号,很好找,新建一个key,自动免费试用")

# 我们自己定义一句话,这句话出自经典美剧《越狱》T-bag名场面,你不会不知道吧????
docs = [
    "When this guy woke up this morning,",
    "he was white."
]
# 我们使用智谱的embedding-3模型,它还有2,但是我看3便宜,以后花钱的时候可以花几块钱买个3,测试够用了
response = zhipu_client.embeddings.create(
      model="embedding-3",
      input=docs
  )
vectors = [item.embedding for item in response.data]

data = [
    {"id": i, "vector": vectors[i], "text": docs[i]}
    for i in range(len(vectors))
]

# 将生成的数据插入到数据库
milvus_client = MilvusClient(uri="http://localhost:19530")
res = milvus_client.insert(collection_name="collection_05", data=data)
print(res)

通过ATTU查看Milvus中刚刚插入的数据

相关推荐
meilindehuzi_a10 小时前
Node.js 实战 Milvus 向量数据库:从建库、向量检索到 RAG AI 日记本
数据库·node.js·milvus
华大哥1 天前
Milvus向量数据库和Milvus向量数据库命令行工具:milvus-cli
数据库·milvus
Lemon0309232 天前
milvus
milvus
Database_Cool_7 天前
阿里云 Lindorm vs Milvus+ES 拼接:一栈式多模数据库与多库架构全维度对比
elasticsearch·阿里云·milvus
IT小辉同学8 天前
# Milvus v3.0-beta docker-compose 启动失败完整排错教程
docker·eureka·milvus
大模型码小白8 天前
Milvus 架构设计:从向量索引到分布式检索,AI 原生存储引擎的内部机制
java·大数据·人工智能·分布式·深度学习·milvus
小二·10 天前
多模态RAG实战:用LangChain+Milvus打造支持图文音视频的企业级知识库
langchain·音视频·milvus
weixin_3077791314 天前
Linux下Docker Compose里运行Milvus向量数据库故障诊断Shell脚本
linux·运维·数据库·docker·milvus
Generalzy16 天前
从本地 Demo 到生产级检索:Milvus 学习笔记(3)
笔记·学习·milvus
Earth explosion16 天前
大规模向量库的索引选型与查询性能调优:Milvus 实战指南
人工智能·milvus·ai智能体