Milvus-05-将文本变成向量并入库

文本变成向量这个操作是由大模型的embedding模型去做的,根据业界约定,如果你看到模型内部由encode开头的函数,指的就是将XXX变成向量,具体XXX是什么不一定,文本,图片,视频什么的都有可能,本文的代码是我从官方文档中摘出来的,本文将when this guy woke up this morning, he was white这句话变成向量

目录

安装国产智谱的embedding模型

我们不用官网的,我们这里使用国产embedding模型,智谱的模型主要官网简洁,申请key特别好找,能免费用一些,阿里云的控制台太复杂了,找个key费死劲了,其次就是国产的网络好

cpp 复制代码
# 安装paraphrase-albert-small-v2,服务器在国外,不好用
# pip install "pymilvus[model]" -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com  
# 安装国产智谱的embedding模型
pip install zhipuai

创建一个数据库表

cpp 复制代码
from pymilvus import MilvusClient,DataType

client = MilvusClient(uri="http://localhost:19530")
schema = client.create_schema()
# 创建一个collection_05的表,有3个字段,一个叫id的主键字段,一个叫vector的向量字段,一个叫text的普通字段
schema.add_field(field_name="id", datatype=DataType.INT64, is_primary=True, auto_id=True)
# 设置vector字段的维度为2048,因为我们后面用的智谱embedding模型将文本转换成的向量,维度就是2048,否则和数据库维度不同会报错
schema.add_field(field_name="vector", datatype=DataType.FLOAT_VECTOR, dim=2048)
schema.add_field(field_name="text", datatype=DataType.VARCHAR)
client.create_collection(
    collection_name="collection_05",
    # metric_type="L2",假设我这里设置L2,生效的只有vector字段,因为在id,vector和text三个字段中,只有vector字段是向量字段,另外两个不是
    schema = schema
)

代码执行完毕,通过ATTU查看如下图

使用智谱embedding模型将文本转换成向量并存入到Milvus数据库的collection_05的表中

cpp 复制代码
from zhipuai import ZhipuAI
from pymilvus import MilvusClient
# 创建智谱python客户端
zhipu_client = ZhipuAI(api_key="智谱的API-key,在官网注册帐号,很好找,新建一个key,自动免费试用")

# 我们自己定义一句话,这句话出自经典美剧《越狱》T-bag名场面,你不会不知道吧????
docs = [
    "When this guy woke up this morning,",
    "he was white."
]
# 我们使用智谱的embedding-3模型,它还有2,但是我看3便宜,以后花钱的时候可以花几块钱买个3,测试够用了
response = zhipu_client.embeddings.create(
      model="embedding-3",
      input=docs
  )
vectors = [item.embedding for item in response.data]

data = [
    {"id": i, "vector": vectors[i], "text": docs[i]}
    for i in range(len(vectors))
]

# 将生成的数据插入到数据库
milvus_client = MilvusClient(uri="http://localhost:19530")
res = milvus_client.insert(collection_name="collection_05", data=data)
print(res)

通过ATTU查看Milvus中刚刚插入的数据

相关推荐
sunywz18 小时前
【AI RAG知识库】05.【导入】【节点7】node_import_milvus.md
人工智能·milvus
文天大人1 天前
Milvus-02-创建collections
milvus
zhoupenghui1683 天前
【AI大模型应用开发】【项目实战】13.RAG智慧问答项目-(一)项目介绍&项目架构&项目环境配置
人工智能·docker·ai·milvus·rag·attu·rag智慧问答项目
阿拉斯攀登4 天前
向量数据库选型:Milvus vs Chroma vs Elasticsearch
数据库·elasticsearch·milvus·知识库·rag·个人知识库
bang冰冰4 天前
Windows安装Milvus(Docker部署)
milvus
毒爪的小新4 天前
踩坑实录 | RAG知识库完整搭建-Milvus2.4+BGE大中文AI模型嵌入
linux·人工智能·ai·milvus·rag
第十昵称5 天前
[milvus-backup]milvus-standalone跨服务器迁移
milvus
zhiSiBuYu05175 天前
Milvus、Pinecone 与 FAISS 向量数据库选型与实战指南
数据库·milvus·faiss
第十昵称6 天前
milvus-standalone跨服务器迁移-local
milvus