如何使用DashVector的多向量检索

本文介绍如何使用DashVector的多向量检索功能。

在某些AI检索的场景,会涉及一个实体对应多个向量,在检索时希望通过多个向量检索来找到最可能的实体,例如:

  • 在自然语言处理中,标题和文档分别抽取为不同的向量特征,需要根据标题向量和文档向量同时做检索。

  • 在商品检索时,商品的图片和文字分别抽取为不同的向量特征,需要根据图片向量和文字向量同时做检索。

为了满足这些需求,DashVector支持了多向量检索。

使用示例

前提条件

创建多向量集合

说明

需要使用您的api-key替换示例中的 YOUR_API_KEY、您的Cluster Endpoint替换示例中的YOUR_CLUSTER_ENDPOINT,代码才能正常运行。

复制代码
import dashvector
import numpy as np
from dashvector import VectorParam, Doc, WeightedRanker, VectorQuery, RrfRanker

client = dashvector.Client(
    api_key='YOUR_API_KEY',
    endpoint='YOUR_CLUSTER_ENDPOINT'
)
ret = client.create(
    'multi_vector_demo',
    vectors={
        "title": VectorParam(4),
        "content": VectorParam(6, metric="euclidean"),
    },
    fields_schema={
        'author': str,
    }
)
assert ret

插入数据

说明

insert/upsert要求至少一个向量字段有值。

复制代码
collection = client.get(name='multi_vector_demo')
docs = []
for i in range(10):
    docs.append(Doc(id=str(i),
                    vectors={"title": np.random.random(4),
                             "content": np.random.random(6)
                            },
                    )
                )
ret = collection.insert(docs)
print(ret)

执行检索

说明

  1. 检索时采用的策略为多个向量分别执行检索后融合排序。当前融合排序支持两种策略:RrfRankerWeightedRanker。不指定时,默认为RrfRanker(rank_constant=100)。

  2. VectorQuery 支持的其他参数见 向量检索高级参数

    title_vector = [0.1, 0.2, 0.3, 0.4]
    content_vector = [0.1, 0.2, 0.3, 0.4, 0.5, 0.6]
    vectors = {
    "title": VectorQuery(vector=title_vector, num_candidates=10),
    "content": VectorQuery(vector=content_vector),
    }
    ret = collection.query(
    vector=vectors,
    include_vector=False,
    # 使用RRF融合排序
    # rerank=RrfRanker(rank_constant=100)
    # 使用加权融合排序
    rerank=WeightedRanker(weights={"title": 1.0, "content": 1.0}),
    topk=20
    )
    assert ret
    print(ret.output)

    使用单个向量执行检索

    ret = collection.query(vector={"title": VectorQuery(vector=title_vector)})
    assert ret
    print(ret.output)

    使用单个向量执行分组向量检索

    ret = collection.query_group_by(title_vector, group_by_field='author', vector_field='title')
    assert ret
    print(ret)

限制说明

重要

  1. 当前单个集合最多支持4个向量字段。

  2. 多向量集合暂不支持插入sparse特征。

  3. 随向量字段的个数增加,Cluster中可插入的Doc条数会减少,插入和检索的性能会下降。

  4. 检索时允许只对部分向量做检索,集合中包含n个向量字段时,允许使用1-n个向量字段做向量检索,允许使用其中的任意一个向量字段做分组向量检索

相关推荐
SEO_juper6 小时前
大型语言模型SEO(LLM SEO)完全手册:驾驭搜索新范式
人工智能·语言模型·自然语言处理·chatgpt·llm·seo·数字营销
MAGICIAN...6 小时前
【Redis】--持久化机制
数据库·redis·缓存
我真的是大笨蛋6 小时前
JVM调优总结
java·jvm·数据库·redis·缓存·性能优化·系统架构
攻城狮7号6 小时前
腾讯混元翻译模型Hunyuan-MT-7B开源,先前拿了30个冠军
人工智能·hunyuan-mt-7b·腾讯混元翻译模型·30个冠军
zezexihaha6 小时前
从“帮写文案”到“管生活”:个人AI工具的边界在哪?
人工智能
算家云6 小时前
nano banana官方最强Prompt模板来了!六大场景模板详解
人工智能·谷歌·ai大模型·算家云·ai生图·租算力,到算家云·nano banana 提示词
暴躁的大熊6 小时前
AI助力决策:告别生活与工作中的纠结,明析抉择引领明智选择
人工智能
Gyoku Mint7 小时前
提示词工程(Prompt Engineering)的崛起——为什么“会写Prompt”成了新技能?
人工智能·pytorch·深度学习·神经网络·语言模型·自然语言处理·nlp
honder试试7 小时前
焊接自动化测试平台图像处理分析-模型训练推理
开发语言·python
梁小憨憨7 小时前
zotero扩容
人工智能·笔记