Milvus load 加载速度很慢!load so slowly!

文章目录

  • [1. 现象描述](#1. 现象描述)
  • [2. 原因及解决方案](#2. 原因及解决方案)
    • [2.1 load干了哪些事情?](#2.1 load干了哪些事情?)
    • [2.2 index原因推测](#2.2 index原因推测)
      • [2.2.1 服务器内存太小或者不足](#2.2.1 服务器内存太小或者不足)
      • [2.2.2 先设置Index再Insert数据](#2.2.2 先设置Index再Insert数据)

1. 现象描述

当你建立了一个milvus collection之后,collection.load()到内存时,速度很慢,比如20分钟没有结果,这是什么原因?

2. 原因及解决方案

2.1 load干了哪些事情?

我猜测:load函数的一个动作是将milvus计算好的index加入到内存中去。原因是:

  1. 如果在load前,没有设定index,那么load会报错提示你没有设定index。
  2. Milvus的所有相似计算,都是基于index进行的,所以load的时候一定会将index结果加载到内存。
  3. 建立好milvus的collection后,首次load时,有时会很耗时间,有时又不怎么耗时间。这是因为如果你在insert前,就create_index的,那么insert环节一并计算生成index,所以首次load只需要将结果load到内存,速度很快;如果create_index发生在insert环节后,那么load环节就会计算index,然后再加载到内存,显然load速度就会慢了。

由此推测,您的load函数非常慢,很有可能是index环节速度太慢或者出了问题!

2.2 index原因推测

2.2.1 服务器内存太小或者不足

向量百万,计算index,需要比较多的内存和计算量。看看您的机器是否内存不足了。

测试方法:找一个空的机器去,上milvus试一下,或者将现在milvus服务器释放一些内存试试。

2.2.2 先设置Index再Insert数据

相关推荐
TheBestRucy4 天前
从零构建企业级“中文法律智能问答系统”:FastAPI+Milvus+混合检索+真流式RAG实战
fastapi·milvus
Flynn Liang5 天前
内存/Redis/PGVector/Milvus/ES 怎么选?Spring AI VectorStore 抽象与向量库选型对照表
redis·elasticsearch·milvus·rag·springai·pgvector·向量库
kyrie_sakura6 天前
大模型学习19 大模型学习 - LangChain2_Retrieval(RAG-文档处理-向量处理检索-Milvus)
学习·langchain·milvus
Maiko Star6 天前
*【HM-LC】Milvus向量库详解:Collection、索引、混合检索与LangChain实战
langchain·milvus
霸道流氓气质8 天前
AI 图片管理平台:Spring AI 原生多模态、Milvus 向量语义检索与 MinIO 预签名安全管控的 React + 全栈生产级实战
人工智能·spring·milvus
一枕槐安4879 天前
多模态RAG实战:PDF图文混合文档检索问答本地跑通
langchain·pdf·milvus·ai应用开发·多模态rag
ai大模型-探索者13 天前
BGE-M3三种向量在Milvus怎么存(稠密、稀疏、多向量)
milvus·稀疏·多向量·稠密
唠点键盘之外的15 天前
29 切片的权限隔离(实战篇):Milvus + Spring AI,从 0 搭一条带权限过滤的检索链路
人工智能·spring·milvus
ai大模型-探索者15 天前
Milvus向量数据库(介绍与使用)
数据库·milvus
Crayon Lin16 天前
Milvus向量数据库入门
数据库·milvus