【dify+milvus避坑指南】将向量库milvus集成给dify作为知识库

核心内容:

1. Milvus_standalone的WSL Linux部署流程

  1. Milvus配置修改及服务启动验证
  2. Dify在WSL Linux上的部署与基础环境配置

本文所用:

milvus v2.5.6 dify v1.6.0 Attu v2.5.0

一、安装milvus单机版

复制代码
# 官方安装部署命令(如果已安装请忽略此步骤)
wget https://github.com/milvus-io/milvus/releases/download/v2.5.6/milvus-standalone-docker-compose.yml -O docker-compose.yml

二、修改milvus的docker-compose.yml配置并且安装可视化工具Attu(非必要)

复制代码
services:
  etcd:
  ....


  minio:
    ports:
      - "19001:9001"  # 保证后续安装RAGflow 不会出现Minio 端口冲突(非必要)
      - "19000:9000"  #
  ....


  standalone:
  ....

  # 在原docker-compose文件的这个位置添加下面这个attu容器,注意版本号和行前空格。
  attu:
    container_name: attu
    image: zilliz/attu:v2.5.0
    environment:
      MILVUS_URL: milvus-standalone:19530
    ports:
      - "8000:3000"  # 外部端口8000可以自定义
    depends_on:
      - "standalone"

三、容器修改 milvus.yaml 开启milvus身份认证

复制代码
# 进入 Milvus 容器(如果执行失败将milvus-standalone替换为你实际的CONTAINER_ID)
docker exec -it milvus-standalone /bin/bash


# 启用认证
sed -i 's/authorizationEnabled: false/authorizationEnabled: true/g' /milvus/configs/milvus.yaml

#退出容器
exit

#验证是否开启成功
docker exec -it milvus-standalone cat /milvus/configs/milvus.yaml | grep authorizationEnabled

#显示为:true则成功

四、(重)启动服务查看是否可行

复制代码
#在milvus文件夹直接执行这一步

docker compose up -d

五、安装dify

复制代码
# Step1. 克隆仓库(建议国内用户使用镜像源)

git clone https://github.com/langgenius/dify.git

六、修改dify的配置文件

复制代码
# 配置.env环境变量

cd dify/docker
cp .env.example .env
sudo vim .env 



# The type of vector store to use.
# VECTOR_STORE=weaviate  # 注释掉默认向量库配置
VECTOR_STORE=milvus   #换成我们要用的milvus


# The milvus uri.
MILVUS_URI=http://xxx.xx.xx.xx:19530
MILVUS_TOKEN=   #可不填
MILVUS_USER=your_user    #milvus认证的用户名  默认root
MILVUS_PASSWORD=your_pass    #milvus认证的密码  默认Mlivus  切记首字母大写
MILVUS_ENABLE_HYBRID_SEARCH=True 

七、修改dify的 docker-compose.yaml 配置文件

复制代码
# 注释掉 Dify 关于 Milvus的配置,避免重复下载,与已经安装好的Milvus 冲突
# 下述内容全部注释,内容较多我就省略号替代


 #Milvus vector database services

  etcd:
    container_name: milvus-etcd
     ....

  minio:
    container_name: milvus-minio
     ....

  milvus-standalone:
    container_name: milvus-standalone
     ....

八、启动服务然后测试

复制代码
docker compose up -d

9、进入dify创建知识库 然后进入Attu查看是否自动创建collection

如果如上图一样,milvus库中可以自动生成collection,那就成功了!

如果失败,查看dify是否成功调用Embedding模型向量化文件,或者查看docker logs进行原因排查!

相关推荐
哥布林学者29 分钟前
吴恩达深度学习课程二: 改善深层神经网络 第三周:超参数调整,批量标准化和编程框架(一)超参数调整
深度学习·ai
wuxuanok1 小时前
Debug —— 部署微服务中微服务的配置文件及本地注册Nacos没问题但部署到Docker中就注册失败
docker·微服务·架构
曦樂~1 小时前
【Docker】Dockerfile自定义镜像
运维·docker·容器
胡斌附体1 小时前
docker desktop 限制wsl使用内存空间
docker·docker desktop·wsl·卡死·限制内存占用·限制内存
拾心211 小时前
【云运维】Kubernetes安装(基于 Docker + Calico)
运维·docker·kubernetes
Caster_Z2 小时前
Windows环境安装Docker
运维·docker·容器
不老刘2 小时前
使用 Docker Compose 一键更新:深入理解 docker-compose pull 的适用场景
docker·容器·eureka·cline
百***07182 小时前
IDEA+Docker一键部署项目SpringBoot项目
spring boot·docker·intellij-idea
大连滚呢王2 小时前
Linux(麒麟)服务器离线安装单机Milvus向量库
linux·python·milvus·银河麒麟·milvus_cli
醉风塘2 小时前
MongoDB Docker 镜像制作与部署指南
数据库·mongodb·docker