dify新版本1.1.3的一些问题

本人使用window版本上构建dify,采用docker方法启动

1、拉取镜像问题

windows上更改拉取镜像仓库地址

优化加速参考:青春不留白/Docker-hub

如果还是拉取比较慢的话,建议科学上网解决。

2、启动问题

发生报错Dify:failed to init dify plugin db问题,初步判断:启动服务的时候,db的服务还没有启动完成导致初始化不成功,以后服务没办法正常进行

分析:在dify环境中,各模块的相互依赖关系如下:

api:db,redis

woker:db,redis

plugin_daemon:db

nginx:api,web

csdn给出一个解决方案使用 wait-for-it.sh的方法,参考见:解决Dify:failed to init dify plugin db问题

进一步分析,其实初始化只在第一次和升级的时候发生,第一次启动正常后就不会影响,直接按照启动保证初始化即可:docker compose up -d 服务名,启动的时候给db启动的时间长一点即可,验证没有问题。

3 ollama模型接入注意

环境变量设置:

OLLAMA_HOST设置为0.0.0.0,如果设置,dify使用localhost连接,因为在docker是监听不到宿主机的地址

OLLAMA_MODELS:如果更改了MODELS的地址,需要更改到对应的目录

OLLAMA_GPU_LAYER:如果要使用GPU,设置对应DEV,一般有一块GPU设置为0即可

OLLAMA_MAX_LOADED_MODELS:如果要加载多个模型的话,需要设置并行的模型数量

说明:ollama可以运行非生成式模型以供dify调用

dify连接信息:

默认的链接地址: http://host.docker.internal:11434 ,官方有文档说明

相关推荐
张忠琳5 小时前
【NVIDIA】 NVIDIA Container Toolkit v1.19.1 — OCI 模块超深度分析之三
云原生·容器·架构·kubernetes·nvidia
阿里云云原生7 小时前
让 AI Agent 看见正在发生的业务,阿里云 EventHouse 正式商业化
云原生
AOwhisky8 小时前
Python 学习笔记(第十五期)——运维自动化(下·后篇):堡垒机实战——paramiko高阶篇
运维·python·学习·云原生·自动化·运维开发
微三云 - 廖会灵 (私域系统开发)11 小时前
电商系统从单体到微服务拆分实践:拆什么、怎么拆、拆完后怎么办
微服务·云原生·架构
骑上单车去旅行12 小时前
Docker Compose 命令完全指南:从构建到运维
docker·容器·eureka
前端Baymax13 小时前
K8s PodCrashLoopBackOff假阳性排查
云原生·容器·kubernetes
guslegend14 小时前
领域驱动设计,微服务设计为什么要选择DDD?
微服务·云原生·架构
AOwhisky16 小时前
云原生 DevOps 工具链从入门到实战(第一期)——DevOps概述与GitLab部署——从理念到工具落地
运维·ci/cd·云原生·gitlab·开发·devops
BIGmustang16 小时前
ACK的集群日志接入及ARMS的应用性能监控及主机监控(云监控)
阿里云·云原生
VortMall17 小时前
全维度打磨细节体验,赋能商城稳定有序运营|VortMall 微服务商城 v1.3.11 版本发布
java·微服务·云原生·架构·商城系统·开源商城·vortmall