dify新版本1.1.3的一些问题

本人使用window版本上构建dify,采用docker方法启动

1、拉取镜像问题

windows上更改拉取镜像仓库地址

优化加速参考:青春不留白/Docker-hub

如果还是拉取比较慢的话,建议科学上网解决。

2、启动问题

发生报错Dify:failed to init dify plugin db问题,初步判断:启动服务的时候,db的服务还没有启动完成导致初始化不成功,以后服务没办法正常进行

分析:在dify环境中,各模块的相互依赖关系如下:

api:db,redis

woker:db,redis

plugin_daemon:db

nginx:api,web

csdn给出一个解决方案使用 wait-for-it.sh的方法,参考见:解决Dify:failed to init dify plugin db问题

进一步分析,其实初始化只在第一次和升级的时候发生,第一次启动正常后就不会影响,直接按照启动保证初始化即可:docker compose up -d 服务名,启动的时候给db启动的时间长一点即可,验证没有问题。

3 ollama模型接入注意

环境变量设置:

OLLAMA_HOST设置为0.0.0.0,如果设置,dify使用localhost连接,因为在docker是监听不到宿主机的地址

OLLAMA_MODELS:如果更改了MODELS的地址,需要更改到对应的目录

OLLAMA_GPU_LAYER:如果要使用GPU,设置对应DEV,一般有一块GPU设置为0即可

OLLAMA_MAX_LOADED_MODELS:如果要加载多个模型的话,需要设置并行的模型数量

说明:ollama可以运行非生成式模型以供dify调用

dify连接信息:

默认的链接地址: http://host.docker.internal:11434 ,官方有文档说明

相关推荐
逃逸线LOF9 小时前
为什么需要Actuator进行静态检查
spring cloud·eureka
时间售卖铺16 小时前
Docker实战:一键部署轻量级容器
运维·docker·云原生
艾伦_耶格宇17 小时前
【kubernetes - 1.28版本】-10 K8S命名空间
云原生·容器·kubernetes
草莓熊Lotso20 小时前
【C++ 基于微服务的即时通讯系统】网关基建:cpp-httplib 与 WebSocketpp 从入门到实战
linux·开发语言·数据库·c++·redis·微服务·云原生
时间售卖铺1 天前
触发器与函数实战:MySQL高效编程秘诀
运维·数据库·mysql·云原生
云-缩影1 天前
拆解函数计算 Serverless GPU 部署 AI 模型:Flux 生图和语音复刻怎么跑的
人工智能·云原生·serverless
螺蛳粉 螺蛳粉2 天前
第 02 篇:镜像分层与 containerd 2.x 实战:SystemdCgroup 与 pause 镜像配置踩坑(底座认知 02)
docker·云原生·容器·kubernetes·etcd·containerd·kube-apiserver
技术党2 天前
大模型训练平台推荐问答:九章云极的DCU计费、全栈Serverless和Token交付分别适合谁
云原生·serverless
时间售卖铺2 天前
Oracle DQL精髓:从基础到高级实战
运维·数据库·云原生·oracle
小白的码BUG之路2 天前
K8s -- 搭建过程中经常遇到的问题
云原生·容器·kubernetes