dify新版本1.1.3的一些问题

本人使用window版本上构建dify,采用docker方法启动

1、拉取镜像问题

windows上更改拉取镜像仓库地址

优化加速参考:青春不留白/Docker-hub

如果还是拉取比较慢的话,建议科学上网解决。

2、启动问题

发生报错Dify:failed to init dify plugin db问题,初步判断:启动服务的时候,db的服务还没有启动完成导致初始化不成功,以后服务没办法正常进行

分析:在dify环境中,各模块的相互依赖关系如下:

api:db,redis

woker:db,redis

plugin_daemon:db

nginx:api,web

csdn给出一个解决方案使用 wait-for-it.sh的方法,参考见:解决Dify:failed to init dify plugin db问题

进一步分析,其实初始化只在第一次和升级的时候发生,第一次启动正常后就不会影响,直接按照启动保证初始化即可:docker compose up -d 服务名,启动的时候给db启动的时间长一点即可,验证没有问题。

3 ollama模型接入注意

环境变量设置:

OLLAMA_HOST设置为0.0.0.0,如果设置,dify使用localhost连接,因为在docker是监听不到宿主机的地址

OLLAMA_MODELS:如果更改了MODELS的地址,需要更改到对应的目录

OLLAMA_GPU_LAYER:如果要使用GPU,设置对应DEV,一般有一块GPU设置为0即可

OLLAMA_MAX_LOADED_MODELS:如果要加载多个模型的话,需要设置并行的模型数量

说明:ollama可以运行非生成式模型以供dify调用

dify连接信息:

默认的链接地址: http://host.docker.internal:11434 ,官方有文档说明

相关推荐
舰长11515 分钟前
使用 kubeadm搭建生产环境的单 master 节点 K8S 集群(一)
云原生·容器·kubernetes
lynnlovemin1 小时前
云原生提速秘籍:Spring Boot转Spring Native实战指南
spring boot·spring·云原生·spring native
hwj运维之路1 小时前
Docker面试题汇总系列
运维·docker·云原生·容器
Gold Steps.2 小时前
Longhorn分布式云原生块存储系统
分布式·云原生
hwj运维之路2 小时前
超详细ubuntu22.04部署k8s1.28高可用(一)【多master+keepalived+nginx实现负载均衡】
运维·云原生·kubernetes·负载均衡
VermiliEiz2 小时前
使用二进制方式部署k8s(6)
云原生·容器·kubernetes
牛奶咖啡133 小时前
Prometheus+Grafana构建云原生分布式监控系统(十四)_Prometheus中PromQL使用(一)
云原生·prometheus·promql·计算一个时间范围内的平均值·将相同数据整合查看整体趋势·计算时间范围内的最大最小比率·向量标量的算术运算
汪碧康3 小时前
一文讲解kubernetes的gateway Api的功能、架构、部署、管理及使用
云原生·容器·架构·kubernetes·gateway·kubelet·xkube
小二·3 小时前
Go 语言系统编程与云原生开发实战(第7篇)分布式系统核心能力:配置中心 × 链路追踪 × 熔断降级(生产级落地)
开发语言·云原生·golang
梵得儿SHI3 小时前
实战项目落地:微服务拆分原则(DDD 思想落地,用户 / 订单 / 商品 / 支付服务拆分实战)
spring cloud·微服务·云原生·架构·微服务拆分·ddd方法论·分布式数据一致性