dify新版本1.1.3的一些问题

本人使用window版本上构建dify,采用docker方法启动

1、拉取镜像问题

windows上更改拉取镜像仓库地址

优化加速参考:青春不留白/Docker-hub

如果还是拉取比较慢的话,建议科学上网解决。

2、启动问题

发生报错Dify:failed to init dify plugin db问题,初步判断:启动服务的时候,db的服务还没有启动完成导致初始化不成功,以后服务没办法正常进行

分析:在dify环境中,各模块的相互依赖关系如下:

api:db,redis

woker:db,redis

plugin_daemon:db

nginx:api,web

csdn给出一个解决方案使用 wait-for-it.sh的方法,参考见:解决Dify:failed to init dify plugin db问题

进一步分析,其实初始化只在第一次和升级的时候发生,第一次启动正常后就不会影响,直接按照启动保证初始化即可:docker compose up -d 服务名,启动的时候给db启动的时间长一点即可,验证没有问题。

3 ollama模型接入注意

环境变量设置:

OLLAMA_HOST设置为0.0.0.0,如果设置,dify使用localhost连接,因为在docker是监听不到宿主机的地址

OLLAMA_MODELS:如果更改了MODELS的地址,需要更改到对应的目录

OLLAMA_GPU_LAYER:如果要使用GPU,设置对应DEV,一般有一块GPU设置为0即可

OLLAMA_MAX_LOADED_MODELS:如果要加载多个模型的话,需要设置并行的模型数量

说明:ollama可以运行非生成式模型以供dify调用

dify连接信息:

默认的链接地址: http://host.docker.internal:11434 ,官方有文档说明

相关推荐
阿里云云原生10 小时前
研发视角的新突破:当 AI Coding 工具集成全域运维诊断,排查线上故障只需 3 分钟
云原生
小猿姐1 天前
唯品会大规模数据库云原生实践:基于 KubeBlocks 管理数千实例的统一运维之路
运维·elasticsearch·云原生
阿里云云原生1 天前
AgentTeams 和 Claude Tag 都进入群聊模式,是新范式还是新叙事?
云原生·agent
阿里云云原生3 天前
Higress v2.2.3 发布:正式入驻 CNCF Sandbox,AI Gateway 与 Ingress 迁移能力双向加固
云原生
阿里云云原生3 天前
香港站【企业 AI Agent 工程化实战专场】来啦,邀您7月9日见!
云原生·agent
阿里云云原生4 天前
研发域与运维域的“数字握手”:通过 Agentic Skills 实现 DevOps 全链路自动化
云原生
阿里云云原生7 天前
AI 开发新常态:当 Cursor、Claude、Codex 并行,如何统一管理散落的 Skill 资产?
云原生·ai编程
探索云原生8 天前
K8s 1.36 这个 GA 特性,把 initContainer 拉模型的 hack 干掉了
ai·云原生·kubernetes
Java之美8 天前
从edge-trigger到level-trigger,谈谈 Kubernetes controller 的开发范式
云原生
阿里云云原生8 天前
深度解构:当 Append-only 的 SLS 遇上 Update/Delete,是如何实现设计权衡的?
云原生