dify本地部署及添加ollama模型(ubuntu24.04)

源码下载

下载地址:https://github.com/langgenius/dify

切换到自己要存放该源码的目录下,拉取代码

shell 复制代码
# 没有git就安装一下
# 1.首先更新软件包列表
sudo apt update
# 2.安装git
sudo apt install git
# 3.查看git版本
git --version

# 拉取
git clone https://github.com/langgenius/dify.git

修改.env环境配置信息

dify/docker目录下,直接copy就行

shell 复制代码
cp .env.example .env

拉取镜像并运行容器

dify/docker目录下

shell 复制代码
docker-compose up -d
# 启动后查看下
docker ps

访问(默认80端口)

  • 注册并登录
    本机的话直接localhost即可
    首次访问会让注册账号,我这里已经注册过了,所以显示登录界面。

添加ollama模型供应商

.env配置Ollama的API地址

在dify/docker下.env文件最后添加以下配置

.env 复制代码
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定Ollama的API地址(根据实际部署环境调整IP)
OLLAMA_API_BASE_URL=http://192.168.XX.XX:11434

关闭并重启docker

shell 复制代码
docker-compose down
docker-compose up -d

测试docker是否能访问ollama

我本地ollama的模型

docker测试是否能调用ollama:

shell 复制代码
# 192.168.18.25:11434切换成自己ollama的ip地址
 docker exec -it docker-api-1 curl 192.168.XX.XX:11434/api/tags

配置ollama

右上角-设置-模型供应商-安装模型供应商:找到ollama并安装,安装完之后可以在上方待配置处看到

(我下载的这个dify版本,需要点击两次安装才能安装成功)

配置相应的ollama模型,并保存。


相关推荐
阿拉斯攀登10 小时前
Prompt 工程与答案生成优化
prompt·agent·memory·知识库·向量数据库·rag
bukeyiwanshui11 小时前
20260622 安装配置ubuntu
linux·运维·ubuntu
阿拉斯攀登13 小时前
企业知识库实战:从 0 到 1 落地全记录
agent·ai编程·loop·rag
AI的探索之旅14 小时前
从 Ubuntu 14.04 到 24.04:TI AM335x 开发环境完整迁移与 Agent 接管方案
linux·数据库·嵌入式硬件·ubuntu·postgresql
阿拉斯攀登16 小时前
检索效果评估与 Bad Case 分析
chatgpt·agent·ai编程·loop·rag
一池秋_16 小时前
ubuntu(linux)完美复刻windows11字体,解决linux字体费眼晴
linux·运维·ubuntu
阿拉斯攀登17 小时前
RAG 性能优化:缓存、批量与并发
人工智能·缓存·性能优化·embedding·agent·loop·rag
leonshi1 天前
Embedchain 是什么?用最简单的话讲清楚一个"AI 知识问答工具框架"
ai·rag
艾莉丝努力练剑1 天前
OpenCode AI 编程:Ubuntu 24.04 环境安装与使用指南
linux·服务器·网络·人工智能·tcp/ip·ubuntu
染指11101 天前
46.llama_index-提示词模板(富提示词模板、jinja2静态和动态模板)
llama·rag·llamaindex