Dify1.11.1+Ollama0.13.5安装说明

安装环境

系统:virtualbox虚拟机安装的centos stream 10系统。

网络:virtualbox采用 桥接模式,使虚拟机系统与宿主机一个ip段,方便测试

虚拟机IP:192.168.1.104

Dify安装:

1.下载官方github源码,手动安装在centos10 中,容器化部署的。

Dify最新版本查询:https://github.com/langgenius/dify/releases
Dify源码仓库:https://github.com/langgenius/dify

安装命令(根据实际路径):

复制代码
cd dify  # 进入dify目录,根据实际
cd docker
cp .env.example .env  # 备份为正式使用的.env
docker compose up -d  # docker compose 一键部署dify

运行成功后, http://192.168.1.104/install 设置账号密码登录即可

Ollama安装:

按照官方linux脚本,直接安装在centos10中。
ollama官网:https://ollama.com/download,选择适合自己系统的
大模型地址:https://ollama.com/search

安装命令(linux):

复制代码
curl -fsSL https://ollama.com/install.sh | sh

注意事项:

ollama安装完成后只能本机访问,

输入命令curl http://localhost:11434,

显示ollama is running 说明已经成功,

但是,需要容器中的dify调用ollama的模型,就需要添加ollama的环境变量,否则dify添加不上模型,在原始url位置会报错

linux设置环境变量

复制代码
Linux设置环境变量操作步骤(永久生效):
#  1.永久生效(避免重启失效,推荐)也就是在系统中添加一个service
sudo vi /etc/systemd/system/ollama.service

# 2.编辑ollama.service内容:
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Restart=always
RestartSec=3
# 新增:设置监听地址和端口,否则只能本机访问
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=multi-user.target
# 3.保存后重载配置并重启
sudo systemctl daemon-reload
sudo systemctl restart ollama

# 4.检测是否可以任意IP访问
curl http://192.168.1.104:11434     返回:Ollama is running  说明已经生效

window10设置环境变量

复制代码
在 Windows10 中,可以通过以下步骤来设置环境变量 OLLAMA_HOST:

打开系统属性:
右键 此电脑 -选择 属性
关于页面往下,找到相关设置->高级系统设置
环境变量:
在弹出的窗口中,点击 环境变量
新建系统环境变量:
在 系统变量 部分,点击 新建。
在 变量名 中,输入 OLLAMA_HOST
在 变量值 中,输入 0.0.0.0,点击 确定。
重启:
确认保存后,重启电脑,重新打开软件

Ollama拉取大数据模型

1.在ollama大模型库中找到需要安装的模型,网址:https://ollama.com/search

运行命令:

复制代码
ollama run qwen3-vl:2b

显示:为成功拉取大模型。初次拉取时候,可能会有一定时间,若是拉取速度慢可以自行查询一下方法,在此不做说明

Dify中设置ollama的qwen3-vl:2b

至此,完成Dify+Ollama绑定成功

验证:

相关推荐
阿杰学AI9 小时前
AI核心知识81——大语言模型之MaaS(简洁且通俗易懂版)
人工智能·ai·语言模型·自然语言处理·aigc·maas·模型即服务
m0_6038887110 小时前
VEQ Modality-Adaptive Quantization for MoE Vision-Language Models
人工智能·ai·语言模型·自然语言处理·论文速览
zhangfeng113310 小时前
大语言模型llm 量化模型 跑在 边缘设备小显存显卡 GGUF GGML PyTorch (.pth, .bin, SafeTensors)
人工智能·pytorch·深度学习·语言模型
kebijuelun11 小时前
Towards Automated Kernel Generation in the Era of LLMs:LLM 时代的自动化 Kernel 生成全景图
人工智能·gpt·深度学习·语言模型
汉克老师11 小时前
小学生0基础学大语言模型应用(第 19 课《字符串提示词训练(Prompt Thinking)》)
人工智能·深度学习·机器学习·语言模型·prompt·提示词
狮子座明仔11 小时前
AgentScope 深度解读:多智能体开发框架的工程化实践
人工智能·深度学习·语言模型·自然语言处理
庵中十三居士11 小时前
智谱清言智能体的设定(系统提示词)
语言模型
源代码杀手11 小时前
大型语言模型的主体推理(一项综述):2026 最新!Agentic Reasoning 终极指南——最全 LLM 智能体推理论文合集 + 核心架构解析
人工智能·语言模型·自然语言处理
hjs_deeplearning13 小时前
文献阅读篇#16:自动驾驶中的视觉语言模型:综述与展望
人工智能·语言模型·自动驾驶
破烂pan1 天前
大语言模型核心评测基准详解:从认知到实践
语言模型·模型评测