一、部署前准备
硬件要求:
CPU:≥2 核心
内存:≥4 GiB(推荐 16 GiB 或更高,视模型大小而定)
存储空间:根据模型大小调整,DeepSeek 模型通常需要数 GB。
软件准备:
安装 Docker Desktop。
安装 Git。
安装 Python 3.x 和 Node.js(可选,视需求而定)。
二、安装 Docker Desktop
2.1访问 Docker 官网,下载适用于 Windows 的 Docker Desktop 安装包。
双击安装包并按照提示完成安装。
2.2启动 Docker Desktop,确保鲸鱼图标出现在任务栏通知区域,表示 Docker 服务已启动。
三、安装 Ollama
3.1访问 Ollama 官网,下载 Windows 版本的 Ollama。
双击下载的安装包(如 OllamaSetup.exe),点击"Install",完成安装。
验证安装:打开命令提示符,运行以下命令查看版本号:
bash
ollama -v
如果显示版本号,则表示安装成功。
四、安装 DeepSeek 模型
打开命令提示符,运行以下命令拉取 DeepSeek 模型(根据硬件配置选择合适的模型大小,如 7B 或 14B):
ollama run deepseek-r1:7b (根据实际需要下载相应的模型)
模型下载完成后,可以通过输入问题测试模型是否正常运行。
五、安装 Dify
5.1安装 Git(如果尚未安装):
5.1访问 Git 官网,下载并安装。
克隆 Dify 项目代码:
打开 Git Bash 或命令提示符,运行以下命令克隆 Dify 项目:
git clone https://github.com/langgenius/dify.git
进入项目目录:
cd dify/docker
配置环境变量:
复制环境配置文件:
cp .env.example .env
编辑 .env 文件关键配置:
OPENAI_API_TYPE=ollama
OLLAMA_API_BASE_URL=http://host.docker.internal:11434 # 重点!
启动 Dify 服务:
运行以下命令启动 Docker 容器:
docker compose up -d
访问 http://localhost/install,按照提示完成初始化配置。
六、在 Dify 中配置 Ollama 模型
访问 Dify 仪表盘:
在浏览器中访问 http://localhost,注册并登录。
添加模型供应商:
在 Dify 的右上角"设置"中,选择"模型供应商",点击"添加"按钮。
选择"Ollama"作为模型供应商。
配置 Ollama 模型:
填写模型名称(如 deepseek-r1:7b)和基础 URL(通常是 http://localhost:11434)。
如果 Ollama 和 Dify 部署在不同机器上,需确保网络互通。