Deepseek+dify本地化部署步骤

一、部署前准备

硬件要求:

CPU:≥2 核心

内存:≥4 GiB(推荐 16 GiB 或更高,视模型大小而定)

存储空间:根据模型大小调整,DeepSeek 模型通常需要数 GB。

软件准备:

安装 Docker Desktop。

安装 Git。

安装 Python 3.x 和 Node.js(可选,视需求而定)。

二、安装 Docker Desktop

2.1访问 Docker 官网,下载适用于 Windows 的 Docker Desktop 安装包。

双击安装包并按照提示完成安装。

2.2启动 Docker Desktop,确保鲸鱼图标出现在任务栏通知区域,表示 Docker 服务已启动。

三、安装 Ollama

3.1访问 Ollama 官网,下载 Windows 版本的 Ollama。

双击下载的安装包(如 OllamaSetup.exe),点击"Install",完成安装。

验证安装:打开命令提示符,运行以下命令查看版本号:

bash

ollama -v

如果显示版本号,则表示安装成功。

四、安装 DeepSeek 模型

打开命令提示符,运行以下命令拉取 DeepSeek 模型(根据硬件配置选择合适的模型大小,如 7B 或 14B):

ollama run deepseek-r1:7b (根据实际需要下载相应的模型)

模型下载完成后,可以通过输入问题测试模型是否正常运行。

五、安装 Dify

5.1安装 Git(如果尚未安装):

5.1访问 Git 官网,下载并安装。

克隆 Dify 项目代码:

打开 Git Bash 或命令提示符,运行以下命令克隆 Dify 项目:

git clone https://github.com/langgenius/dify.git

进入项目目录:

cd dify/docker

配置环境变量:

复制环境配置文件:

cp .env.example .env

编辑 .env 文件关键配置:

OPENAI_API_TYPE=ollama

OLLAMA_API_BASE_URL=http://host.docker.internal:11434 # 重点!

启动 Dify 服务:

运行以下命令启动 Docker 容器:

docker compose up -d

访问 http://localhost/install,按照提示完成初始化配置。

六、在 Dify 中配置 Ollama 模型

访问 Dify 仪表盘:

在浏览器中访问 http://localhost,注册并登录。

添加模型供应商:

在 Dify 的右上角"设置"中,选择"模型供应商",点击"添加"按钮。

选择"Ollama"作为模型供应商。

配置 Ollama 模型:

填写模型名称(如 deepseek-r1:7b)和基础 URL(通常是 http://localhost:11434)。

如果 Ollama 和 Dify 部署在不同机器上,需确保网络互通。

相关推荐
Martina_032115 分钟前
一张地图怎么生成可编辑3D地形?用6步检查高度图、道路约束与Mesh导出
图像处理·人工智能·平面·3d·ai·自然语言处理·游戏策划
可爱系程序猿16 分钟前
Windows 11 下惠普 M126nw 驱动报错溯源:完整包、WSD 端口与类驱动记录
windows·程序人生·电脑
nagualky12325 分钟前
GPT-4 系列退役在即:一套可回滚的模型迁移验收法
java·开发语言·ai·架构
老唐77727 分钟前
(附代码)使用OpenCV和关键点检测计算瓶子角度
人工智能·深度学习·opencv·目标检测·计算机视觉·ai·transformer
令狐少侠20111 小时前
OpenAI Codex 安装配置
ai
不停喝水1 小时前
【前端转全栈java速通课】 项目实战④12-14节 拦截器过滤器和全局配置-cors跨域设置-token体系-利用session做验证码
java·开发语言·前端·ai·容器
薛定猫AI1 小时前
【技术干货】基于本地优先架构的开源AI智能体Octopus系统设计与实战解析
python·机器学习·ai·大模型·技术实战
钱多多_qdd1 小时前
cherrystudio及workbuddy配置本地模型
ai·cherrystudio·workbuddy
拆房老料1 小时前
【第四部分:Agentic 智能体设计模式】15.为什么 Agent 也需要设计模式
人工智能·设计模式·ai·ai-native
InternLM1 小时前
拓宽AI物理实验版图:上海AI实验室推出“书生SCP-Lab”,端砚自主实验能力再跃升
人工智能·ai·大模型·书生大模型·ai科研