Windows本地Docker+Open-WebUI部署DeepSeek

最近想在自己的电脑本地部署一下DeepSeek试试,由于不希望污染电脑的Windows环境,所以在wsl中安装了ollama,使用ollama拉取DeepSeek模型。然后在Windows中安装了Docker Desktop,在Docker中部署了Open-WebUI,最后再在Open-WebUI中连接到wsl的ollama,大功告成!这里记录一下部署的过程。

显卡:NVIDIA GeForce RTX 3060 Laptop

Docker Desktop 版本:v4.38.0

ollama 版本:0.5.11

DeepSeek模型:DeepSeek R1 8b 4bit量化

目录

安装ollama

1.下载安装ollama

2.执行命令查看状态

3.查看ollama端口

4.查看本地模型执行命令

5.拉取DeepSeek模型

6.编辑ollama.service文件

[安装Docker Desktop](#安装Docker Desktop)

[1.下载 Docker Desktop](#1.下载 Docker Desktop)

2.查看Docker是否正常工作

安装Open-WebUI

1.安装

[2.Open-WebUI 接入 Ollama](#2.Open-WebUI 接入 Ollama)


安装ollama

首先Windows上需要安装了WSL2,网上很多教程,这里就不写详细过程了。

1.下载安装ollama

在终端里切换到WSL里,执行下面的命令下载安装ollama:

bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh

如果不挂梯子的话,会安装的非常慢,建议开梯子再下载。

2.执行命令查看状态

bash 复制代码
sudo systemctl status ollama

3.查看ollama端口

执行命令安装net-tools:

bash 复制代码
sudo apt install net-tools

执行命令:

bash 复制代码
sudo netstat -anp | grep 11434

4.查看本地模型执行命令

bash 复制代码
ollama list

5.拉取DeepSeek模型

在 ollama 官网上可以查看可以拉取的模型以及对应的命令:https://ollama.com/search,我这里拉取的是DeepSeek R1 8b 的 4bit 量化版本,Q4_K_M表示量化的 4bit 版本:

执行命令,会先给你下载,再自动启动的:

bash 复制代码
ollama run deepseek-r1:8b

下载完后,可以看到本地已经有DeepSeek-R1:8b模型了。

6.编辑ollama.service文件

执行下面的命令使用vim编辑ollama.service文件,并在其中添加如下两行:

bash 复制代码
sudo vim /etc/systemd/system/ollama.service

Environment="OLLAMA_HOST=0.0.0.0:11434"

Environment="OLLAMA_ORIGINS=*"

改好以后记得使用下面的命令,重启ollama服务,然后可以关闭WSL:

bash 复制代码
sudo systemctl restart ollama

安装Docker Desktop

1.下载 Docker Desktop

访问 Docker 官网 下载 Docker Desktop。下载适用于 WindowsDocker Desktop 安装程序。

下载完成后双击安装,Docker Desktop 默认安装在:C:\Program Files\Docker\Docker。Docker会自动为你配置WSL 2和虚拟化支持。安装完成后打开:

2.查看Docker是否正常工作

输入命令,查看 Docker 版本:

bash 复制代码
docker --version

输入命令,查看 Docker 的配置信息,包括容器和镜像的详细信息:

bash 复制代码
docker info

安装Open-WebUI

1.安装

运行如下命令,安装 Open-WebUI:

bash 复制代码
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装完后,重启 Docker Desktop ,可以查看到容器信息:

2.Open-WebUI 接入 Ollama

点击端口,进入 Open-WebUI ,注册管理员账号后进入主页面,这时候可以选择的模型列表还是空的:

点击右上角头像--->设置--->管理员设置

点击外部连接,选择Ollama API,设置连接地址:

然后回到主页面,再点击选择一个模型,就可以看到我们再Ollama中拉取的DeepSeek-R1:8b模型了,大功告成!

参考博客:Windows 中使用 Docker Desktop 部署 Open WebUI 做大模型可视化_openwebui docker部署-CSDN博客

相关推荐
lxmyzzs4 小时前
在 RK3588 开发板上部署 DeepSeek-R1-Distill-Qwen-1.5B 模型:RKLLM API 实战指南
人工智能·rk3588·deepseek
小码编匠7 小时前
基于 Microsoft Agent Framework 集成 DeepSeek 大模型的实践
后端·ai编程·deepseek
youcans_1 天前
【DeepSeek 论文精读】15. DeepSeek-V3.2:开拓开源大型语言模型新前沿
论文阅读·人工智能·语言模型·智能体·deepseek
未来智慧谷1 天前
DeepSeek-V3.2 Agent模型发布,推理性能媲美GPT-5
deepseek
飞哥数智坊2 天前
V4/R4 没来,但 DeepSeek-V3.2 好像又便宜又好用?
人工智能·deepseek
七牛云行业应用2 天前
告别RLHF?DeepSeek过程奖励(PRM)架构解析与推理数据流设计
人工智能·强化学习·大模型架构·deepseek
懷淰メ2 天前
【AI加持】基于PyQt5+YOLOv8+DeepSeek的太阳能电池板缺陷检测系统(详细介绍)
yolo·目标检测·计算机视觉·pyqt5·检测系统·deepseek·太阳能电池
AI大模型学徒2 天前
大模型应用开发(六)_大模型文字生成音频和图片
chatgpt·音视频·文字转图片·deepseek·文字转音频
LSL666_3 天前
SpringBoot项目连接deepseek
java·spring boot·后端·deepseek