docker利用ollama +Open WebGUI在本地搭建部署一套Deepseek-r1模型

三朝看客2025-03-20 20:47

系统：没有限制，可以运行docker就行

磁盘空间：至少预留50GB;

内存：8GB

docker版本：4.38.0 桌面版

下载ollama镜像

由于docker镜像地址，网络不太稳定，建议科学上网的一台服务器拉取ollama镜像：

复制代码

docker pull ollama/ollama
docker images

创建并运行ollama容器

说明：本机为了测试只需要CPU的支持下进行安装运行ollama；如果是GPU，请参考ollama官网文档。

复制代码

#CPU only
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker ps -a #查看运行的容器

测试访问ollama

http://127.0.0.1:11434

下载运行deepseek-r1模型

运行模型前首先要到https://ollama.com/library/选择自己要加载的模型(上面有各种模型：deepseek-r1，llama3.1，gemma2，qwen2.5，等等），我们在这选择现在最火的国产大模型deepseek-r1。

复制代码

docker exec -it ollama  ollama run deepseek-r1:1.5b

docker安装Open WebGUI

Open WebGUI是一个用于与机器学习模型交互的Web界面。

如果本机已经安装ollama，使用如下命令创建运行open-webgui容器：

复制代码

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

打开浏览器，访问http://localhost:3000

ps：机器比较旧了，没办法，先跑着吧。