Ollama+deepseek+Docker+Open WebUI实现与AI聊天

1、下载并安装Ollama

官方网址:Ollama

安装好后,在命令行输入,

复制代码
ollama --version

返回以下信息,则表明安装成功,

2、 下载AI大模型

这里以deepseek-r1:1.5b模型为例,

在命令行中,执行,

复制代码
ollama run deepseek-r1:1.5b

模型下载到本地后,便可直接使用,

3、 下载并安装docker

官方网址:Docker: Accelerated Container Application Development

安装好后,在命令行输入,

复制代码
docker -v

返回以下信息,表明安装成功,

4、拉取Open WebUI的镜像并部署

执行以下命令,

复制代码
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

返回以下信息表明成功拉取镜像,

随后,在docker中会出现名为open-webui的容器,

鼠标点击3000:8080,便可跳转到Open-WebUI的认证界面,注册后便可与大模型聊天,

相关推荐
leeyi10 小时前
把软件装进不能上网的机房——一套建好了、还没上过战场的交付工程(第101篇)
docker·aigc·agent
YIAN12 小时前
Docker + Nginx 核心原理扫盲:从环境隔离到反向代理,运维面试必考点
后端·docker·面试
IT大白鼠14 小时前
Docker 实战 ELKF 日志监控:容器日志全栈收集分析方案
运维·docker·容器
小张同学a.1 天前
Docker 容器实战 1—— docker 基础与镜像构建
linux·运维·docker·容器
NJCloud1 天前
Docker 容器技术入门:部署、核心概念与基础命令
运维·docker·容器
2601_962072331 天前
docker自建rustdesk-server远程桌面
运维·docker·容器
pnoker1 天前
从零部署 IoT DC3:四步快速启动实录
物联网·docker·部署
虎王物联1 天前
RK3568嵌入式Linux跑Docker:内核配置排查到AIoT容器化的完整路径
linux·运维·docker·rk3568·aiot·嵌入式linux
缘友一世1 天前
GLM-5.3-NVFP4 部署实战系列[二]Docker 镜像选择与补丁镜像构建:纯 Python overlay,不重编一行 CUDA
python·docker·容器·vllm
数字化小张1 天前
Docker镜像优化——从1GB到100MB的瘦身实践
docker