本地部署 Open WebUI,实现完全离线 AI 对话

1 前言

 Open WebUI(原 Ollama WebUI)是一款开源、可自托管、支持完全离线的大语言模型(LLM)交互 Web 平台,主打私有化部署与隐私安全,提供跟AI大模型的流畅对话体验。

2 搭建过程

(1)本地部署

在centos上通过如下命令启动docker:

systemctl start docker

配置镜像源

vi /etc/docker/daemon.json { "registry-mirrors": "https://mirror.tuna.tsinghua.edu.cn/" }

下载open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

(2)访问页面

打开open-webui的网址,使用如下网址和端口访问:

http://x.x.x.x:3000/![](https://i-blog.csdnimg.cn/direct/9d9146184f254a949512c516023bd290.png)

填写名称、电子邮箱、密码等信息

点击确认,开始使用

(3)配置

点击配置,填写ollama相关的连接地址和端口

在ollma中下载你想要的模型

在open-webui中查看,就能看到你下载的大模型

(4)开始使用

通过直接输入你想要做的事情

例如:帮我写一个烟花绽放的html脚本,烟花自动升向空中,并绽放开来,烟花是五颜六色的,要考虑色彩搭配

当然,这也跟硬件和大模型有关系,如果硬件越好,大模型越智能,回答的速度还会更快一点,其实这就是一个ollama大模型的使用页面,不过这个我感觉挺好用的,接下来,我将继续研究用这个搭建一个属于自己的AI Agent。

相关推荐
OpsEye2 分钟前
大模型会话里的手机号、身份证,怎么自动脱敏?
javascript·ai编程
guslegend11 分钟前
从需求分析到 Spec-Kit 落地:三种思维、施工方案与规格驱动开发
aigc·软件工程·需求分析·ai编程·spec-kit
AINative软件工程2 小时前
LLM 应用的预取工程实践:用预测性调用把首 Token 延迟砍掉 60%
性能优化·llm·ai编程
xhy_07072 小时前
AI 读了 .env,密钥会原样发给大模型吗?WES Code 的密钥打码(附实测)
人工智能·python·数据挖掘·flask·ai编程·wes code
小和尚同志9 小时前
1.8k star 的开源 token 使用量监控神器— TokenTracker
人工智能·ai编程
Setsuna_F_Seiei11 小时前
前端转型 Agent 开发 06 之 Agent Memory 记忆系统(让 Agent 更智能,更懂你)
前端·agent·ai编程
孟健13 小时前
Qwen3.8-27B 本地推理实测:从 14 tok/s 到 159 tok/s 的投机解码调优
人工智能·llm·ai编程
全栈弄潮儿17 小时前
30 天总结:从“会用 AI”到“拥有 AI 开发系统”
aigc·openai·ai编程
xiaozongt198917 小时前
AI代码学习-Function Calling + ReAct
agent·ai编程
ServBay17 小时前
如何用 AI Agent 构建全栈应用(2026版)
后端·ai编程