本地部署 Open WebUI,实现完全离线 AI 对话

1 前言

 Open WebUI(原 Ollama WebUI)是一款开源、可自托管、支持完全离线的大语言模型(LLM)交互 Web 平台,主打私有化部署与隐私安全,提供跟AI大模型的流畅对话体验。

2 搭建过程

(1)本地部署

在centos上通过如下命令启动docker:

systemctl start docker

配置镜像源

vi /etc/docker/daemon.json { "registry-mirrors": "https://mirror.tuna.tsinghua.edu.cn/" }

下载open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

(2)访问页面

打开open-webui的网址,使用如下网址和端口访问:

http://x.x.x.x:3000/![](https://i-blog.csdnimg.cn/direct/9d9146184f254a949512c516023bd290.png)

填写名称、电子邮箱、密码等信息

点击确认,开始使用

(3)配置

点击配置,填写ollama相关的连接地址和端口

在ollma中下载你想要的模型

在open-webui中查看,就能看到你下载的大模型

(4)开始使用

通过直接输入你想要做的事情

例如:帮我写一个烟花绽放的html脚本,烟花自动升向空中,并绽放开来,烟花是五颜六色的,要考虑色彩搭配

当然,这也跟硬件和大模型有关系,如果硬件越好,大模型越智能,回答的速度还会更快一点,其实这就是一个ollama大模型的使用页面,不过这个我感觉挺好用的,接下来,我将继续研究用这个搭建一个属于自己的AI Agent。

相关推荐
myaifas3 小时前
如何选择智能体可视化设计的平台
人工智能·ai·ai编程
VIP_CQCRE3 小时前
在 Visual Studio 里接入 Ace Data Cloud:用 LMLocal 快速获得 AI 编程能力
openai·ai编程·visual studio·ace data cloud·lmlocal
Epat3 小时前
关于我是如何将 DeepSeek Harness 改造成一支AI团队
agent·ai编程·deepseek
wangruofeng3 小时前
AI 开始自己改进自己:智谱在十万卡集群上,让 AI 两周把效率提了 3 倍
aigc·openai·ai编程
zhangfeng11333 小时前
cann 华为npu 算子开发直接访问L2高速缓存 的可行性分析
人工智能·ai编程·算子·npu·cann
plainGeekDev3 小时前
Harness 从"建议"到"强制":CLAUDE.md 为什么不够,Hooks 才是底线
aigc·ai编程·claude
名不经传的养虾人4 小时前
从0到1:企业级AI项目迭代日记 Vol.110|协作有了预算,延迟有了归因,知识有了保真
大数据·人工智能·机器人·ai编程·企业ai
FEF前端团队5 小时前
03# Claude Code实战:终端里的逻辑引擎
前端·ai编程·claude
FEF前端团队5 小时前
04# Codex CLI实战:OpenAI的编程代理
前端·chatgpt·ai编程