本地部署 Open WebUI,实现完全离线 AI 对话

1 前言

 Open WebUI(原 Ollama WebUI)是一款开源、可自托管、支持完全离线的大语言模型(LLM)交互 Web 平台,主打私有化部署与隐私安全,提供跟AI大模型的流畅对话体验。

2 搭建过程

(1)本地部署

在centos上通过如下命令启动docker:

systemctl start docker

配置镜像源

vi /etc/docker/daemon.json { "registry-mirrors": "https://mirror.tuna.tsinghua.edu.cn/" }

下载open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

(2)访问页面

打开open-webui的网址,使用如下网址和端口访问:

http://x.x.x.x:3000/![](https://i-blog.csdnimg.cn/direct/9d9146184f254a949512c516023bd290.png)

填写名称、电子邮箱、密码等信息

点击确认,开始使用

(3)配置

点击配置,填写ollama相关的连接地址和端口

在ollma中下载你想要的模型

在open-webui中查看,就能看到你下载的大模型

(4)开始使用

通过直接输入你想要做的事情

例如:帮我写一个烟花绽放的html脚本,烟花自动升向空中,并绽放开来,烟花是五颜六色的,要考虑色彩搭配

当然,这也跟硬件和大模型有关系,如果硬件越好,大模型越智能,回答的速度还会更快一点,其实这就是一个ollama大模型的使用页面,不过这个我感觉挺好用的,接下来,我将继续研究用这个搭建一个属于自己的AI Agent。

相关推荐
ndz2 分钟前
PixVerse 768 个官方特效模板:Playground 预览,再用 API 批量出视频
ai编程
LV技术派3 小时前
肝了一周,我把 Super Agent 的架构融入到了我的 AI Native 工作台中
aigc·ai编程
孟健4 小时前
用 unslop 拯救 AI 生成网页的塑料感,7 分钟重构落地实测
前端·人工智能·ai编程
工程小白菜7 小时前
ai-code-review 全链路:让 AI 来审 AI 的代码
ci/cd·ai编程
小虎AI生活8 小时前
8万星开源HyperFrames,我用WorkBuddy免费模型做了3条视频
aigc·ai编程
AI大模型-小华12 小时前
Codex 自动测试怎么用?从生成测试用例到修复失败用例
git·测试用例·ai编程·软件开发·codex·chatgpt pro·codex cli
huangfuyk12 小时前
前端融入/转后端避坑指南:AI 时代的安全边界、数据防线与实战细节
后端·ai编程
ZzT13 小时前
AI-SDLC 实践 06|开发阶段的知识库:Agent 写代码前该读哪些规则和业务知识
ai编程·claude
Bigger13 小时前
我扒了 GitHub Trending 前 20,8 个在做同一件事:给 Coding Agent 造基础设施
开源·github·ai编程
前端双越老师14 小时前
程序员 1v1 访谈系列第十六期:裸辞后失业半年了
前端·ai编程·全栈