1 前言
Open WebUI(原 Ollama WebUI)是一款开源、可自托管、支持完全离线的大语言模型(LLM)交互 Web 平台,主打私有化部署与隐私安全,提供跟AI大模型的流畅对话体验。
2 搭建过程
(1)本地部署
在centos上通过如下命令启动docker:
systemctl start docker
配置镜像源
vi /etc/docker/daemon.json { "registry-mirrors": "https://mirror.tuna.tsinghua.edu.cn/" }
下载open-webui
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

(2)访问页面
打开open-webui的网址,使用如下网址和端口访问:
http://x.x.x.x:3000/
填写名称、电子邮箱、密码等信息
点击确认,开始使用
(3)配置
点击配置,填写ollama相关的连接地址和端口
在ollma中下载你想要的模型
在open-webui中查看,就能看到你下载的大模型
(4)开始使用
通过直接输入你想要做的事情
例如:帮我写一个烟花绽放的html脚本,烟花自动升向空中,并绽放开来,烟花是五颜六色的,要考虑色彩搭配
当然,这也跟硬件和大模型有关系,如果硬件越好,大模型越智能,回答的速度还会更快一点,其实这就是一个ollama大模型的使用页面,不过这个我感觉挺好用的,接下来,我将继续研究用这个搭建一个属于自己的AI Agent。