目录
- [前言:为什么你需要Open WebUI?](#前言:为什么你需要Open WebUI?)
- 第一阶段:准备环境与硬件
- [第二阶段:安装 Open WebUI](#第二阶段:安装 Open WebUI)
- [第三阶段:Open WebUI 使用](#第三阶段:Open WebUI 使用)
前言:为什么你需要Open WebUI?
一句话定义:Open WebUI是一个开源的、可自托管的类ChatGPT网页界面,让你用浏览器就能和本地大模型流畅对话,同时完全掌控自己的数据。
第一阶段:准备环境与硬件
Open WebUI只是一个交互页面,所以保证本地可以成功运行大模型,并且开放接口- 已经安装
docker,便于部署Open WebUI
第二阶段:安装 Open WebUI
Docker是所有部署方式中最简单、最稳定的,一条命令搞定一切
bash
docker run -d -p 3000:8080
-v open-webui:/app/backend/data
--name open-webui
--restart always ghcr.nju.edu.cn/open-webui/open-webui:main
打开浏览器的3000端口:http://IP:3000/,即可访问页面
第三阶段:Open WebUI 使用
进入页面后,注册用户自动成为管理员,随便填写即可,不会校验
本地成功运行大模型(例如使用vLLM加载模型),点击页面左上方的添加模型

点击左侧的外部连接,在URL文本框输入我们的对话地址,只需要写到v1即可。密钥随便填写即可,点击右侧的按钮可以测试地址是否通畅,最后点击保存。

对于不同的模型,可以分别编辑其参数或者提示词,在该页面编辑的参数和提示词对于整个模型的所有对话都生效,最后点击下方的保存更新

配置好模型地址以及参数后,回到主页面,便可以选择模型进行对话。

如果只需要更改当前轮次的参数和提示词,点击对话页面右侧的对话高级设置即可
