Open WebUI 从零到一:打造属于你的私人ChatGPT

目录

  • [前言:为什么你需要Open WebUI?](#前言:为什么你需要Open WebUI?)
  • 第一阶段:准备环境与硬件
  • [第二阶段:安装 Open WebUI](#第二阶段:安装 Open WebUI)
  • [第三阶段:Open WebUI 使用](#第三阶段:Open WebUI 使用)

前言:为什么你需要Open WebUI?

一句话定义:Open WebUI是一个开源的、可自托管的类ChatGPT网页界面,让你用浏览器就能和本地大模型流畅对话,同时完全掌控自己的数据。

第一阶段:准备环境与硬件


  • Open WebUI只是一个交互页面,所以保证本地可以成功运行大模型,并且开放接口
  • 已经安装docker,便于部署Open WebUI

第二阶段:安装 Open WebUI


Docker是所有部署方式中最简单、最稳定的,一条命令搞定一切

bash 复制代码
docker run -d -p 3000:8080 
	-v open-webui:/app/backend/data 
	--name open-webui 
	--restart always ghcr.nju.edu.cn/open-webui/open-webui:main

打开浏览器的3000端口:http://IP:3000/,即可访问页面

第三阶段:Open WebUI 使用


进入页面后,注册用户自动成为管理员,随便填写即可,不会校验

本地成功运行大模型(例如使用vLLM加载模型),点击页面左上方的添加模型

点击左侧的外部连接,在URL文本框输入我们的对话地址,只需要写到v1即可。密钥随便填写即可,点击右侧的按钮可以测试地址是否通畅,最后点击保存。

对于不同的模型,可以分别编辑其参数或者提示词,在该页面编辑的参数和提示词对于整个模型的所有对话都生效,最后点击下方的保存更新

配置好模型地址以及参数后,回到主页面,便可以选择模型进行对话。

如果只需要更改当前轮次的参数和提示词,点击对话页面右侧的对话高级设置即可

相关推荐
Dawson Zhu19 分钟前
【Runtime推理引擎④】多流并发执行:用Stream+Event让计算与通信重叠
人工智能·语言模型·架构·aigc·agi
z06.36 分钟前
Linux系统中MySQL的安装
linux·mysql
wzg201641 分钟前
ubuntu通过docker镜像部署安装onlyoffice
linux·ubuntu·docker
echome8881 小时前
Linux 定时任务:crontab 写法与常见失效原因
linux·运维·网络·定时任务·crontab
jerrywus1 小时前
普通人怎么用 Codex:从表格、文件和小工具开始
chatgpt·agent·mcp
老约家的可汗1 小时前
Linux开发三件套:make、git、gdb 入门指南
linux·运维·服务器
wflynn1 小时前
Mistral Large 4发布,万亿参数模型的编码与安全实测数据
ai·技术
日日大王学编程1 小时前
AI 时代后端方向新人的未来规划与看法
人工智能·后端·python·ai·golang
Sw1zzle2 小时前
Go入门(零):Linux Ubuntu 22.04 安装 Go
linux·ubuntu·golang
device_Any2 小时前
接口文档写着三个字段,接口返回了五个
android·java·linux