Open WebUI 从零到一:打造属于你的私人ChatGPT

目录

  • [前言:为什么你需要Open WebUI?](#前言:为什么你需要Open WebUI?)
  • 第一阶段:准备环境与硬件
  • [第二阶段:安装 Open WebUI](#第二阶段:安装 Open WebUI)
  • [第三阶段:Open WebUI 使用](#第三阶段:Open WebUI 使用)

前言:为什么你需要Open WebUI?

一句话定义:Open WebUI是一个开源的、可自托管的类ChatGPT网页界面,让你用浏览器就能和本地大模型流畅对话,同时完全掌控自己的数据。

第一阶段:准备环境与硬件


  • Open WebUI只是一个交互页面,所以保证本地可以成功运行大模型,并且开放接口
  • 已经安装docker,便于部署Open WebUI

第二阶段:安装 Open WebUI


Docker是所有部署方式中最简单、最稳定的,一条命令搞定一切

bash 复制代码
docker run -d -p 3000:8080 
	-v open-webui:/app/backend/data 
	--name open-webui 
	--restart always ghcr.nju.edu.cn/open-webui/open-webui:main

打开浏览器的3000端口:http://IP:3000/,即可访问页面

第三阶段:Open WebUI 使用


进入页面后,注册用户自动成为管理员,随便填写即可,不会校验

本地成功运行大模型(例如使用vLLM加载模型),点击页面左上方的添加模型

点击左侧的外部连接,在URL文本框输入我们的对话地址,只需要写到v1即可。密钥随便填写即可,点击右侧的按钮可以测试地址是否通畅,最后点击保存。

对于不同的模型,可以分别编辑其参数或者提示词,在该页面编辑的参数和提示词对于整个模型的所有对话都生效,最后点击下方的保存更新

配置好模型地址以及参数后,回到主页面,便可以选择模型进行对话。

如果只需要更改当前轮次的参数和提示词,点击对话页面右侧的对话高级设置即可

相关推荐
无籽西瓜a1 小时前
Plan-and-Execute 里的 DAG 是怎么工作的
java·后端·ai·agent·dag
keyipatience1 小时前
命名管道:跨进程通信的终极指南
linux·运维·服务器
searchforAI1 小时前
坚持用AI做笔记,我的知识留存与学习速度大幅提升
人工智能·笔记·学习·ai·知识图谱·知识管理
Ztopcloud极拓云视角3 小时前
ChatGPT超级应用改版技术解析:Codex集成架构与多模型路由实战
人工智能·chatgpt·架构
c2385610 小时前
Linux C++ 进度条进阶美化与工程化封装
linux·运维·服务器
周航宇JoeZhou11 小时前
JB3-9-SpringAI(二)
java·ai·agent·多智能体·调度·智能体·观察
Tbisnic11 小时前
AI大模型学习第十一天:技术选型、安全防护与金融实战
python·学习·ai·大模型·提示词工程
AI工具挖掘机11 小时前
Codex 桌面版上手:从安装到自己开发首个小游戏,0 基础快速入门,手把手教学
经验分享·ai·ai编程
凉菜凉凉11 小时前
AI时代,被抛弃的前端
前端·ai