Open WebUI 从零到一:打造属于你的私人ChatGPT

目录

  • [前言:为什么你需要Open WebUI?](#前言:为什么你需要Open WebUI?)
  • 第一阶段:准备环境与硬件
  • [第二阶段:安装 Open WebUI](#第二阶段:安装 Open WebUI)
  • [第三阶段:Open WebUI 使用](#第三阶段:Open WebUI 使用)

前言:为什么你需要Open WebUI?

一句话定义:Open WebUI是一个开源的、可自托管的类ChatGPT网页界面,让你用浏览器就能和本地大模型流畅对话,同时完全掌控自己的数据。

第一阶段:准备环境与硬件


  • Open WebUI只是一个交互页面,所以保证本地可以成功运行大模型,并且开放接口
  • 已经安装docker,便于部署Open WebUI

第二阶段:安装 Open WebUI


Docker是所有部署方式中最简单、最稳定的,一条命令搞定一切

bash 复制代码
docker run -d -p 3000:8080 
	-v open-webui:/app/backend/data 
	--name open-webui 
	--restart always ghcr.nju.edu.cn/open-webui/open-webui:main

打开浏览器的3000端口:http://IP:3000/,即可访问页面

第三阶段:Open WebUI 使用


进入页面后,注册用户自动成为管理员,随便填写即可,不会校验

本地成功运行大模型(例如使用vLLM加载模型),点击页面左上方的添加模型

点击左侧的外部连接,在URL文本框输入我们的对话地址,只需要写到v1即可。密钥随便填写即可,点击右侧的按钮可以测试地址是否通畅,最后点击保存。

对于不同的模型,可以分别编辑其参数或者提示词,在该页面编辑的参数和提示词对于整个模型的所有对话都生效,最后点击下方的保存更新

配置好模型地址以及参数后,回到主页面,便可以选择模型进行对话。

如果只需要更改当前轮次的参数和提示词,点击对话页面右侧的对话高级设置即可

相关推荐
wflynn16 分钟前
Codex CLI 0.157.0 自动启动守护进程引发用户争议
ai·技术
脚踏实地,坚持不懈!16 分钟前
Linux 内存回收机制:水位线、kswapd 与 Direct Reclaim
linux·jvm·算法
熊猫钓鱼>_>17 分钟前
告别手工贴发票:增值税发票识别+核验,搭一条报销自动化流水线
人工智能·ai·职场和发展·自动化·大模型·llm·agent
SKH.19 分钟前
Linux驱动-key、中断
linux·运维·服务器
小龙报21 分钟前
【零到全栈】从扩展名到终端实操,打通 Linux 基础
linux·ubuntu·云原生·职场和发展·创业创新·学习方法·程序员创富
死磕音视频23 分钟前
新手做 AI 短视频不再抓瞎:灵感→提示词→分镜→生成→剪辑 五步工作流详解
chatgpt·aigc·短视频·ai视频
云卷云舒___________25 分钟前
Opus 5.5暗路由Fable 5.5 ?!Kimi K3.1泄露!Gemini 4 Argon曝光!GPT-6遭降级? | 10月12日 AI日报
ai·kimi·ai日报·gpt6·gemini4·opus55·k31
星恒随风32 分钟前
Linux进程间通信(一):从匿名管道、命名管道到进程池,深入理解Pipe、FIFO与文件描述符
linux·运维·笔记·学习·状态模式
吴佳浩 Alben35 分钟前
一文讲透推理引擎性能指标:TTFT、TPOT、KV命中率、并发,到底对应 vLLM / SGLang 的哪个参数?
人工智能·python·语言模型·架构·ai编程·vllm·sglang
wuminyu1 小时前
ZGC染色指针在虚拟线程stackChunkOop上的并发屏障全景分析
java·linux·c语言·jvm·c++