前言
Open-WebUI 是一款专为大模型设计的开源可视化交互工具,它通过类 ChatGPT 的直观界面,让用户无需代码即可管理、调试和调用本地或云端的大语言模型(LLMs),成为私有化部署的便捷工具,本文将介绍如何部署并使用Open-WebUI。
虚拟环境安装配置
安装conda
首先要安装conda环境,windows环境下从官网中下载适合自身系统的conda按照指引下载即可 conda官网:anaconda.org/anaconda/co...
Linux环境下conda的安装可以参照 配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境或Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境完成配置
创建虚拟环境并安装Open-WebUI
clike
conda create -n openwebui python=3.11 -y
conda activate openwebui
注意这里python版本为3.11,低版本的直接采用pip安装会报错 随后直接使用pip方式安装即可
clike
pip install open-webui
安装ollama
ollama的安装参照探索大语言模型(LLM):Ollama快速安装部署及使用(含Linux环境下离线安装),本文不再赘述
启动服务
等待安装完成后 输入命令
bash
open-webui serve
访问localhost:8080
即可
初次登陆可以创建管理员账号