探索大语言模型(LLM):Open-WebUI的安装

前言

Open-WebUI 是一款专为大模型设计的开源可视化交互工具,它通过类 ChatGPT 的直观界面,让用户无需代码即可管理、调试和调用本地或云端的大语言模型(LLMs),成为私有化部署的便捷工具,本文将介绍如何部署并使用Open-WebUI。

虚拟环境安装配置

安装conda

首先要安装conda环境,windows环境下从官网中下载适合自身系统的conda按照指引下载即可 conda官网:anaconda.org/anaconda/co...

Linux环境下conda的安装可以参照 配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境完成配置

创建虚拟环境并安装Open-WebUI

clike 复制代码
conda create -n openwebui python=3.11 -y
conda activate openwebui

注意这里python版本为3.11,低版本的直接采用pip安装会报错 随后直接使用pip方式安装即可

clike 复制代码
pip install open-webui

安装ollama

ollama的安装参照探索大语言模型(LLM):Ollama快速安装部署及使用(含Linux环境下离线安装),本文不再赘述

启动服务

等待安装完成后 输入命令

bash 复制代码
open-webui serve

访问localhost:8080即可 初次登陆可以创建管理员账号

相关推荐
努力学习的小廉9 分钟前
我爱学算法之—— 分治-归并
c++·算法·1024程序员节
yanxing.D13 分钟前
penCV轻松入门_面向python(第七章 图像平滑处理)
图像处理·人工智能·opencv·计算机视觉
Gorgous—l18 分钟前
数据结构算法学习:LeetCode热题100-链表篇(下)(随机链表的复制、排序链表、合并 K 个升序链表、LRU 缓存)
数据结构·学习·算法
仰泳的熊猫19 分钟前
LeetCode:200. 岛屿数量
数据结构·c++·算法·leetcode
流星52112219 分钟前
GC 如何判断对象该回收?从可达性分析到回收时机的关键逻辑
java·jvm·笔记·学习·算法
defaulter25 分钟前
Codeforces Round 1049 (Div. 2)C. Ultimate Value
算法·codeforces
骥龙35 分钟前
1.1、开篇:AI如何重塑网络安全攻防格局?
人工智能·安全·web安全
微学AI37 分钟前
国产数据库替代MongoDB的技术实践过程:金仓多模数据库在电子证照系统中的深度应用
数据库·人工智能·1024程序员节
gddkxc1 小时前
AI驱动的客户管理:悟空AI CRM的核心功能与优势
人工智能
让我们一起加油好吗1 小时前
【数论】费马小定理
c++·算法·数论·1024程序员节·费马小定理·逆元