探索大语言模型(LLM):Open-WebUI的安装

前言

Open-WebUI 是一款专为大模型设计的开源可视化交互工具,它通过类 ChatGPT 的直观界面,让用户无需代码即可管理、调试和调用本地或云端的大语言模型(LLMs),成为私有化部署的便捷工具,本文将介绍如何部署并使用Open-WebUI。

虚拟环境安装配置

安装conda

首先要安装conda环境,windows环境下从官网中下载适合自身系统的conda按照指引下载即可 conda官网:anaconda.org/anaconda/co...

Linux环境下conda的安装可以参照 配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境完成配置

创建虚拟环境并安装Open-WebUI

clike 复制代码
conda create -n openwebui python=3.11 -y
conda activate openwebui

注意这里python版本为3.11,低版本的直接采用pip安装会报错 随后直接使用pip方式安装即可

clike 复制代码
pip install open-webui

安装ollama

ollama的安装参照探索大语言模型(LLM):Ollama快速安装部署及使用(含Linux环境下离线安装),本文不再赘述

启动服务

等待安装完成后 输入命令

bash 复制代码
open-webui serve

访问localhost:8080即可 初次登陆可以创建管理员账号

相关推荐
大江东去浪淘尽千古风流人物19 小时前
【DSP】向量化操作的误差来源分析及其经典解决方案
linux·运维·人工智能·算法·vr·dsp开发·mr
陀螺财经19 小时前
加密热潮“席卷”美国军界
大数据·人工智能·区块链
梦星辰.19 小时前
强化学习:贝尔曼方程
人工智能
Unstoppable2219 小时前
代码随想录算法训练营第 56 天 | 拓扑排序精讲、Dijkstra(朴素版)精讲
java·数据结构·算法·
打码人的日常分享20 小时前
智慧城市一网统管建设方案,新型城市整体建设方案(PPT)
大数据·运维·服务器·人工智能·信息可视化·智慧城市
Sui_Network20 小时前
21shares 在纳斯达克推出 2 倍 SUI 杠杆 ETF(TXXS)
大数据·人工智能·游戏·金融·区块链
龙亘川20 小时前
开箱即用的智慧城市一网统管 AI 平台——功能模块详解(3)
大数据·人工智能·智慧城市·智慧城市一网统管 ai 平台
Michaelwubo20 小时前
tritonserver 推理框架
人工智能
饕餮怪程序猿20 小时前
A*算法(C++实现)
开发语言·c++·算法
电饭叔20 小时前
不含Luhn算法《python语言程序设计》2018版--第8章14题利用字符串输入作为一个信用卡号之二(识别卡号有效)
java·python·算法