探索大语言模型(LLM):Open-WebUI的安装

前言

Open-WebUI 是一款专为大模型设计的开源可视化交互工具,它通过类 ChatGPT 的直观界面,让用户无需代码即可管理、调试和调用本地或云端的大语言模型(LLMs),成为私有化部署的便捷工具,本文将介绍如何部署并使用Open-WebUI。

虚拟环境安装配置

安装conda

首先要安装conda环境,windows环境下从官网中下载适合自身系统的conda按照指引下载即可 conda官网:anaconda.org/anaconda/co...

Linux环境下conda的安装可以参照 配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境完成配置

创建虚拟环境并安装Open-WebUI

clike 复制代码
conda create -n openwebui python=3.11 -y
conda activate openwebui

注意这里python版本为3.11,低版本的直接采用pip安装会报错 随后直接使用pip方式安装即可

clike 复制代码
pip install open-webui

安装ollama

ollama的安装参照探索大语言模型(LLM):Ollama快速安装部署及使用(含Linux环境下离线安装),本文不再赘述

启动服务

等待安装完成后 输入命令

bash 复制代码
open-webui serve

访问localhost:8080即可 初次登陆可以创建管理员账号

相关推荐
安思派Anspire40 分钟前
内容创作的核心变量:从选题判断到系统化生产的再思考 AI 选题及预测工具 百万加 MPlus
人工智能·aigc
探物 AI1 小时前
虾破苍穹(二)·《openclaw功法全书》 [特殊字符]
人工智能·ai编程
IT_陈寒1 小时前
Redis的内存溢出坑把我整懵了,分享这个血泪教训
前端·人工智能·后端
米粒11 小时前
力扣算法刷题 Day 42(股票问题总结)
算法·leetcode·职场和发展
高洁011 小时前
大模型微调进阶:多任务微调实战
人工智能·python·深度学习·机器学习·transformer
Elastic 中国社区官方博客2 小时前
使用 Jina 远程 MCP 服务器的 Agentic 工作流
大数据·运维·人工智能·elasticsearch·搜索引擎·运维开发·jina
机器之心2 小时前
太反差了!那边Claude强制「刷脸」认证,这边国内Coding Plan被外国人疯抢
人工智能·openai
机器之心2 小时前
当AI迈入Harness时代:以MiniMax为样本看智能体云端新基建
人工智能·openai
AEIC学术交流中心2 小时前
【会议征稿通知 | 广州计算机学会主办 | IEEE出版 | EI 、Scopus稳定检索】
人工智能·信息安全·隐私保护·学术会议
强盛小灵通专卖员2 小时前
基于深度学习 的急性阑尾炎CT 影像诊断
人工智能·深度学习·医学影像·ei会议