探索大语言模型(LLM):Open-WebUI的安装

前言

Open-WebUI 是一款专为大模型设计的开源可视化交互工具,它通过类 ChatGPT 的直观界面,让用户无需代码即可管理、调试和调用本地或云端的大语言模型(LLMs),成为私有化部署的便捷工具,本文将介绍如何部署并使用Open-WebUI。

虚拟环境安装配置

安装conda

首先要安装conda环境,windows环境下从官网中下载适合自身系统的conda按照指引下载即可 conda官网:anaconda.org/anaconda/co...

Linux环境下conda的安装可以参照 配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境或Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境完成配置

创建虚拟环境并安装Open-WebUI

clike 复制代码
conda create -n openwebui python=3.11 -y
conda activate openwebui

注意这里python版本为3.11,低版本的直接采用pip安装会报错 随后直接使用pip方式安装即可

clike 复制代码
pip install open-webui

安装ollama

ollama的安装参照探索大语言模型(LLM):Ollama快速安装部署及使用(含Linux环境下离线安装),本文不再赘述

启动服务

等待安装完成后 输入命令

bash 复制代码
open-webui serve

访问localhost:8080即可 初次登陆可以创建管理员账号

相关推荐
blxr_1 分钟前
力扣hot100爬楼梯https://leetcode.cn/problems/climbing-stairs/
算法·leetcode·职场和发展
袁俪3 分钟前
视频生成技术
人工智能
pride.li4 分钟前
ISP标定-NR标定(Noise Reduction,降噪校准)
算法·计算机视觉·isp
孟健13 分钟前
Gemini 4 Argon 对比 GPT-6 Astra:百万 Token 输出很诱人,但我劝你先别迁编程工作流
人工智能·llm·ai编程
上弦外贸新观察19 分钟前
为什么你的外贸官网内容很多,ChatGPT却不推荐?海外GEO优化的几个关键问题
人工智能·chatgpt
CQU_JIAKE22 分钟前
9.29【A】
算法·深度优先
火山引擎边缘云27 分钟前
从“看见文字”到“读懂画面”:AI MediaKit 如何实现视频字幕无痕擦除
人工智能·音视频
喵叔哟28 分钟前
企业知识库 RAG 检索设计,三层召回如何兼顾精度与召回率
人工智能
算家云29 分钟前
doubao-seed-2-1 系列模型上架算桥 API | 多模态理解能力继续加强!
人工智能·api·token·算力租赁·算力平台
程序员清风36 分钟前
企业级 AI 中台架构:模型、知识库、Agent 与业务系统
人工智能·架构