ollama+open-webui搭建可视化大模型聊天

一、ollama后端环境搭建

ollama官网: Ollama

官网下载地址:Download Ollama on Windows

github下载地址:https://github.com/ollama/ollama/releases

ollama官网模型列表:

复制代码
https://ollama.com/search

安装完成后在控制台运行模型:

复制代码
ollama run qwen3:0.6b

huggingface的GGUF模型部署

下载可能会遇到网络卡住的问题参考解决:

Error: max retries exceeded: Get "https://huggingface.co 关于Ollama无法下载模型小文件的解决办法_hf.co 拉取模型报错-CSDN博客

二、open-webui前端环境搭建

conda环境安装参考:

复制代码
https://blog.csdn.net/Q_fairy/article/details/129158178

web-webui的github地址:GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

使用下面地址下载:

复制代码
git clone https://github.com/open-webui/open-webui

cd open-webui/
#创建python环境
conda create -n open-webui python=3.11

conda activate open-webui

#安装完整后执行下面命令
pip install open-webui

# 启动服务
OLLAMA_BASE_URL=http://127.0.0.1:11434 DEFAULT_MODEL=llama3 open-webui serve --host 0.0.0.0 --port 8000

执行启动命令后会有点卡

出现这个页面后会卡一会

这个说明启动完成,然后在浏览器启动:

复制代码
http://localhost:8000/
相关推荐
轻松,带微笑11 小时前
AI竞争进入下半场:微软押注专业模型,通用大模型不再是唯一答案
人工智能·microsoft
哈尔滨张谦蛋11 小时前
兰州大学 · 甘肃省可穿戴装备重点实验室 · 2027年博士招生
人工智能·深度学习
MysTic_Zhong11 小时前
【3】核心引擎:LangGraph 编排与多路召回重排
人工智能·agent
vivo互联网技术11 小时前
研发数字人 Agent:从 0 到 1 的架构与实践
人工智能·agent·mcp
练习两年半的攻城狮11 小时前
企业级 AI Agent 架构知识点讲解(一):从知识型到业务型,从 LangGraph 到生产落地
人工智能·架构
Cosolar11 小时前
从 50ms 到 3 分钟:淘特动线 Agent 如何把 LLM 塞进一个有预算约束的实时系统
人工智能·后端·agent
Cosolar11 小时前
拆开「研发数字人」:一个 Agent 系统真正的护城河,是被结构化的判断力
人工智能·后端·架构
艾莉丝努力练剑12 小时前
【QT】系统相关:TCP的API介绍
开发语言·前端·c++·人工智能·qt·学习·tcp/ip
AI英德西牛仔12 小时前
智谱清言导出word指令失效?PC端深度用户正在用“AI导出鸭”重构内容归档流
人工智能·重构·word·excel·deepseek·ai导出鸭