ollama+open-webui搭建可视化大模型聊天

一、ollama后端环境搭建

ollama官网: Ollama

官网下载地址:Download Ollama on Windows

github下载地址:https://github.com/ollama/ollama/releases

ollama官网模型列表:

复制代码
https://ollama.com/search

安装完成后在控制台运行模型:

复制代码
ollama run qwen3:0.6b

huggingface的GGUF模型部署

下载可能会遇到网络卡住的问题参考解决:

Error: max retries exceeded: Get "https://huggingface.co 关于Ollama无法下载模型小文件的解决办法_hf.co 拉取模型报错-CSDN博客

二、open-webui前端环境搭建

conda环境安装参考:

复制代码
https://blog.csdn.net/Q_fairy/article/details/129158178

web-webui的github地址:GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

使用下面地址下载:

复制代码
git clone https://github.com/open-webui/open-webui

cd open-webui/
#创建python环境
conda create -n open-webui python=3.11

conda activate open-webui

#安装完整后执行下面命令
pip install open-webui

# 启动服务
OLLAMA_BASE_URL=http://127.0.0.1:11434 DEFAULT_MODEL=llama3 open-webui serve --host 0.0.0.0 --port 8000

执行启动命令后会有点卡

出现这个页面后会卡一会

这个说明启动完成,然后在浏览器启动:

复制代码
http://localhost:8000/
相关推荐
白-胖-子4 小时前
深入剖析大模型在文本生成式 AI 产品架构中的核心地位
人工智能·架构
想要成为计算机高手6 小时前
11. isaacsim4.2教程-Transform 树与Odometry
人工智能·机器人·自动驾驶·ros·rviz·isaac sim·仿真环境
静心问道6 小时前
InstructBLIP:通过指令微调迈向通用视觉-语言模型
人工智能·多模态·ai技术应用
宇称不守恒4.07 小时前
2025暑期—06神经网络-常见网络2
网络·人工智能·神经网络
小楓12017 小时前
醫護行業在未來會被AI淘汰嗎?
人工智能·醫療·護理·職業
数据与人工智能律师7 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据·网络·人工智能·云计算·区块链
chenchihwen7 小时前
大模型应用班-第2课 DeepSeek使用与提示词工程课程重点 学习ollama 安装 用deepseek-r1:1.5b 分析PDF 内容
人工智能·学习
说私域7 小时前
公域流量向私域流量转化策略研究——基于开源AI智能客服、AI智能名片与S2B2C商城小程序的融合应用
人工智能·小程序
Java樱木8 小时前
AI 编程工具 Trae 重要的升级。。。
人工智能
凪卄12138 小时前
图像预处理 二
人工智能·python·深度学习·计算机视觉·pycharm