Ollama + Open WebUI 搭建本地大模型

在本机跑一个可对话的本地大模型。四步搞定。

1. 装 Ollama

去 ollama.com 下载安装(用户级,无需管理员)。装完自动在后台 11434 端口起服务,验证:

复制代码
curl http://127.0.0.1:11434/api/version

2. 装 Open WebUI(Python)

需要 Python 3.11(不支持 3.12+)。

复制代码
# 建隔离环境
uv venv open-webui-venv --python 3.11
​
# 装(用清华镜像,直连 pypi 可能失败)
VIRTUAL_ENV="$(pwd)/open-webui-venv" \
  uv pip install open-webui --index-url https://pypi.tuna.tsinghua.edu.cn/simple

没有 uv 也可以用 pip:pip install open-webui。

3. 下模型

复制代码
curl -X POST http://127.0.0.1:11434/api/pull -d '{"name":"qwen2.5-coder:7b"}'

常用模型:qwen2.5:3b(小而快)、qwen2.5-coder:7b(代码,约 4.5GB)。核显机器走 CPU,别拉 14B+。

4. 启动

复制代码
open-webui-venv/Scripts/open-webui serve --port 3000

浏览器打开 http://localhost:3000 → 注册账号(第一个即管理员)→ 选模型开聊。

关机后 Open WebUI 不自启,重开跑一下启动命令即可。

复制代码
相关推荐
水如烟5 小时前
孤能子视角:通用智能 vs 分工协同智能群系统–––集中结晶 vs 分布式结晶
人工智能
罗西的思考5 小时前
【轻量化复现大模型 / KIMI K3】训练模块梳理 & Muon P2P 优化器
人工智能·深度学习·机器学习
lilihuigz5 小时前
权限配置:WordPress 7.2 Abilities API 权限、输入验证与 JSON 输出指南
人工智能
杨凯凡5 小时前
IT日报|2026-11-20:欧盟 AI 网络攻击、Valkey 9.2、GitHub 企业迁移
人工智能·github
鲁邦通物联网6 小时前
机器人梯控到站状态机设计:楼层匹配、事件时序与任务判断
人工智能·机器人·机器人梯控·agv梯控·非侵入式采集·机器人乘梯·机器人自主乘梯
静水深码6 小时前
文生图提示词的工程师写法:把玄学话术拆成结构化模板
人工智能·后端·代码规范
Seiran6 小时前
Claude Fable 5.1写技术方案,ZEEKEAI提效实录
人工智能
JonaHu6 小时前
GPT Image 2.6 多语言海报改版:保留商品细节,分离文案与图像验收
图像处理·人工智能·aigc
wflynn6 小时前
AI 产品 ChatPRD 遭遇 token 欺诈,滥用者用免费试用构建游戏地图
ai·技术
4cos907 小时前
pi学习笔记-BranchSummary
人工智能