生成一个AI开源工具体验标题，只需要一个标题，不需要其他的任何文本。

AI开源工具实操体验：解锁本地智能新玩法

在云端大模型风靡的今天，把大模型"搬回家"的本地化部署正成为开发者圈的新潮流。本文将带你实操两款主流开源工具------Ollama 与 Open WebUI，从零搭建一套完全离线、私密可控的本地 AI 助手，并附上可直接运行的代码演示。

一、为什么选择本地部署

数据安全：对话与文件不出本机，规避敏感信息外泄风险。
零成本调用：无限次推理，无需按 Token 付费。
自由定制：可微调、可剪枝，真正拥有你的模型。

二、环境准备

以 Ubuntu 22.04 + Python 3.10 为例，确保已安装 Git 与 Docker（可选）。

bash 复制代码

# 安装 Ollama
curl -fsSL [https://ollama.com/install.sh](https://ollama.com/install.sh) | sh

# 拉取开源模型（以 Qwen2.5-7B 为例）
ollama pull qwen2.5:7b

三、核心代码演示

1. 命令行交互

bash 复制代码

ollama run qwen2.5:7b "用三句话介绍什么是强化学习"

2. Python 调用 API

python 复制代码

import requests

response = requests.post(
    "[http://localhost:11434/api/generate](http://localhost:11434/api/generate)",
    json={
        "model": "qwen2.5:7b",
        "prompt": "写一段关于本地 AI 部署优势的总结",
        "stream": False
    }
)
print(response.json()["response"])

3. 使用官方 SDK

python 复制代码

from ollama import chat

res = chat(
    model="qwen2.5:7b",
    messages=[{"role": "user", "content": "解释一下 Tokenizer 的作用"}]
)
print(res.message.content)

四、搭建可视化界面

纯命令行不够直观，用 Open WebUI 打造类 ChatGPT 的网页体验：

bash 复制代码

docker run -d -p 3000:8080 \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=[http://host.docker.internal:11434](http://host.docker.internal:11434) \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

启动后访问 [http://localhost:3000](http://localhost:3000)，注册账号即可在浏览器中对话、上传文档做知识库检索。

五、性能优化技巧

量化模型 ：ollama pull qwen2.5:7b-q4_K_M 大幅降低显存占用。
指定显卡 ：CUDA_VISIBLE_DEVICES=0 ollama serve。
并发控制 ：通过 OLLAMA_NUM_PARALLEL=4 提升吞吐。

六、小结

通过 Ollama + Open WebUI，不到十分钟就能拥有一套功能完备的本地 AI 工作台，兼顾隐私、成本与可控性。开源的力量，让每个人都能亲手点亮属于自己的智能之光。

海量精选技术文档和实战案例持续更新，敬请关注【风骏时光少年】