Ollama介绍
Ollama 是一个开源的本地大模型运行工具,主要作用是让你在自己电脑上一键下载、运行和管理开源大模型(如 Gemma、Qwen、DeepSeek 等),无需联网调用云端 API,数据不出本机,还提供 OpenAI 兼容的本地 API 接口。
核心特点
-
一条命令即可下载并运行模型:
ollama run 模型名 -
跨平台:Windows /macOS/ Linux 都支持
-
有官方模型库(ollama.com/library),模型自动管理
-
自带本地 API 服务(默认端口 11434),方便配合代码调用

安装Ollama
方法一:官网安装 Download Ollama
方法二:国内镜像 ghproxy
https://mirror.ghproxy.com/https://github.com/ollama/ollama/releases/latest/download/OllamaSetup.exe
ghproxy 是开源 GitHub 加速镜像,文件原版,安全
方法三:国内镜像 cnb.cool
https://cnb.cool/hex/ollama/-/releases/latest/download/OllamaSetup.exe
下载完成后校验:文件名称 OllamaSetup.exe,就是官方原版安装包。
安装模型
由于国内下载拉取模型慢(ollama pull 模型名),所以使用镜像网站下载模型
步骤一:完全退出 Ollama
Ollama安装完成后,右下角托盘找到 Ollama 图标,右键 → Quit Ollama,彻底退出。
步骤二:新建 config.json 镜像配置文件
文件管理器地址栏直接粘贴下面路径,回车打开:
%USERPROFILE%\.ollama
如果提示找不到文件夹 → 在空白处右键 → 新建文件夹,命名 .ollama
在 .ollama 文件夹里面,新建文本文档,把下面内容复制进去:
{
"registry": {
"mirrors": {
"registry.ollama.ai": "https://ollama.modelscope.cn"
}
}
}
保存文件,重命名文件为 config.json(不要带.txt后缀)
备选模型镜像源(如果魔搭不稳定)
-
浙大镜像:
https://ollama.zju.edu.cn -
DeepSeek 镜像:
https://ollama.deepseek.com
切换方法:修改 config.json 里面的 mirror 地址即可。
步骤 三:(可选,C 盘不够需要做)设置模型保存到 D 盘
-
Win+R 输入
sysdm.cpl→ 高级 → 环境变量 -
用户变量 → 新建
-
变量名:
OLLAMA_MODELS -
变量值:
D:\ollama-models(D 盘这个文件夹会自动生成)
- 全部点确定保存。
或者在 Ollama settings设置里 将 Model location 设置在D盘
然后重启Ollama,在开始菜单打开 Ollama,托盘图标重新出现,镜像配置加载完成
步骤 四:下载模型
可以在 Ollama Search Models 查找要下载的模型名
打开 PowerShell / CMD,拉取 要安装的模型(以 gemma4:e4b模型为例**)**
ollama pull gemma4:e4b
此时下载流量走魔搭国内服务器,速度大幅提升;支持断点续传,断了直接再次执行这条命令。
下载完成校验:
ollama list
列表看到 gemma4:e4b 代表下载成功。
运行模型开始对话:
ollama run gemma4:e4b
输入问题直接对话,/bye 退出对话窗口。
Ollama常用命令
|-----------------------|-------------|
| 命令 | 作用 |
| ollama list | 查看已下载的模型 |
| ollama pull 模型名 | 只下载模型不运行 |
| ollama run 模型名 | 运行模型进入对话 |
| ollama rm 模型名 | 删除模型 |
| ollama serve | 启动本地 API 服务 |
| ollama stop 模型名 | 停止正在运行的模型 |
查看当前正在运行模型:ollama ps