使用Ollama部署自己的本地模型

说明

服务器版本:CentOS10

Ollama版本:v0.11.6

下载模型

访问ollama官网

官网地址:Ollama Search 搜索需要的模型,这里以deepseek-r1为例

选择需要的模型版本

下载模型

这里以deepseek-r1:14b为例,下载速度取决于个人网速快慢

复制代码
ollama pull deepseek-r1:14b

启动模型

等到模型下载完成后,启动模型

复制代码
ollama run deepseek-r1:14b

模型启动之后可以直接在控制台和模型进行交互

查看运行中的模型

复制代码
ollama ps

ollama 常用命令

查看已下载的模型

复制代码
ollama list

查看运行中的模型

复制代码
ollama ps

停止运行中的模型

复制代码
ollama stop <model-name>
# 例如
ollama stop deepseek-r1:14b

删除下载的模型

复制代码
ollama rm <model-name>
# 例如
ollama rm deepseer-r1:14b

其他命令

使用ollama --help可以查看所有提供的命令,以及如何使用

复制代码
ollama --help

Ollama API

生成聊天内容

复制代码
POST /api/chat

调用示例

复制代码
curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-r1:14b",
  "messages": [
    {
      "role": "user",
      "content": "你是谁?"
    }
  ]
}'

响应示例

接口是流式输出,以下仅展示一条数据的结构

复制代码
{
    "model": "deepseek-r1:7b",
    "created_at": "2025-08-23T15:04:12.341768822Z",
    "message": {
        "role": "assistant",
        "content": ""
    },
    "done": false
}

其他API

想要查看ollama提供的api,可以查看github文档,文档中有详细的说明
https://github.com/ollama/ollama/blob/main/docs/api.md

相关推荐
世界是一片荒原10 小时前
给 DeepSeek Harness 做多会话工作台:四格原生会话、Agent 脉络图与压缩预警
deepseek
AI英德西牛仔19 小时前
智谱清言导出word指令失效?PC端深度用户正在用“AI导出鸭”重构内容归档流
人工智能·重构·word·excel·deepseek·ai导出鸭
Jahzo1 天前
DSH 客户端二开实战(四):业务登录如何接入原生桌面与本地 Host
架构·deepseek
小七-七牛开发者1 天前
Anthropic:Agent 不必一直运行,也能持续工作
agent·claude·deepseek·anthropic·alwaysonagent
镰刀韭菜2 天前
2026 年 10 月 Mac 本地大模型:24GB / 64GB / 128GB 怎么选
mac·qwen·apple silicon·ollama·本地llm
Jasonakeke2 天前
Ollama 装好却拉不动模型?八成是这两种病,一种缺网一种缺显存
ai编程·ollama
大模型真好玩2 天前
做好真人分身却不知道拍什么?8个视频应用场景直接抄
人工智能·agent·deepseek
沉默王二3 天前
真狠啊,DeepSeek 开放全家桶 API。
人工智能·agent·deepseek
XLYcmy3 天前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 上
llm·prompt·模糊测试·漏洞修复·漏洞检测·deepseek·消融实验
CS_Zero4 天前
DeepSeek V4.1 Flash 1017 (Batch) 新手极速上手指南
开发语言·batch·deepseek