DeepSeek本地接口调用(Ollama)

前言

上篇博文,我们通过Ollama搭建了本地的DeepSeek模型,本文主要是方便开发人员,如何通过代码或工具,通过API接口调用本地deepSeek模型

前文:DeepSeek-R1本地搭建_deepseek 本地部署-CSDN博客

注:本文不仅仅适用DeepSeek, 通过Ollama安装的模型,都适用

一:Ollama接口

上文中,我们采用ollama来搭建deepSeek r1模型,所有调用本地deepSeek模型,可以使用ollama开放的API来操作。

ollama默认开放端口:11434

ollama接口文档地址:https://github.com/ollama/ollama/blob/main/docs/api.md

里面包含各种接口,包括如下:(访问文档,点击自行选择)

注意:文档是英文,看不懂用浏览器翻一下

二:调用案例(创建聊天)

API文档地址:(参考)https://github.com/ollama/ollama/blob/main/docs/api.md#generate-a-chat-completionhttps://github.com/ollama/ollama/blob/main/docs/api.md#generate-a-chat-completion

接口地址:http://localhost:11434/api/chat

请求方式:POST

请求类型:JSON

请求内容:

复制代码
{
  "model": "deepseek-r1:1.5b",
  "messages": [
    {
      "role": "user",
      "content": "你好?"
    }
  ]
}

注:这里model代码你的模型,content是你要聊天的内容,role指代角色,还要其他参数,请参考官方文档。

POSTMAN访问如下:

三:调用案例(生成请求)

API文档地址:(参考)https://github.com/ollama/ollama/blob/main/docs/api.md#generate-a-completionhttps://github.com/ollama/ollama/blob/main/docs/api.md#generate-a-completion

接口地址:http://localhost:11434/api/generate

请求方式:POST

请求类型:JSON

请求内容:

复制代码
{
  "model": "deepseek-r1:1.5b",
  "prompt": "你好",
  "stream": false
}

注:如果stream设置为false,响应将是单个 JSON 对象

返回结果:

复制代码
{
    "model": "deepseek-r1:1.5b",
    "created_at": "2025-03-04T08:40:06.4879238Z",
    "response": "<think>\n\n</think>\n\n你好!很高兴见到你,有什么我可以帮忙的吗?",
    "done": true,
    "done_reason": "stop",
    "total_duration": 951604700,
    "load_duration": 23765300,
    "prompt_eval_count": 4,
    "prompt_eval_duration": 57000000,
    "eval_count": 17,
    "eval_duration": 870000000
}

POSTMAN:

四:其他API

请参考官方文档:

https://github.com/ollama/ollama/blob/main/docs/api.md

相关推荐
武子康5 小时前
AI研究-119 DeepSeek-OCR PyTorch FlashAttn 2.7.3 推理与部署 模型规模与资源详细分析
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
OpenBayes2 天前
OCR 新范式!DeepSeek 以「视觉压缩」替代传统字符识别;Bald Classification数据集助力高精度人像分类
人工智能·深度学习·分类·数据挖掘·ocr·数据集·deepseek
安如衫2 天前
【学习笔记更新中】Deeplearning.AI 大语言模型后训练:微调与强化学习导论
人工智能·llm·sft·后训练·deepseek
realhuizhu2 天前
周报写了2小时还被挑刺?试试这个AI生成框架
ai提示词·deepseek·工作周报·职场效率·周报生成器
l1t3 天前
利用DeepSeek采用hugeint转字符串函数完善luadbi-duckdb的decimal处理
数据库·lua·c·duckdb·deepseek
闲人编程3 天前
用Python和Telegram API构建一个消息机器人
网络·python·机器人·api·毕设·telegram·codecapsule
課代表3 天前
VB.NET 操作 INI 文件类
api·配置文件·文本·vb.net·ini·kernel32·
Mr.Lee jack3 天前
【CUDA 编程思想】FwdKvcacheMla 算子详细数据流程讲解
deepseek
武子康3 天前
AI研究-121 DeepSeek-OCR 研究路线:无限上下文、跨模态抽取、未来创意点、项目创意点
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
嗷嗷哦润橘_3 天前
集群网络技术1:RDMA和相关协议
网络·阿里云·deepseek