开发机上通过Ollama安装了qwen2.5:7b-instruct大模型后curl请求示例

在你的Mac开发机上通过Ollama运行qwen2.5:7b-instruct模型后,你可以使用curl命令直接调用其API。Ollama提供了兼容OpenAI的接口格式,非常方便。

以下是完整的curl调用示例:

使用OpenAI兼容格式(推荐)

Ollama默认会启动一个与OpenAI API兼容的服务端点,这种方式与你之前在OpenClaw中配置模型时使用的格式一致。

bash 复制代码
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b-instruct",
    "messages": [
      {"role": "user", "content": "请用中文介绍一下自己"}
    ],
    "stream": false
  }'

参数说明

  • model:指定你要使用的模型名称,必须与ollama list中显示的名称完全一致
  • messages:符合OpenAI格式的对话消息列表
  • stream:设为false表示等待完整响应;设为true则启用流式输出(每生成一部分内容就返回一次)

使用Ollama原生格式(备选)

如果你更喜欢Ollama原生的API格式,也可以使用/api/generate端点:

bash 复制代码
curl http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b-instruct",
    "prompt": "请用中文介绍一下自己",
    "stream": false
  }'

验证服务是否运行

在执行上述调用前,请确保:

  1. Ollama服务已在后台运行(可通过ollama serve启动)
  2. 模型已下载并可用(通过ollama list确认qwen2.5:7b-instruct在列表中)

如果返回类似以下内容的响应,说明调用成功:

json 复制代码
{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "created": 1742012345,
  "model": "qwen2.5:7b-instruct",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "我是通义千问2.5-7B-Instruct模型,一个由阿里云开发的中文大语言模型..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 45,
    "total_tokens": 57
  }
}

实用技巧

如果你想在命令行中更清晰地查看格式化的JSON响应,可以结合jq命令使用:

bash 复制代码
curl -s http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen2.5:7b-instruct", "messages": [{"role": "user", "content": "你好"}], "stream": false}' \
  | jq '.choices[0].message.content'

如果遇到连接失败的情况,请检查Ollama服务是否在后台运行,以及端口11434是否被其他程序占用。

附:执行抓包日志

相关推荐
龙侠九重天22 分钟前
C# 机器学习数据处理
开发语言·人工智能·机器学习·ai·c#
烟锁池塘柳08 小时前
一文读懂UGC、PGC、PUGC、OGC、MGC、BGC与AIGC
aigc
建行一世9 小时前
【Windows笔记本大模型“傻瓜式”教程】使用LLaMA-Factory工具来完成对Windows笔记本大模型Qwen2.5-3B-Instruct微调
windows·ai·语言模型·llama
正在走向自律9 小时前
第二章-AIGC入门-AIGC工具全解析:技术控的效率神器,DeepSeek国产大模型的骄傲(8/36)
人工智能·chatgpt·aigc·可灵·deepseek·即梦·阿里通义千问
轩轩分享AI9 小时前
DeepSeek、Kimi、笔灵谁最好用?5款网文作者亲测的AI写作神器横评
人工智能·ai·ai写作·小说写作·小说·小说干货
墨风如雪9 小时前
高强度实测 6 大 AI 模型:Claude 写文最强,但我写代码不选它
aigc
哥布林学者10 小时前
深度学习进阶(五)Vision Transformer
机器学习·ai
叹一曲当时只道是寻常10 小时前
Xcode 接入智谱 GLM Coding Plan 报错解决方案
ai·xcode
刀法如飞10 小时前
Agentic Workflow 设计与实战指南
架构·agent·ai编程
tkevinjd11 小时前
基于LangChain的简易智能旅游助手Agent
langchain·agent