开发机上通过Ollama安装了qwen2.5:7b-instruct大模型后curl请求示例

在你的Mac开发机上通过Ollama运行qwen2.5:7b-instruct模型后,你可以使用curl命令直接调用其API。Ollama提供了兼容OpenAI的接口格式,非常方便。

以下是完整的curl调用示例:

使用OpenAI兼容格式(推荐)

Ollama默认会启动一个与OpenAI API兼容的服务端点,这种方式与你之前在OpenClaw中配置模型时使用的格式一致。

bash 复制代码
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b-instruct",
    "messages": [
      {"role": "user", "content": "请用中文介绍一下自己"}
    ],
    "stream": false
  }'

参数说明

  • model:指定你要使用的模型名称,必须与ollama list中显示的名称完全一致
  • messages:符合OpenAI格式的对话消息列表
  • stream:设为false表示等待完整响应;设为true则启用流式输出(每生成一部分内容就返回一次)

使用Ollama原生格式(备选)

如果你更喜欢Ollama原生的API格式,也可以使用/api/generate端点:

bash 复制代码
curl http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b-instruct",
    "prompt": "请用中文介绍一下自己",
    "stream": false
  }'

验证服务是否运行

在执行上述调用前,请确保:

  1. Ollama服务已在后台运行(可通过ollama serve启动)
  2. 模型已下载并可用(通过ollama list确认qwen2.5:7b-instruct在列表中)

如果返回类似以下内容的响应,说明调用成功:

json 复制代码
{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "created": 1742012345,
  "model": "qwen2.5:7b-instruct",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "我是通义千问2.5-7B-Instruct模型,一个由阿里云开发的中文大语言模型..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 45,
    "total_tokens": 57
  }
}

实用技巧

如果你想在命令行中更清晰地查看格式化的JSON响应,可以结合jq命令使用:

bash 复制代码
curl -s http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen2.5:7b-instruct", "messages": [{"role": "user", "content": "你好"}], "stream": false}' \
  | jq '.choices[0].message.content'

如果遇到连接失败的情况,请检查Ollama服务是否在后台运行,以及端口11434是否被其他程序占用。

附:执行抓包日志

相关推荐
米小虾2 小时前
AI Agent 安全实战指南:当智能体开始"不听话",开发者该如何应对?
人工智能·安全·agent
米小虾3 小时前
联合国发布首份全球AI评估报告:我们正站在AI治理的十字路口
aigc·ai编程
垚森5 小时前
AI时代,让曾经的遗憾变成现实
ai
Databend6 小时前
2KB histogram 背后:Databend 如何低成本追踪长尾延迟
大数据·数据分析·agent
笃行3506 小时前
用 CodeBuddy “复活“《山海经》:异兽图鉴网站的诞生
agent
AlbertZein7 小时前
Agent任务实测:谁能稳定跑完,谁只是看起来很强?
aigc·openai·ai编程
Token炼金师7 小时前
去噪扩散:从随机噪声到高保真图像的数学之路
人工智能·aigc
leonshi7 小时前
使用embedchain快速建立rag知识库,本地大模型
ai·rag·ollama
镜舟科技7 小时前
Databricks 再提 LTAP,AI 时代的数据底座为何重回大一统叙事?
数据库·架构·agent
轻口味7 小时前
别被模型宣传骗了,真实 Agent 任务一跑就知道
agent·ai编程