学习python通过Ollama调用大语言模型

说实话这个入门教程也不是特别有必要,因为直接问AI然后验证即可,我这篇就是在AI的指导下操作的。

不过想想还是留作个人记录吧。。


0. Ollama 是什么

AI回答:(仅供参考)
Ollama 是一个开源的命令行工具,让你能在本地电脑上轻松运行、管理和与大型语言模型(LLM)交互。

简单来说,它相当于大语言模型的"Docker"------极大简化了在本地部署和运行 Llama 3、DeepSeek、Mistral 等开源模型的流程。

1. 下载

下载页面:https://ollama.com/download

安装完毕后。打开。

可以选一个模型,这里我就选一个下载到本地的而非云端的了,否则感觉跟在网页端和AI对话没啥区别。。

等待下载:

可以对话了:

2. 使用 python 调用大语言模型

在实际跑python之前,先确认下Ollama服务是否启动了。

执行curl -s http://127.0.0.1:11434,启动的话应该显示 Ollama is running

然后看下模型名字叫啥,cmd中输入ollama list:

我这里就是 qwen3:4b

然后就可以调用如下脚本,向大语言模型发送信息并得到回应了。

注意修改model名字,content中是发的信息,这里是 "你好,你是哪个模型?"。最后打印出回应。

py 复制代码
import requests
import json

# Ollama API 地址
url = "http://localhost:11434/api/chat"

# 请求体
payload = {
    "model": "qwen3:4b",
    "messages": [
        {"role": "user", "content": "你好,你是哪个模型?"}
    ],
    "stream": False          # 非流式返回
}

# 发送 POST 请求
response = requests.post(url, json=payload)

# 解析响应
if response.status_code == 200:
    result = response.json()
    print(result['message']['content'])
else:
    print(f"请求失败: {response.status_code}")

(以上脚本也是AI自己写的,有问题的话可以直接问AI)

结果:

相关推荐
code2cat12 分钟前
【随笔】MCP长任务:查询已经返回,为什么任务还没有完成
javascript·人工智能·后端·mcp
玄魂34 分钟前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·agent·视觉设计
写标小何1 小时前
AI 标书工具技术架构解析:从文件解析到排版导出的工程实践
人工智能
敖老师1 小时前
DeepSeek Harness Web 版从装到用:dsh web 启动、接入本地 Ollama 全流程
人工智能
阿里云大数据AI技术1 小时前
DataWorks AI 数据生成:一条配置,量产多行业的仿真级业务数据
人工智能
QA老兵的AI实战手记1 小时前
别再用人工盯 AI 幻觉了:我手搓了一套带“代码审查拦截”的 AI 效能大屏(附源码)
人工智能
火山引擎开发者社区1 小时前
APMPlus・看得见的 Agent(三) | Agent 说完成,结果却不对?APMPlus Agent 轨迹帮你查清执行过程
人工智能
羲云网络1 小时前
Claude Fable 5.2 创意编程分析:程序化生成、多智能体协作与工程验收
人工智能·大语言模型·blender·游戏开发
Linye1 小时前
HTML 流程图连线交叉看不清?聊聊画布避障折线与跳弧实现
前端·人工智能
weixin_469163692 小时前
金融租赁项目管理:维普时代以混合模型+AI实现管控与效率兼得
人工智能·金融