【004】deepseek本地化部署后,python的调用方式_#py

python调用本地deepseek

  • [1 本地化部署deepseek](#1 本地化部署deepseek)
  • [2 python调用方式](#2 python调用方式)

1 本地化部署deepseek

已经有很多大佬们说了不少部署本地化部署deepseek的工作了,我就不过多重复了。

先安装Ollama软件,再通过Ollama获取deepseek的模型文件,大家根据电脑的配置安装对应的模型,如果不是4090显卡建议就安装deepseek-r1:1.5b 。

python 复制代码
# Ollama的下载地址 
https://ollama.com
# ollama中下载deepseek模型的口令
ollama pull deepseek-r1:1.5b

需要注意的是,安装ollama后,所有ollama指令通过CMD触发。

2 python调用方式

python 复制代码
# 这个是ollama调用语言模型的地址
http://localhost:11434/api/generate

通过这个地址也可以利用浏览器进行调用

在python中主要是通过以下代码实现调用

其中json中的model的值为"deepseek-r1:1.5b"可替换为其他模型的名称,可以通过ollama list进行获取模型名称。

python 复制代码
import requests

def ask(content):
    response = requests.post(
        "http://localhost:11434/api/generate",
        json={
            "model": "deepseek-r1:1.5b",
            "prompt": content,
            "stream": False
        }
    )
    print(response.json()["response"])

while True:
    content = input("请输入您的问题:")
    ask(content)
相关推荐
夏幻灵3 小时前
JavaScript this 面试:五种绑定规则、优先级与常见面试陷阱
开发语言·javascript·面试
程序猿编码3 小时前
榨干 RTX5090 算力!Qwen3 专用单卡推理引擎,手写C++/CUDA 算子实现 MTP 推测解码
开发语言·c++·大模型推理·qwen3·多模态推理
bkspiderx5 小时前
Qt 插件机制:动态扩展应用功能的核心框架
开发语言·qt·元数据·qt 插件·qpluginloader
程序员老陆5 小时前
深入理解 C++ thread_local:线程私有存储的正确打开方式
开发语言·c++·程序设计
沐晓时光5 小时前
C语言入门,深入理解指针(3)
c语言·开发语言
码云数智-园园5 小时前
unique_ptr 还是 shared_ptr?C++ 智能指针选型与内存泄漏实战分析
java·开发语言
禾小西6 小时前
07丨Redis 哨兵机制:主库故障后,如何恢复服务?
java·开发语言·redis
我不是阵雨6 小时前
JDK 21虚拟线程Pinning陷阱:一文拔钉解困
java·开发语言
全栈练习生6 小时前
AI Agent 沙箱
python·ai
徐小黑ACG7 小时前
Golang 基础05 结构体struct
开发语言·算法·golang