【004】deepseek本地化部署后,python的调用方式_#py

python调用本地deepseek

  • [1 本地化部署deepseek](#1 本地化部署deepseek)
  • [2 python调用方式](#2 python调用方式)

1 本地化部署deepseek

已经有很多大佬们说了不少部署本地化部署deepseek的工作了,我就不过多重复了。

先安装Ollama软件,再通过Ollama获取deepseek的模型文件,大家根据电脑的配置安装对应的模型,如果不是4090显卡建议就安装deepseek-r1:1.5b 。

python 复制代码
# Ollama的下载地址 
https://ollama.com
# ollama中下载deepseek模型的口令
ollama pull deepseek-r1:1.5b

需要注意的是,安装ollama后,所有ollama指令通过CMD触发。

2 python调用方式

python 复制代码
# 这个是ollama调用语言模型的地址
http://localhost:11434/api/generate

通过这个地址也可以利用浏览器进行调用

在python中主要是通过以下代码实现调用

其中json中的model的值为"deepseek-r1:1.5b"可替换为其他模型的名称,可以通过ollama list进行获取模型名称。

python 复制代码
import requests

def ask(content):
    response = requests.post(
        "http://localhost:11434/api/generate",
        json={
            "model": "deepseek-r1:1.5b",
            "prompt": content,
            "stream": False
        }
    )
    print(response.json()["response"])

while True:
    content = input("请输入您的问题:")
    ask(content)
相关推荐
B站_计算机毕业设计之家3 分钟前
豆瓣电影数据采集分析推荐系统 | Python Vue Flask框架 LSTM Echarts多技术融合开发 毕业设计源码 计算机
vue.js·python·机器学习·flask·echarts·lstm·推荐算法
渣渣苏11 分钟前
Langchain实战快速入门
人工智能·python·langchain
3GPP仿真实验室12 分钟前
【Matlab源码】6G候选波形:OFDM-IM 增强仿真平台 DM、CI
开发语言·matlab·ci/cd
devmoon16 分钟前
在 Polkadot 上部署独立区块链Paseo 测试网实战部署指南
开发语言·安全·区块链·polkadot·erc-20·测试网·独立链
lili-felicity16 分钟前
CANN流水线并行推理与资源调度优化
开发语言·人工智能
沐知全栈开发17 分钟前
CSS3 边框:全面解析与实战技巧
开发语言
lili-felicity19 分钟前
CANN模型量化详解:从FP32到INT8的精度与性能平衡
人工智能·python
数据知道22 分钟前
PostgreSQL实战:详解如何用Python优雅地从PG中存取处理JSON
python·postgresql·json
island131427 分钟前
CANN GE(图引擎)深度解析:计算图优化管线、内存静态规划与异构 Stream 调度机制
c语言·开发语言·神经网络
曹牧31 分钟前
Spring Boot:如何在Java Controller中处理POST请求?
java·开发语言