如何本地部署DeepSeek

第一步:安装ollama

复制代码
https://ollama.com/download

打开官网,选择对应版本

第二步:选择合适的模型

复制代码
https://ollama.com/

模型名称中的 1.5B、7B、8B 等数字代表模型的参数量(Parameters),其中 B 是英文 Billion(十亿) 的缩写。参数越多,模型通常更"聪明"(能处理更复杂的任务),但对硬件资源(显存、内存)的要求也更高。

个人用户可优先 7B (通用性最佳),若设备较弱则选 1.5B ,开发者可选 8B

第三步:安装deepseek模型

复制代码
ollama run deepseek-r1:1.5b

1、找到对应的命令,复制

2、cmd执行命令,等待安装

第四步:测试

基本命令

Delphi 复制代码
#退出模型
>>> /bye
#查看模型
C:\Users\chk>ollama list
NAME                ID              SIZE      MODIFIED
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    3 minutes ago
 
#启动模型
ollama run deepseek-r1:1.5b
>>>
#查看帮助
C:\Users\chk>ollama  -h
Large language model runner
 
Usage:
  ollama [flags]
  ollama [command]
 
Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command
 
Flags:
  -h, --help      help for ollama
  -v, --version   Show version information
 
Use "ollama [command] --help" for more information about a command.
相关推荐
sztomarch17 分钟前
Windows-PowerShell-prompt
windows·prompt
zdd567899 小时前
关于Windows 11 家庭中文版 25H2中ensp无法启动路由器,报40错的解决方法
windows
哥布林学者11 小时前
吴恩达深度学习课程四:计算机视觉 第二周:经典网络结构 (三)1×1卷积与Inception网络
深度学习·ai
丹宇码农12 小时前
Index-TTS2 从零到一:完整安装与核心使用教程
人工智能·ai·tts
胡闹5412 小时前
Linux查询防火墙放过的端口并额外增加需要通过的端口命令
linux·运维·windows
北极糊的狐12 小时前
若依系统报错net::ERR_CONNECTION_TIMED_OUT的原因
java·windows·sql·mybatis
AI大模型学徒13 小时前
大模型应用开发(十七)_RAG架构概述
大模型·知识库·rag·deepseek
undsky_14 小时前
【RuoYi-SpringBoot3-Pro】:接入 AI 对话能力
人工智能·spring boot·后端·ai·ruoyi
45288655上山打老虎16 小时前
List容器
数据结构·windows·list
Baikal..16 小时前
CVE-2024-38077漏洞 2012R2系统更新失败
windows