Deepseek本地部署

一,Deepseek本地部署方式

1,利用Ollama来部署

2,利用Cherry Studio来部署

二,通过Ollama本地部署Deepseek

1,什么是Ollama

Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

2,下载Ollama

下载地址https://ollama.com/

下载后直接安装即可,安装完后通过以下命令查看是否安装成功

java 复制代码
//通过win+R 输入cmd,打开黑窗口后输入下面命令,可以查看安装的ollama版本号
ollama -v

3,在ollama上安装deepseek

在ollama官网上可以直接下载安装deepseek,根据自己的显卡性能选择不同大小的模型


不建议安装1.5版本,有点弱智,各个版本要求如下

复制deepseek安装命令到黑窗口,等待安装完成就可以对话了

java 复制代码
//ollama上安装deepseek的命令
ollama run deepseek-r1:7b
//暂停deepseek安装命令
Ctrl+C
相关推荐
D2aZXN3FhrDa7e21215 分钟前
佛山乐从低预算实体店如何选择?看美诚AI自动化获客方案
运维·人工智能·自动化·佛山美诚科技有限公司
林泽毅28 分钟前
PyTRIO:当强化学习不再需要本地GPU
人工智能·python·深度学习·机器学习
颜酱32 分钟前
# 02 | 搭骨架:用 LangGraph 编排 12 步工作流(思路)
前端·人工智能·后端
颜酱33 分钟前
02 | 搭骨架:用 LangGraph 编排 12 步工作流
前端·人工智能·后端
码上解惑35 分钟前
从 Dify 工作流说起:常用节点怎么选、怎样组合?
java·人工智能·ai·agent·dify·智能体·spring ai
小陈phd39 分钟前
QAnything 阅读优化策略05——检索
人工智能·python·机器学习
zhangfeng11331 小时前
CVOCA 卷积模型,《Nature》子刊 特征提取技术突破性研究的综合分析报告
人工智能
炎火星1 小时前
直播切片素材杂乱,怎么用 AI 剪辑做成可用带货视频?
人工智能
像风一样的男人@1 小时前
python --fastapi推流AI推理
人工智能·python·fastapi