Deepseek本地部署

一,Deepseek本地部署方式

1,利用Ollama来部署

2,利用Cherry Studio来部署

二,通过Ollama本地部署Deepseek

1,什么是Ollama

Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

2,下载Ollama

下载地址https://ollama.com/

下载后直接安装即可,安装完后通过以下命令查看是否安装成功

java 复制代码
//通过win+R 输入cmd,打开黑窗口后输入下面命令,可以查看安装的ollama版本号
ollama -v

3,在ollama上安装deepseek

在ollama官网上可以直接下载安装deepseek,根据自己的显卡性能选择不同大小的模型


不建议安装1.5版本,有点弱智,各个版本要求如下

复制deepseek安装命令到黑窗口,等待安装完成就可以对话了

java 复制代码
//ollama上安装deepseek的命令
ollama run deepseek-r1:7b
//暂停deepseek安装命令
Ctrl+C
相关推荐
aihuangwu7 分钟前
如何把豆包的回答导出
人工智能·ai·deepseek·ds随心转
好奇龙猫9 分钟前
【人工智能学习-AI入试相关题目练习-第十六次】
人工智能·学习
bing.shao12 分钟前
Golang 开发者视角:解读《“人工智能 + 制造” 专项行动》的技术落地机遇
人工智能·golang·制造
LOnghas121112 分钟前
玉米目标检测实战:基于YOLO13-C3k2-RFAConv的优化方案_1
人工智能·目标检测·计算机视觉
量子-Alex23 分钟前
【大模型课程笔记】斯坦福大学CS336 课程环境配置与讲座生成完整指南
人工智能·笔记
冬奇Lab27 分钟前
一天一个开源项目(第9篇):NexaSDK - 跨平台设备端 AI 运行时,让前沿模型在本地运行
人工智能·开源
量子-Alex37 分钟前
【大模型技术报告】Qwen2-VL大模型训练过程理解
人工智能
java1234_小锋43 分钟前
【AI大模型舆情分析】微博舆情分析可视化系统(pytorch2+基于BERT大模型训练微调+flask+pandas+echarts) 实战(上)
人工智能·flask·大模型·bert
新缸中之脑44 分钟前
Imagerouter.io: 免费图像生成API
人工智能
MM_MS1 小时前
Halcon图像点运算、获取直方图、直方图均衡化
图像处理·人工智能·算法·目标检测·计算机视觉·c#·视觉检测