DeepSeek本地部署

一.ollama

ollama是一个管理和运行所有大模型、开源大模型的平台。在官网的Models中可以看到deepseek-r1的AI模型

1.在官网中下载对应系统的ollama,下载时需要开墙,或者可以在github中找到对应的安装包进行下载安装

安装成功后,cmd命令行输入ollama,若出现相关提示说明安装成功

如果没有出现上述,提示找不到该命令,可以在电脑的环境变量手动添加ollama的安装路径

2.进入ollama官网,点击deepseek-r1进入该模型的下载主页,目前deepseek有不同参数量,模型的参数量越大,说明模型的质量越好,但是参数量越高,对电脑里的GPU质量要求也更高,如果电脑没有独立显卡,选择1.5b的也完全够用

在确定好模型版本后,就可以直接将该版本的命令直接在cmd运行(我用的是8b),命令ollama run deepseek-r1:8b

部署成功后,只能通过命令行的方式进行访问

二.cherry studio

cherry studio是一个支持多家AI大模型平台的客户端,可以直接对接ollama api,实现官网所示窗口效果的对话

在cherry studio中,设置选择ollama大模型,打开左上角的开关,右下角管理

在打开的弹窗中选择已经下载好的deepseek模型

下载好后使用回到对话框即可开始对话

注:因为cherry studio可以添加多个模型,所以在使用时,如果遇到报没有token 401的错误,可以在上方切换已经成功添加的模型