本地部署DeepSeek R1大模型

一、安装软件

1.1 安装Ollama

你可以访问Ollama的官方网站https://ollama.com/download,选择适合你操作系统的安装包进行下载。老周这里是Mac系统,所以选择下载macOS系统。

1.2 安装cherry studio

前往官网https://cherry-ai.com/download下载对应操作系统的安装包


1.3 下载deepseek R1本地模型

直接前往Ollama官网:https://ollama.com/library/deepseek-r1

根据自己电脑的配置选择不同参数的模型,

查下自己MAC电脑的显存:

bash 复制代码
system_profiler SPDisplaysDataType | grep "VRAM"

根据自己电脑的配置选择不同参数的模型。

老周这里让 DeepSeek 帮我推荐使用哪个参数的模型。

根据推荐老周这里选择了8b参数的模型:

bash 复制代码
ollama run deepseek-r1:8b

打开终端(Mac OS)或运行(Windows,可以用win键+r快捷键弹出),粘贴刚刚复制的代码(ollama run deepseek-r1:8b)

接下来可能有点慢,测你家网速的时候到了。

下载完成后,你已经可以直接使用Deepseek R1这个大模型了。不过,为了让大家有更好的体验,我特别推荐使用Cherry Studio这个工具。它不仅能调用你本地下载的模型,还可以连接各种云端模型服务,使用起来非常便捷。

1.4 设置Cherry Studio

然后在聊天界面,选择你所要对话的大模型,就可以直接对话了。如果出现对话说明本地部署DeepSeek R1大模型成功了。如果出现404啥的说明你没有配置对API地址,检查下面这两个操作是否配置对了。

默认模型选择你下载好的模型~

我让DeepSeek帮我安排一个行程,推理阶段吃掉我一半的CPU、内存也只省2G左右。

相关推荐
互联网开发者4 小时前
资深程序员白话干货AI工具技术
ai·大模型·ai大模型
自己的九又四分之三站台7 小时前
1:跟着【杨中科】学大模型专栏介绍
ai
带刺的坐椅9 小时前
从 Chat 到 Agent:Solon AI 带你进入“行动派”大模型时代
java·ai·agent·solon·mcp·java25
自己的九又四分之三站台10 小时前
2:调用大模型
ai
金智维科技官方10 小时前
安全稳定,是企业部署智能体的基础
人工智能·安全·ai·ai agent·智能体·数字员工
guangzan11 小时前
AI → JSON → UI
ui·ai·zod
云轩奕鹤11 小时前
智析单词书 - AI 驱动的深度英语词汇学习平台
前端·ai·产品·思维
2501_9403910811 小时前
AI搜索重构流量格局:企业如何通过GEO优化抢占品牌推荐位
ai
henujolly11 小时前
sse学习
ai
之歆12 小时前
什么是 AI Agent 详解 ?
人工智能·ai