【DeepSeek】Mac m1电脑部署DeepSeek

一、电脑配置

个人电脑配置

二、安装ollama

简介:Ollama 是一个强大的开源框架,是一个为本地运行大型语言模型而设计的工具,它帮助用户快速在本地运行大模型,通过简单的安装指令,可以让用户执行一条命令就在本地运行开源大型语言模型。

ollama官网,根据自己电脑的类型选择对应的下载安装程序,比如我这里选择 macos:

下载成功后,直接安装。

如何判断是否安装成功?

打开一个命令行终端,输入命令:ollama -v,显示版本信息,表示安装成功。

三、选择合适的模型

点击ollama-->models选项,可以查看支持运行的模型。

deepseek r1 有多种参数,通常我们macos 选择7b,8b参数即可,参数越大对显卡和内存要求越高,如果你是3090显卡,4090 显卡,可以选择32b,70b,参数越大,效果越好。当然磁盘占用也越大。

选择对应的蒸馏模型,按照下面的命令复制到ollama控制台

复制代码
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b

四、安装并运行

安装并运行对应的蒸馏模型,命令行执行:

ollama run deepseek-r1:8b

安装成功后,在控制台直接输入问题,即可得到回复:

命令行如何退出大模型对话?

输入:/bye

相关推荐
深井冰水1 小时前
mac M2能安装的虚拟机和linux系统系统
linux·macos
这是一个懒人3 小时前
mac 快速安装stable diffusion webui
macos·stable diffusion
Eloudy12 小时前
MacOS 上构建 gem5
linux·运维·macos
-曾牛14 小时前
Spring AI 与 Hugging Face 深度集成:打造高效文本生成应用
java·人工智能·后端·spring·搜索引擎·springai·deepseek
深井冰水16 小时前
mac M2下虚拟机CentOS 8 安装上安装 Berkeley DB
数据库·macos·centos
大白技术控17 小时前
浙江大学 deepseek 公开课 第三季 第3期 - 陈喜群 教授 (附PPT下载) by 突破信息差
人工智能·互联网·deepseek·deepseek公开课·浙大deepseek公开课课件·deepseek公开课ppt·人工智能大模型
liulilittle17 小时前
MAC-OS X 命令行设置IP、掩码、网关、DNS服务器地址
linux·网络·macos
原住民的自修室18 小时前
比 Mac 便笺更好用更好看的便利贴
笔记·macos
星卯教育tony19 小时前
苹果电脑笔记本macos Mac安装mixly 米思齐软件详细指南
macos·mixly·米思齐
黑果魏叔21 小时前
MIST:一键解锁 macOS 历史版本,旧系统安装不再难!
macos