【DeepSeek】Mac m1电脑部署DeepSeek

一、电脑配置

个人电脑配置

二、安装ollama

简介:Ollama 是一个强大的开源框架,是一个为本地运行大型语言模型而设计的工具,它帮助用户快速在本地运行大模型,通过简单的安装指令,可以让用户执行一条命令就在本地运行开源大型语言模型。

ollama官网,根据自己电脑的类型选择对应的下载安装程序,比如我这里选择 macos:

下载成功后,直接安装。

如何判断是否安装成功?

打开一个命令行终端,输入命令:ollama -v,显示版本信息,表示安装成功。

三、选择合适的模型

点击ollama-->models选项,可以查看支持运行的模型。

deepseek r1 有多种参数,通常我们macos 选择7b,8b参数即可,参数越大对显卡和内存要求越高,如果你是3090显卡,4090 显卡,可以选择32b,70b,参数越大,效果越好。当然磁盘占用也越大。

选择对应的蒸馏模型,按照下面的命令复制到ollama控制台

复制代码
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b

四、安装并运行

安装并运行对应的蒸馏模型,命令行执行:

ollama run deepseek-r1:8b

安装成功后,在控制台直接输入问题,即可得到回复:

命令行如何退出大模型对话?

输入:/bye

相关推荐
AIGC大时代13 分钟前
让ChatGPT用DeepReaserch指导进行学术写作
人工智能·chatgpt·智能写作·deepseek·chatgpt-o3
leonyie20222 小时前
7.3 在通知中显示图片或视频(UNNotificationAttachment)
macos·ios·swiftui·音视频·cocoa·swift
小草cys3 小时前
llama.cpp 和 vLLM 的详细对比分析
大模型·llama·vllm·deepseek
waynaqua3 小时前
企业级模型推理部署工具vllm使用指南 - 部署最新deepseek-v3-0324模型
llm·deepseek
Ethan_Zhou【数据恢复专家】18 小时前
mac 卸载流氓软件安全助手
安全·macos
给钱,谢谢!19 小时前
mac 安装MySQL
数据库·mysql·macos
十步杀一人_千里不留行19 小时前
如何在最新的 Mac mini M4 机器上,让 Ollama 支持局域网访问
macos·ollama
海风极客19 小时前
让DeepSeek模仿曹操,果然好玩!
后端·langchain·deepseek
大模型真好玩20 小时前
点名DeepSeek?一文解析”最强大模型“Llama-4到底是王者归来 还是 困兽犹斗?
人工智能·llama·deepseek
jimin_callon1 天前
VBA第三十九期 VBA自动把工作表转换成PPT
python·excel·vba·wps·deepseek