【DeepSeek】Mac m1电脑部署DeepSeek

一、电脑配置

个人电脑配置

二、安装ollama

简介:Ollama 是一个强大的开源框架,是一个为本地运行大型语言模型而设计的工具,它帮助用户快速在本地运行大模型,通过简单的安装指令,可以让用户执行一条命令就在本地运行开源大型语言模型。

ollama官网,根据自己电脑的类型选择对应的下载安装程序,比如我这里选择 macos:

下载成功后,直接安装。

如何判断是否安装成功?

打开一个命令行终端,输入命令:ollama -v,显示版本信息,表示安装成功。

三、选择合适的模型

点击ollama-->models选项,可以查看支持运行的模型。

deepseek r1 有多种参数,通常我们macos 选择7b,8b参数即可,参数越大对显卡和内存要求越高,如果你是3090显卡,4090 显卡,可以选择32b,70b,参数越大,效果越好。当然磁盘占用也越大。

选择对应的蒸馏模型,按照下面的命令复制到ollama控制台

复制代码
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b

四、安装并运行

安装并运行对应的蒸馏模型,命令行执行:

ollama run deepseek-r1:8b

安装成功后,在控制台直接输入问题,即可得到回复:

命令行如何退出大模型对话?

输入:/bye

相关推荐
FreeBuf_11 小时前
原子级 macOS 信息窃取程序升级:新增后门实现持久化控制
macos·信息窃取
若兰幽竹12 小时前
基于DeepSeek构建的openGauss AI智能优化助手:数据库性能提升新利器
人工智能·大模型·opengauss·deepseek
CHANG_THE_WORLD13 小时前
「macOS 系统字体收集器 (C++17 实现)」
开发语言·c++·macos
小Lu的开源日常14 小时前
在 macOS 上设置 SSH 和 Git
git·macos·ssh
江池俊15 小时前
DeepSeek推理优化技巧:提升速度与降低成本
deepseek
朴拙数科16 小时前
在 macOS 上安装与自定义 Oh My Zsh:让终端美观又高效 [特殊字符]
大数据·elasticsearch·macos
r0ad16 小时前
DeepSeek-R1技术突破:纯RL训练竟能激发大模型"反思"能力?
强化学习·deepseek
小Lu的开源日常17 小时前
在 Mac 上使用 iTerm2 和 Oh My Zsh 打造优雅终端
macos·iterm·命令行
Shinpei17 小时前
如何优雅的在AI应用中渲染Markdown数据
前端·deepseek
tonngw19 小时前
【Mac 从 0 到 1 保姆级配置教程 19】- 英语学习篇-我的英语工作流分享(AI 辅助学习)
macos·mac·英语学习·沉浸式翻译·欧路词典·沙拉查词·终生学习