在Mac mini M4上部署DeepSeek R1本地大模型

在Mac mini M4上部署DeepSeek R1本地大模型

安装ollama

本地部署,我们可以通过Ollama来进行安装

Ollama 官方版:【点击前往】

Web UI 控制端【点击安装】

如何在MacOS上更换Ollama的模型位置

默认安装时,OLLAMA_MODELS 位置在"~/.ollama/models"

只需要通过更改Mac的环境变量,并且重启Ollama就可以达到目的。

launchctl setenv OLLAMA_MODELS "你的模型文件夹路径"

举例如下:我有一个共享磁盘目录,希望把大文件放在这里

launchctl setenv OLLAMA_MODELS "/Volumes/192.168.2.127/AI/Ollama/mac/ollama_models"

~/.ollama/models是一个隐藏文件夹,你需要通过Command⌘+Shift⇧+。来让它显形。或者直接执行下方命令(确认后可以删除之前文件夹中内容)。

cp -R ~/.ollama/models 你的模型文件夹路径

重新启动Ollama APP

下载大模型文件Mac mini M4系统老是重置问题的解决

我用windows系统下载好文件以后从E:\AI\Ollama\blobs复制到E:\AI\Ollama\mac\ollama_models\blobs即mac系统的/Volumes/192.168.2.127/AI/Ollama/mac/ollama_models/blobs

bash 复制代码
C:\Users\Administrator>ollama run deepseek-r1:7b
pulling manifest
pulling 96c415656d37... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏  387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏  148 B
pulling 40fb844194b2... 100% ▕████████████████████████████████████████████████████████▏  487 B
verifying sha256 digest
writing manifest
success
bash 复制代码
holyeyes@holyeyesdeMini ~ % ollama run deepseek-r1:7b
pulling manifest 
pulling 96c415656d37... 100% ▕████████████████▏ 4.7 GB                         
pulling 369ca498f347... 100% ▕████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████▏  148 B                         
pulling 40fb844194b2... 100% ▕████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 

使用docker方式安装webui

安装docker

根据电脑芯片选择下载版本,我选择的是​Download for Mac - Apple Silicon

安装运行open-webui

bash 复制代码
sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
bash 复制代码
holyeyes@holyeyesdeMini ~ % sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Password:
Unable to find image 'ghcr.io/open-webui/open-webui:main' locally
2025/02/02 14:39:46 must use ASL logging (which requires CGO) if running as root
main: Pulling from open-webui/open-webui
7ce705000c39: Pull complete 
d02d1a1ced20: Pull complete 
8c2bfb64ec8e: Pull complete 
1c510bbba845: Pull complete 
c1b66c7e5efa: Pull complete 
4f4fb700ef54: Pull complete 
cef437bcef5f: Pull complete 
77456adf2b22: Pull complete 
815479942156: Pull complete 
293c52404a14: Pull complete 
b7fca0b068c8: Pull complete 
b9defacaa06c: Pull complete 
690490b2e7dc: Pull complete 
b5f1de319771: Pull complete 
40635cddd89d: Pull complete 
Digest: sha256:b2c83b5c7b9b244999307b4b1c0e195d41268f3d3a62b84b470c0cea5c5743fd
Status: Downloaded newer image for ghcr.io/open-webui/open-webui:main
6acb84b71300f3b5d5341ddabb7647d03e2523f4d792aac8796af87c39a14e3f
holyeyes@holyeyesdeMini ~ % 

webui两种安装方式对比测试发现docker方式的要好

webui插件方式回答问题错误

docker方式回答问题正确

参考:

https://www.5bei.cn/macminim4-local-running-model-ollamallamacomfyu.html#2024-12-11_1028tui_jian_zhong_xin_guan_kan

https://blog.csdn.net/weixin_44336445/article/details/145400324

https://blog.csdn.net/weixin_44626085/article/details/145407887

相关推荐
嵌入式小周11 小时前
Genymotion 安卓模拟器在 Intel 芯片 Mac 上的运行(附带下载方式)
android·macos
寒水馨12 小时前
macOS下载、安装godot-4.7.1-stable(附安装包Godot_v4.7.1-stable_macos.universal.zip)
macos·3d·游戏引擎·godot·跨平台·游戏开发·2d
七牛云行业应用1 天前
Ollama 本地部署 DeepSeek 完全指南:macOS / Windows / Linux 三端安装 + GPU 配置 + API 调用
linux·windows·macos
独隅1 天前
DevEco Code 在 Windows/MacOS 双系统上的完整使用指南
ide·人工智能·windows·macos·华为·harmonyos
白玉cfc1 天前
【iOS】weak底层原理
macos·ios·cocoa
a4493153622 天前
iPhone 触控失灵诊断——触控IC与屏幕数字化层故障的芯片级排查
macos·电脑
寒水馨2 天前
macOS下载、安装electron-v43.2.0(附安装包electron-v43.2.0-darwin-arm64.zip)
javascript·macos·electron·node.js·跨平台·桌面应用开发·开源框架
a4493153622 天前
iPhone Face ID 故障的分层诊断——原深感系统与主板加密配对机制
macos·ios·电脑·cocoa·iphone
白玉cfc2 天前
【iOS】内存五大分区
macos·ios·cocoa
a4493153622 天前
iPhone 基带故障诊断——无服务/搜索不到网络的芯片级维修实录
网络·macos·ios·电脑·iphone