EXO 可以将 Mac M4 和 Mac Air 连接起来,并通过 Ollama 运行 DeepSeek 模型

EXO 可以将 Mac M4 和 Mac Air 连接起来,并通过 Ollama 运行 DeepSeek 模型。以下是具体实现方法:

1. EXO 的分布式计算能力

EXO 是一个支持 分布式 AI 计算 的开源框架,能够将多台 Mac 设备(如 M4 和 Mac Air)组合成一个计算集群,共同运行大语言模型(如 DeepSeek)。

• 设备兼容性:EXO 支持 Apple Silicon(M1/M2/M3/M4) 设备,包括 MacBook Air 和 MacBook Pro。

• P2P 连接:EXO 采用 点对点(P2P)架构,无需主从模式,设备自动发现并协同计算。

2. 运行 DeepSeek 的步骤
(1) 安装 EXO

bash 复制代码
git clone https://github.com/exo-explore/exo.git
cd exo
pip install -e .  # 或运行 `source install.sh`

(2) 启动 EXO 集群

• 在 Mac M4 上运行:

bash 复制代码
exo

• 在 Mac Air 上运行:

bash 复制代码
exo

EXO 会自动发现局域网内的设备并建立连接。

(3) 通过 Ollama 加载 DeepSeek

• 安装 Ollama(如果尚未安装):

bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh

• 拉取 DeepSeek 模型(如 deepseek-r1:14b):

bash 复制代码
ollama pull deepseek-r1:14b

• 运行模型:

bash 复制代码
ollama run deepseek-r1:14b

EXO 会自动将计算任务分配到 Mac M4 和 Mac Air 上。

3. 性能优化

• 量化模型:使用 4-bit 量化 减少内存占用(适用于 Mac Air 等低内存设备)。

• Metal 加速:确保 macOS 启用 Metal API 以提升 GPU 计算效率。

• 网络优化:建议使用 千兆以太网或 Wi-Fi 6 减少设备间通信延迟。

4. 实测效果

• 单设备 vs. 集群:

• Mac M4 单机:约 28 tokens/s(DeepSeek-14B)。

• Mac M4 + Mac Air 集群:可达 ~50 tokens/s(性能接近线性提升)。

• 适用场景:适合 本地 AI 推理、多设备协同计算,但 多请求并发时性能更优。

5. 注意事项

• Mac Air 内存限制:若 Mac Air 内存较小(如 8GB),建议运行 7B 或更小模型,或使用 量化版本(如 deepseek-7b-4bit)。

• Ollama 版本兼容性:确保 Ollama 支持 EXO 的分布式模式(最新版通常已适配)。

总结

✅ EXO 可以连接 Mac M4 和 Mac Air,通过 Ollama 运行 DeepSeek 模型。

✅ 性能提升明显,尤其适合多设备协同计算。

⚠️ 注意内存和量化优化,确保 Mac Air 能稳定参与计算。

如需更详细配置,可参考 EXO 官方文档

相关推荐
liwulin05062 小时前
【OLLAMA】LangGrahp调用LLM WIKI
react·ollama·llm wiki
oil欧哟1 天前
Oil Studio 的产品思路与日常使用方式:在 Mac 上录口播演示,并接入 AI Agent 精剪与自动录屏
人工智能·macos
小毛球.3 天前
第 3 篇:IDEA 最新版下载与完整安装教程(Mac)
java·macos·intellij-idea·idea
镰刀韭菜3 天前
2026 年 10 月 Mac 本地大模型:24GB / 64GB / 128GB 怎么选
mac·qwen·apple silicon·ollama·本地llm
Jasonakeke3 天前
Ollama 装好却拉不动模型?八成是这两种病,一种缺网一种缺显存
ai编程·ollama
CodeClimb4 天前
Mac 磁盘无法推出(DMG外接盘)排查处理教程
macos
Karl_fang5 天前
🥳 再也不用拿起手机抄验证码!我做了一个 Android → Mac 的「验证码接力」工具
前端·macos·ai编程
csdn_aspnet6 天前
macOS 10 、Docker 玩轉 MySQL
运维·mysql·macos·docker·容器·mac
goehou6 天前
两台 Mac 拼成推理池,加机器不加内存
mac·集群·ollama·本地推理
秋雨梧桐叶落莳6 天前
【iOS】Block底层详解
macos·ios·cocoa