【10 分钟!M4 Mac mini 离线部署「私有 ChatGPT」完整实录】

(支持上传文件 / 图片 / 代码高亮,全程 4 命令 3 点击)


一、前言

2025 年,开源大模型已卷到 8B 就能打 GPT-3.5。

手里这台 M4 Mac mini(24 GB + 512 GB)空着也是吃灰,不如 10 分钟搭一个「离线 ChatGPT」:

  • 数据不出本地,内网/飞机模式可用
  • 支持聊天、传文件、贴图片、代码高亮
  • 零费用、零订阅、可商用

跟着本文,复制 4 行命令、点 3 次鼠标即可搞定!


二、最终效果

功能 演示
多轮对话 写周报、改简历、解算法题
上传文件 PDF/Word/TXT 一键总结
贴图片 表格截图 → Markdown
代码高亮 C++/Python/Go 自动补全

三、硬件 & 系统

  • Mac mini M4(macOS 15.x)
  • 内存 ≥ 16 GB(推荐 24 GB)
  • 硬盘剩余 ≥ 10 GB(实际占用 ≈ 5 GB)

四、步骤总览(10 分钟流水账)

① 安装 Ollama(模型引擎)
  1. 官网 https://ollama.com → Download for mac
  2. 解压拖进 Applications → 首次启动点 Install CLI
  3. 验证:
bash 复制代码
ollama --version   # 0.3.x
② 拉取 & 启动模型(qwen2.5-coder 7B-int4)
bash 复制代码
ollama pull qwen2.5-coder:7b-instruct-q4_K_M   # 3.9 GB
ollama serve &                                 # 仅启动服务

小技巧:serve 不进入交互,终端不再卡死。

③ 安装 Chatbox(可视化 UI)
  1. https://chatboxai.app/zh → Download for mac
  2. 拖进 Applications → 启动
  3. 设置向导:
    • 模型提供方 → Ollama
    • 模型名 → qwen2.5-coder:7b-instruct-q4_K_M
    • API 地址 → 默认 http://localhost:11434
      保存后右侧出现 ✅,即可开聊!
④ 功能体验
场景 操作
写周报 输入"把我这周的 git 日志变成 3 行中文周报"
传文件 左下角 📎 上传 PDF → 提问"总结 5 个要点"
贴图片 拖拽 JPG → "把图中表格转 Markdown"
代码补全 "用 C++17 实现线程池" → 一键复制高亮代码

五、进阶玩法

  1. 开机自启

    系统设置 → 登录项 → 添加 Ollama.app + Chatbox.app

  2. 换更大模型

    bash 复制代码
    ollama pull deepseek-coder-v2:8b   # 8B 代码强化

    Chatbox 设置里下拉切换即可,历史记录保留。

  3. 外挂 SSD

    bash 复制代码
    launchctl setenv OLLAMA_MODELS "/Volumes/SSD/ollama"

六、一键卸载(可选)

bash 复制代码
ollama stop
rm -rf ~/.ollama /Applications/Ollama.app /Applications/Chatbox.app

七、结语

至此,你的 M4 Mac mini 已变身「离线 AI 工作站」:

  • 0 订阅费、0 网络依赖
  • 源码、病历、合同随便传,数据不出本地
  • 后续想玩 30 B、多模态、RAG,也只是多敲一行 pull 的事

Have fun hacking AI!

如果本文帮到你,欢迎点个赞 & 收藏~

相关推荐
开开心心loky26 分钟前
[iOS] GCD - 线程与队列
macos·ios·objective-c·cocoa
MaybeAI2 小时前
构建可靠的 AI 工作流:我们在 MCP 架构下的实践与经验
ai·工作流·mcp·ai自动化·工作流自动化·无代码工作流·maybeai
冷冷的菜哥3 小时前
21款m1 max升级到macOS 14——Sonoma
macos·苹果·sonoma·macos系统升级
laocaibulao3 小时前
mac电脑composer命令如何指定PHP版本
macos·php·composer
00后程序员张3 小时前
iOS 上架费用全解析 开发者账号、App 审核、工具使用与开心上架(Appuploader)免 Mac 成本优化指南
android·macos·ios·小程序·uni-app·cocoa·iphone
檀越剑指大厂3 小时前
【ChatGPT系列】ChatGPT Atlas:未来浏览器的智慧体验
chatgpt
Elastic 中国社区官方博客3 小时前
如何使用 Ollama 在本地设置和运行 GPT-OSS
人工智能·gpt·elasticsearch·搜索引擎·ai·语言模型
Funny_AI_LAB6 小时前
深度解析Andrej Karpathy访谈:关于AI智能体、AGI、强化学习与大模型的十年远见
人工智能·计算机视觉·ai·agi
wrangler_csdn7 小时前
如何一键将 PDF 转为 Word?
人工智能·安全·ai
哥布林学者7 小时前
吴恩达深度学习课程二: 改善深层神经网络 第二周:优化算法(一)Mini-batch 梯度下降
深度学习·ai