【10 分钟!M4 Mac mini 离线部署「私有 ChatGPT」完整实录】

(支持上传文件 / 图片 / 代码高亮,全程 4 命令 3 点击)


一、前言

2025 年,开源大模型已卷到 8B 就能打 GPT-3.5。

手里这台 M4 Mac mini(24 GB + 512 GB)空着也是吃灰,不如 10 分钟搭一个「离线 ChatGPT」:

  • 数据不出本地,内网/飞机模式可用
  • 支持聊天、传文件、贴图片、代码高亮
  • 零费用、零订阅、可商用

跟着本文,复制 4 行命令、点 3 次鼠标即可搞定!


二、最终效果

功能 演示
多轮对话 写周报、改简历、解算法题
上传文件 PDF/Word/TXT 一键总结
贴图片 表格截图 → Markdown
代码高亮 C++/Python/Go 自动补全

三、硬件 & 系统

  • Mac mini M4(macOS 15.x)
  • 内存 ≥ 16 GB(推荐 24 GB)
  • 硬盘剩余 ≥ 10 GB(实际占用 ≈ 5 GB)

四、步骤总览(10 分钟流水账)

① 安装 Ollama(模型引擎)
  1. 官网 https://ollama.com → Download for mac
  2. 解压拖进 Applications → 首次启动点 Install CLI
  3. 验证:
bash 复制代码
ollama --version   # 0.3.x
② 拉取 & 启动模型(qwen2.5-coder 7B-int4)
bash 复制代码
ollama pull qwen2.5-coder:7b-instruct-q4_K_M   # 3.9 GB
ollama serve &                                 # 仅启动服务

小技巧:serve 不进入交互,终端不再卡死。

③ 安装 Chatbox(可视化 UI)
  1. https://chatboxai.app/zh → Download for mac
  2. 拖进 Applications → 启动
  3. 设置向导:
    • 模型提供方 → Ollama
    • 模型名 → qwen2.5-coder:7b-instruct-q4_K_M
    • API 地址 → 默认 http://localhost:11434
      保存后右侧出现 ✅,即可开聊!
④ 功能体验
场景 操作
写周报 输入"把我这周的 git 日志变成 3 行中文周报"
传文件 左下角 📎 上传 PDF → 提问"总结 5 个要点"
贴图片 拖拽 JPG → "把图中表格转 Markdown"
代码补全 "用 C++17 实现线程池" → 一键复制高亮代码

五、进阶玩法

  1. 开机自启

    系统设置 → 登录项 → 添加 Ollama.app + Chatbox.app

  2. 换更大模型

    bash 复制代码
    ollama pull deepseek-coder-v2:8b   # 8B 代码强化

    Chatbox 设置里下拉切换即可,历史记录保留。

  3. 外挂 SSD

    bash 复制代码
    launchctl setenv OLLAMA_MODELS "/Volumes/SSD/ollama"

六、一键卸载(可选)

bash 复制代码
ollama stop
rm -rf ~/.ollama /Applications/Ollama.app /Applications/Chatbox.app

七、结语

至此,你的 M4 Mac mini 已变身「离线 AI 工作站」:

  • 0 订阅费、0 网络依赖
  • 源码、病历、合同随便传,数据不出本地
  • 后续想玩 30 B、多模态、RAG,也只是多敲一行 pull 的事

Have fun hacking AI!

如果本文帮到你,欢迎点个赞 & 收藏~

相关推荐
七夜zippoe9 小时前
Agent 错误处理体系:分类、重试、降级与熔断设计
ai·agent·降级·错误处理·熔断设计
VIP_CQCRE9 小时前
内容自动化越跑越乱?先补上状态、去重和失败恢复
python·ai·工作流·幂等设计·内容自动化
DevOps老兵9 小时前
Transformer拆解06:Self-Attention,一句话里的词怎样互相看见
大模型·transformer·自注意力·self-attention·注意力矩阵
我喜欢就喜欢10 小时前
RAG 重排序 Rerank 实战:用 bge-reranker 把 Top-K 命中率拉回来
python·大模型·向量检索·rag·rerank
GJGCY10 小时前
券商舆情智能体如何设计?事件聚类去重、主体消歧与风险事件抽取技术解析
经验分享·ai·金融·自动化·证券·智能体
whyutianict_vv10 小时前
零基础转 AI 运维:投入清单、技术路线与核对表
linux·运维·人工智能·ai
VIP_CQCRE11 小时前
在 VS Code 等编辑器里用 OpenCode 接入 Ace Data Cloud:Provider 配置与 IDE 验证
大模型·ai编程·vs code·opencode·ace data cloud
行走的陀螺仪11 小时前
Super-Agent 架构演进(下):解耦设计与 NestJS 工程落地
架构·大模型·agent
HKT_China11 小时前
香港电讯河套区创新科技中心暨AI机楼揭幕,以网络基建助力北部都会区发展
网络·ai
孤狼GPT12 小时前
ChatGPT、Codex数据库实战:MyBatis-Plus第一页查询正常,翻到第10000页为什么越来越慢?
mysql·chatgpt·mybatis-plus·codex·深分页