【10 分钟!M4 Mac mini 离线部署「私有 ChatGPT」完整实录】

(支持上传文件 / 图片 / 代码高亮,全程 4 命令 3 点击)


一、前言

2025 年,开源大模型已卷到 8B 就能打 GPT-3.5。

手里这台 M4 Mac mini(24 GB + 512 GB)空着也是吃灰,不如 10 分钟搭一个「离线 ChatGPT」:

  • 数据不出本地,内网/飞机模式可用
  • 支持聊天、传文件、贴图片、代码高亮
  • 零费用、零订阅、可商用

跟着本文,复制 4 行命令、点 3 次鼠标即可搞定!


二、最终效果

功能 演示
多轮对话 写周报、改简历、解算法题
上传文件 PDF/Word/TXT 一键总结
贴图片 表格截图 → Markdown
代码高亮 C++/Python/Go 自动补全

三、硬件 & 系统

  • Mac mini M4(macOS 15.x)
  • 内存 ≥ 16 GB(推荐 24 GB)
  • 硬盘剩余 ≥ 10 GB(实际占用 ≈ 5 GB)

四、步骤总览(10 分钟流水账)

① 安装 Ollama(模型引擎)
  1. 官网 https://ollama.com → Download for mac
  2. 解压拖进 Applications → 首次启动点 Install CLI
  3. 验证:
bash 复制代码
ollama --version   # 0.3.x
② 拉取 & 启动模型(qwen2.5-coder 7B-int4)
bash 复制代码
ollama pull qwen2.5-coder:7b-instruct-q4_K_M   # 3.9 GB
ollama serve &                                 # 仅启动服务

小技巧:serve 不进入交互,终端不再卡死。

③ 安装 Chatbox(可视化 UI)
  1. https://chatboxai.app/zh → Download for mac
  2. 拖进 Applications → 启动
  3. 设置向导:
    • 模型提供方 → Ollama
    • 模型名 → qwen2.5-coder:7b-instruct-q4_K_M
    • API 地址 → 默认 http://localhost:11434
      保存后右侧出现 ✅,即可开聊!
④ 功能体验
场景 操作
写周报 输入"把我这周的 git 日志变成 3 行中文周报"
传文件 左下角 📎 上传 PDF → 提问"总结 5 个要点"
贴图片 拖拽 JPG → "把图中表格转 Markdown"
代码补全 "用 C++17 实现线程池" → 一键复制高亮代码

五、进阶玩法

  1. 开机自启

    系统设置 → 登录项 → 添加 Ollama.app + Chatbox.app

  2. 换更大模型

    bash 复制代码
    ollama pull deepseek-coder-v2:8b   # 8B 代码强化

    Chatbox 设置里下拉切换即可,历史记录保留。

  3. 外挂 SSD

    bash 复制代码
    launchctl setenv OLLAMA_MODELS "/Volumes/SSD/ollama"

六、一键卸载(可选)

bash 复制代码
ollama stop
rm -rf ~/.ollama /Applications/Ollama.app /Applications/Chatbox.app

七、结语

至此,你的 M4 Mac mini 已变身「离线 AI 工作站」:

  • 0 订阅费、0 网络依赖
  • 源码、病历、合同随便传,数据不出本地
  • 后续想玩 30 B、多模态、RAG,也只是多敲一行 pull 的事

Have fun hacking AI!

如果本文帮到你,欢迎点个赞 & 收藏~

相关推荐
柯儿的天空18 分钟前
【OpenClaw 全面解析:从零到精通】第 006 篇:OpenClaw 在 Windows/WSL2 上的安装与部署实战
人工智能·windows·语言模型·chatgpt·ai作画
拙野24 分钟前
OpenClaw 安装使用指南 (Windows)-对接钉钉、飞书、QQ
ai·钉钉·飞书·openclaw
柯儿的天空1 小时前
【OpenClaw 全面解析:从零到精通】第 005 篇:OpenClaw 在 macOS 上的安装与部署实战
人工智能·macos·自然语言处理·ai作画
CoderJia程序员甲1 小时前
GitHub 热榜项目 - 日榜(2026-03-20)
人工智能·ai·大模型·github·ai教程
芯跳加速1 小时前
AI 视频自动化学习日记 · 第三天
人工智能·学习·ai·自动化·音视频
AI英德西牛仔1 小时前
豆包公式格式
人工智能·ai·deepseek·ds随心转
前端摸鱼匠1 小时前
面试题4:多头注意力(MHA)相比单头注意力的优势是什么?Head数如何影响模型?
人工智能·ai·面试·职场和发展·求职招聘
胡少侠72 小时前
LangChain 重构 RAG:LCEL 管道语法 + 多轮对话记忆
ai·重构·langchain·agent·rag
qq_452396232 小时前
【Python × AI】LangChain 深度剖析:从组件解耦到 LCEL 的逻辑美学
人工智能·python·ai·langchain
GISer_Jing2 小时前
两种AI交互方式深度解析——浏览器书签&插件
前端·人工智能·ai·prompt