【10 分钟!M4 Mac mini 离线部署「私有 ChatGPT」完整实录】

(支持上传文件 / 图片 / 代码高亮,全程 4 命令 3 点击)


一、前言

2025 年,开源大模型已卷到 8B 就能打 GPT-3.5。

手里这台 M4 Mac mini(24 GB + 512 GB)空着也是吃灰,不如 10 分钟搭一个「离线 ChatGPT」:

  • 数据不出本地,内网/飞机模式可用
  • 支持聊天、传文件、贴图片、代码高亮
  • 零费用、零订阅、可商用

跟着本文,复制 4 行命令、点 3 次鼠标即可搞定!


二、最终效果

功能 演示
多轮对话 写周报、改简历、解算法题
上传文件 PDF/Word/TXT 一键总结
贴图片 表格截图 → Markdown
代码高亮 C++/Python/Go 自动补全

三、硬件 & 系统

  • Mac mini M4(macOS 15.x)
  • 内存 ≥ 16 GB(推荐 24 GB)
  • 硬盘剩余 ≥ 10 GB(实际占用 ≈ 5 GB)

四、步骤总览(10 分钟流水账)

① 安装 Ollama(模型引擎)
  1. 官网 https://ollama.com → Download for mac
  2. 解压拖进 Applications → 首次启动点 Install CLI
  3. 验证:
bash 复制代码
ollama --version   # 0.3.x
② 拉取 & 启动模型(qwen2.5-coder 7B-int4)
bash 复制代码
ollama pull qwen2.5-coder:7b-instruct-q4_K_M   # 3.9 GB
ollama serve &                                 # 仅启动服务

小技巧:serve 不进入交互,终端不再卡死。

③ 安装 Chatbox(可视化 UI)
  1. https://chatboxai.app/zh → Download for mac
  2. 拖进 Applications → 启动
  3. 设置向导:
    • 模型提供方 → Ollama
    • 模型名 → qwen2.5-coder:7b-instruct-q4_K_M
    • API 地址 → 默认 http://localhost:11434
      保存后右侧出现 ✅,即可开聊!
④ 功能体验
场景 操作
写周报 输入"把我这周的 git 日志变成 3 行中文周报"
传文件 左下角 📎 上传 PDF → 提问"总结 5 个要点"
贴图片 拖拽 JPG → "把图中表格转 Markdown"
代码补全 "用 C++17 实现线程池" → 一键复制高亮代码

五、进阶玩法

  1. 开机自启

    系统设置 → 登录项 → 添加 Ollama.app + Chatbox.app

  2. 换更大模型

    bash 复制代码
    ollama pull deepseek-coder-v2:8b   # 8B 代码强化

    Chatbox 设置里下拉切换即可,历史记录保留。

  3. 外挂 SSD

    bash 复制代码
    launchctl setenv OLLAMA_MODELS "/Volumes/SSD/ollama"

六、一键卸载(可选)

bash 复制代码
ollama stop
rm -rf ~/.ollama /Applications/Ollama.app /Applications/Chatbox.app

七、结语

至此,你的 M4 Mac mini 已变身「离线 AI 工作站」:

  • 0 订阅费、0 网络依赖
  • 源码、病历、合同随便传,数据不出本地
  • 后续想玩 30 B、多模态、RAG,也只是多敲一行 pull 的事

Have fun hacking AI!

如果本文帮到你,欢迎点个赞 & 收藏~

相关推荐
装不满的克莱因瓶24 分钟前
自然语言处理中的分词——从语言切分到模型输入的第一步
人工智能·pytorch·python·深度学习·ai·自然语言处理
算家云30 分钟前
极速并行文本生成:谷歌开源 DiffusionGemma 扩散大模型
ai·google·大模型·算力
身如柳絮随风扬36 分钟前
从零构建 Agent Skill:Cursor 与 Claude Code 完全集成指南
ai
qq_411262421 小时前
四博智联AI开发宝典(2/3):后端部署、OTA与AT+MCP接入
人工智能·ai·四博
LinMin_Rik1 小时前
Mac上获取私钥证书P12文件(也可以给win11的HbuilderX使用)
macos
财经资讯数据_灵砚智能1 小时前
基于全球经济类多源新闻的NLP情感分析与数据可视化(日间)2026年6月12日
人工智能·python·ai·信息可视化·自然语言处理·ai编程·灵砚智能
一锅炖出任易仙1 小时前
创梦汤锅学习日记day32
学习·ai·游戏引擎
硬核子牙1 小时前
你管这破玩意叫ChatGPT?
人工智能·chatgpt·程序员
qq_411262422 小时前
AI-01开发板编译、烧录与双配网模式说明
人工智能·ai·esp32-c2·四博
Tbisnic2 小时前
AI大模型学习第十二天:Coze工作流与智能体开发
人工智能·python·ai·大模型·智能体·coze