【10 分钟!M4 Mac mini 离线部署「私有 ChatGPT」完整实录】

(支持上传文件 / 图片 / 代码高亮,全程 4 命令 3 点击)


一、前言

2025 年,开源大模型已卷到 8B 就能打 GPT-3.5。

手里这台 M4 Mac mini(24 GB + 512 GB)空着也是吃灰,不如 10 分钟搭一个「离线 ChatGPT」:

  • 数据不出本地,内网/飞机模式可用
  • 支持聊天、传文件、贴图片、代码高亮
  • 零费用、零订阅、可商用

跟着本文,复制 4 行命令、点 3 次鼠标即可搞定!


二、最终效果

功能 演示
多轮对话 写周报、改简历、解算法题
上传文件 PDF/Word/TXT 一键总结
贴图片 表格截图 → Markdown
代码高亮 C++/Python/Go 自动补全

三、硬件 & 系统

  • Mac mini M4(macOS 15.x)
  • 内存 ≥ 16 GB(推荐 24 GB)
  • 硬盘剩余 ≥ 10 GB(实际占用 ≈ 5 GB)

四、步骤总览(10 分钟流水账)

① 安装 Ollama(模型引擎)
  1. 官网 https://ollama.com → Download for mac
  2. 解压拖进 Applications → 首次启动点 Install CLI
  3. 验证:
bash 复制代码
ollama --version   # 0.3.x
② 拉取 & 启动模型(qwen2.5-coder 7B-int4)
bash 复制代码
ollama pull qwen2.5-coder:7b-instruct-q4_K_M   # 3.9 GB
ollama serve &                                 # 仅启动服务

小技巧:serve 不进入交互,终端不再卡死。

③ 安装 Chatbox(可视化 UI)
  1. https://chatboxai.app/zh → Download for mac
  2. 拖进 Applications → 启动
  3. 设置向导:
    • 模型提供方 → Ollama
    • 模型名 → qwen2.5-coder:7b-instruct-q4_K_M
    • API 地址 → 默认 http://localhost:11434
      保存后右侧出现 ✅,即可开聊!
④ 功能体验
场景 操作
写周报 输入"把我这周的 git 日志变成 3 行中文周报"
传文件 左下角 📎 上传 PDF → 提问"总结 5 个要点"
贴图片 拖拽 JPG → "把图中表格转 Markdown"
代码补全 "用 C++17 实现线程池" → 一键复制高亮代码

五、进阶玩法

  1. 开机自启

    系统设置 → 登录项 → 添加 Ollama.app + Chatbox.app

  2. 换更大模型

    bash 复制代码
    ollama pull deepseek-coder-v2:8b   # 8B 代码强化

    Chatbox 设置里下拉切换即可,历史记录保留。

  3. 外挂 SSD

    bash 复制代码
    launchctl setenv OLLAMA_MODELS "/Volumes/SSD/ollama"

六、一键卸载(可选)

bash 复制代码
ollama stop
rm -rf ~/.ollama /Applications/Ollama.app /Applications/Chatbox.app

七、结语

至此,你的 M4 Mac mini 已变身「离线 AI 工作站」:

  • 0 订阅费、0 网络依赖
  • 源码、病历、合同随便传,数据不出本地
  • 后续想玩 30 B、多模态、RAG,也只是多敲一行 pull 的事

Have fun hacking AI!

如果本文帮到你,欢迎点个赞 & 收藏~

相关推荐
yuhulkjv3351 小时前
Claude表格复制到word不再崩溃,AI导出鸭批量导出+格式无损一键搞定
人工智能·ai·c#·word·ai导出鸭
DS随心转小程序3 小时前
ChatGPT 文字怎么转为 word?解析各类转换方案,AI 导出鸭成为高效文档转换新选择
人工智能·chatgpt·word·豆包·deepseek·ai导出鸭
小田学Python5 小时前
重新定义 Agent:为什么大模型不能直接干活,需要一层“壳”
大模型·api·ai agent
JaydenAI5 小时前
[基于OpenEvals的自动化评估-10]针对Agent对话的评估[上篇]
ai·langchain·agent·evaluation·openevals
~央千澈~6 小时前
从“拟声”到“生成”:AI音效背后的技术原理·优雅草AI音乐·AI音乐技术研究
大数据·人工智能·ai·音频
啾啾Fun6 小时前
【AI原生组织】6-AI Native团队组建与基础设施搭建
人工智能·chatgpt·ai-native·ai agent·ai原生组织·人机混编
城管不管7 小时前
重生——第九次面试2026.8.13某车一面
分布式·ai·面试·职场和发展·rabbitmq
白拾7 小时前
【arXiv 2026】Nemotron-Labs-Diffusion:三模式语言模型 统一自回归、扩散与自推测解码|从大模型推理加速视角
大模型·推理加速·扩散语言模型·并行解码·自推测解码·arxiv 2026
东姬AI9 小时前
Anthropic模型36小时突破46年数学进展,同日三家前沿模型上新:当AI抽象智能逼近极限,“表现力“为什么仍是结构性空白
ai·agent·grok·deepseek·anthropic·黎曼猜想·qwen3.8