GGUF 与 MLX 路线示意
介绍官方模型规格、16GiB Mac 实际 sysctl 检查和只读内存预检脚本,不虚构真实模型推理性能。
LFM2.5-24B-A2B 有约 24B 总参数和每 token 约 2.45B 活跃参数,不能因为"只激活 2B 左右"就认为它像 2B 模型一样省内存。Liquid AI 官方 MLX 4-bit 文件约 13.6GB;这不是运行峰值内存,还要考虑系统占用、KV Cache 和上下文长度。本文没有下载运行模型,绝不将厂商速度写成本站实测。
本次独有资产是可下载的只读 Mac 内存预检工具:读取 sysctl hw.memsize,与模型托管文件体积及用户设定的预留预算比对。本站 Mac 检测为 16GiB,按明确假设预留 6GiB 后预算余量 -2.67GiB;这只是容量检查,不代表模型启动失败。
工具下载:https://www.xbstack.com/tools/lfm25-mac-preflight.py
如何选择
- GGUF/llama.cpp:适合跨平台、本地 HTTP 服务;需先确认当前运行时及模型架构兼容。
- MLX:适用于 Apple Silicon 原生测试,仍须核实版本、模型修订和上下文。
- 商用边界:模型采用 LFM Open License v1.0,商业使用及重新分发需遵守许可证;达到年营收门槛须另行申请商业许可。
没有 Mac 模型推理跑分;工具的通过也不是稳定可用的保证。
原文与完整部署步骤:XBSTACK 官方原文