LFM2.5-24B-A2B Mac 本地部署:内存估算、GGUF/MLX 与 Python 预检脚本

GGUF 与 MLX 路线示意

介绍官方模型规格、16GiB Mac 实际 sysctl 检查和只读内存预检脚本,不虚构真实模型推理性能。

LFM2.5-24B-A2B 有约 24B 总参数和每 token 约 2.45B 活跃参数,不能因为"只激活 2B 左右"就认为它像 2B 模型一样省内存。Liquid AI 官方 MLX 4-bit 文件约 13.6GB;这不是运行峰值内存,还要考虑系统占用、KV Cache 和上下文长度。本文没有下载运行模型,绝不将厂商速度写成本站实测。

本次独有资产是可下载的只读 Mac 内存预检工具:读取 sysctl hw.memsize,与模型托管文件体积及用户设定的预留预算比对。本站 Mac 检测为 16GiB,按明确假设预留 6GiB 后预算余量 -2.67GiB;这只是容量检查,不代表模型启动失败。

工具下载:https://www.xbstack.com/tools/lfm25-mac-preflight.py

如何选择

  • GGUF/llama.cpp:适合跨平台、本地 HTTP 服务;需先确认当前运行时及模型架构兼容。
  • MLX:适用于 Apple Silicon 原生测试,仍须核实版本、模型修订和上下文。
  • 商用边界:模型采用 LFM Open License v1.0,商业使用及重新分发需遵守许可证;达到年营收门槛须另行申请商业许可。

没有 Mac 模型推理跑分;工具的通过也不是稳定可用的保证。

完整步骤及来源:https://www.xbstack.com/ai/lfm2-5-24b-a2b-mac-memory-gguf-mlx/?utm_source=csdn\&utm_medium=referral\&utm_campaign=lfm25_mac_preflight\&utm_content=original

原文与完整部署步骤:XBSTACK 官方原文

相关推荐
张张123y几秒前
DSH 插件调试避坑:client.js 设置面板、热重载与高频报错排查表
开发语言·javascript·人工智能·开源·ecmascript·后端开发·ai agent
tellmewhoisi2 小时前
深度学习0:数学知识:正态分布4(坐标变换的缩放比例(面积微元变换))
人工智能·深度学习
布吉岛的石头2 小时前
Java 程序员第 50 阶段14:灾难性遗忘与回放
人工智能·深度学习·transformer
不吃鱼的羊2 小时前
诊断27解锁dll文件制作(Visual Stdio无法安装版)
人工智能
后端小肥肠2 小时前
漫画工坊上线用户破百:公众号漫画从需求到变现全复盘
人工智能·aigc·agent
赛博山人3 小时前
字节跳动下线扣子企业版,团队已并入豆包
人工智能
isboyjc3 小时前
Lomo Agent:面向创作型、持续协作 Agent 的架构设计与工程实践
人工智能·架构·agent
小蒋观天下3 小时前
码率、I帧间隔、智能编码冲突:H.265+导致AI取流解码异常
人工智能
roman_日积跬步-终至千里4 小时前
AI 能让一个人成为团队吗?从数据中台到 OPC,重新理解软件工程能力
大数据·人工智能·软件工程