技术栈

omlx

会思想的苇草i
8 天前
大模型·ai编程·开发·本地部署·omlx
oMLX 部署本地大模型云端 Token 太贵?用 oMLX 本地部署大模型,构建你的私有 AI 推理服务在 AI 应用开发中,越来越多工程师开始接入大模型能力(如 Copilot、AI 搜索、Agent 等)。但随着使用频率提升,一个现实问题逐渐暴露:
逐梦苍穹
2 个月前
人工智能·缓存·ollama·claudecode·omlx
omlx实战:5分钟让Apple Silicon本地跑通Claude Code——分页SSD KV缓存把TTFT从90秒压到1秒(附安装踩坑+实测)🍃作者介绍:AI 应用负责人/AI产品架构师,阿里云专家博主。专注 LLM 应用开发、Agent 系统设计、具身智能与工业 AI 落地。日常在大模型训练、Coding Agent 工具链、AI 产品商业化等方向持续输出实战内容。 🦅个人主页:@逐梦苍穹 🐼GitHub主页:https://github.com/XZL-CODE ✈ 您的一键三连,是我创作的最大动力🌹
chaochaomiao
4 个月前
mac mini·openclaw·小龙虾·omlx
Mac Mini + oMLX + openclaw 本地大模型养小龙虾及配置遇到的相关问题说明:虽然16G也行,但要有好一点点的效果,还是需要24G以上好点,请根据自己的内存大小选择最适合的模型。使用2026.3.23后可以直接使用clawhub的skill方便点,某些功能不用自己写skill
我是有底线的