技术栈
mac mini
arvin_xiaoting
14 天前
人工智能
·
macos
·
架构
·
mac mini
·
exo
使用 exo 技术构建 Mac mini AI 推理集群:从架构到实战
随着大语言模型(LLM)规模的不断增长,单机推理已无法满足高性能需求。本文介绍如何使用 exo 分布式推理框架在 Mac mini 集群上部署 AI 推理服务。exo 利用 MLX 作为推理后端,通过 Thunderbolt 5 RDMA 实现超低延迟的设备间通信,支持张量并行(Tensor Parallelism)和流水线并行(Pipeline Parallelism),可在多台 Mac 设备上无缝运行超大规模模型。
chaochaomiao
17 天前
mac mini
·
openclaw
·
小龙虾
·
omlx
Mac Mini + oMLX + openclaw 本地大模型养小龙虾及配置遇到的相关问题
说明:虽然16G也行,但要有好一点点的效果,还是需要24G以上好点,请根据自己的内存大小选择最适合的模型。使用2026.3.23后可以直接使用clawhub的skill方便点,某些功能不用自己写skill
韦东东
3 个月前
人工智能
·
macos
·
大模型
·
mac mini
·
边缘算力
·
知识库应用
万元级边缘算力方案:Mac Mini在几个知识库项目的部署实践
做企业知识库项目,私有化部署是绕不开的话题。有些行业有明确的合规要求,数据必须落在自己的服务器上;还有一些中小企业,数据本身可能并没那么敏感,但老板出于个人偏好也倾向于做本地化。这类项目的交付方式都是软硬件一体,不光要调好模型,还要把算力设备一起配好。
赵庆明老师
2 年前
macos
·
音视频
·
obs
·
mac mini
·
camtasia
【原创】录剪视频的折腾之路
本人为IT男,IT发展快,需要学习的东西又多。往往为了一个技术小问题,花好几天时间学习,接下来十来分钟把事情做完。下次遇到这个同样的问题的时候,可能是几个月后,甚至是几年以后了。这些技术早忘光了,于是又得重头学。虽然不再需要那么长时间,找资料也是个耗时的事情。
GameTomato
2 年前
macos
·
ios
·
xcode
·
游戏开发
·
cocos2d
·
mac mini
Mac下载的软件显示文件已损坏,如何解决文件已损坏问题,让文件可以正常运行
大家肯定都遇到过下载的dmg文件安装时显示文件已损坏,让丢废纸篓,系统设置也没有需要去手动点击通过允许啥的,这种情况就很头疼,想用又一直用不了。今天就总结一下分享给大家。
我是有底线的