NVIDIA 将 Run:ai 平台全面开源,纳入 DSX AI Factory 体系

NVIDIA 把 Run:ai 平台的完整源代码公开,源码采用 Apache 2.0 许可证,托管在 GitHub 上的 NVIDIA DSX AI Factory 组织中。这是一次整体开源,不是个别模块的试验性发布。

Run:ai 是什么,开源了什么

Run:ai 过去几年一直帮助企业在 Kubernetes(一套开源容器编排系统)上大规模运行 AI 工作负载,核心功能是 GPU 资源的调度和编排。这次开源覆盖整个平台,完整的开源版本也同步上架 NVIDIA NGC,作为社区产品(Community Product)提供。

平台内部有几个独立组件值得单独说明。KAI Scheduler 是其中的调度器模块,NVIDIA 以 Apache 2.0 许可证发布并捐给了 CNCF(云原生计算基金会),目前是一个沙箱项目(Sandbox project),意味着它还处于基金会孵化流程的早期阶段,尚未达到孵化或毕业级别。KAI Scheduler 支持动态资源分配(Dynamic Resource Allocation,简称 DRA),这是 Kubernetes 里用来更灵活地分配 GPU 等硬件资源的机制。

另一个组件是 Model Streamer,用于加速模型加载。按 NVIDIA 官方博客给出的数据,它能让模型加载吞吐量保持在 80 Gbps 的稳定水平,而默认路径大约是 40 Gbps。这个组件已经集成进 vLLM 和 SGLang 的上游代码库,用户可以通过加载格式参数 runai_streamer 启用。还有一个叫 Workload Map 的工具,以 Go 语言库的形式发布,可以离线处理未经结构化的对象,不依赖在线服务。

本地部署的硬件门槛

aihot 披露了本地搭建环境的具体要求。支持的主机系统是 macOS 或 Linux,处理器架构可以是 amd64 或 arm64,Windows 不支持。Linux 主机需要 4 个 CPU、16 GB 内存和 100 GB 可用磁盘空间。如果是在 macOS 上通过 Podman 跑虚拟机,内存至少要 12 GB。完整构建一次会留下约 44 GB 的缓存文件,这部分空间占用在规划本地环境时需要提前预留。

商业化路径:开源不等于免费支持

NVIDIA 在博客里把开源版本和商业支持分得很清楚。NGC 上的社区产品版本不需要付费的 Run:ai 订阅,也不需要 NVIDIA 的支持权益即可使用,但企业级支持不包含在内。换句话说,代码本身免费可用,遇到问题要拿到官方支持仍然要走商业合同。

这个模式给生态伙伴留出了接入空间。Crusoe 把 Run:ai 和 Crusoe Managed Kubernetes 做了整合,把 GPU 工作负载调度和它自己的托管 Kubernetes、GPU 基础设施结合在一起。Mirantis 用 Run:ai 扩展了 k0rdent AI,目标是做一套从硬件到模型、全生命周期托管的 AI 基础设施栈。Nebius 直接在 Nebius AI Cloud 里把 Run:ai 做成一键部署的应用。Rafay 正在把现有的 Run:ai 集成升级为完全托管服务。Spectro Cloud 则把它接入自家的 PaletteAI 产品。这五家的接入方式各不相同,有的是基础设施层整合,有的是托管服务,有的是应用市场形式的一键部署。

开放的问题

目前的材料没有给出开源后 Run:ai 的用户规模、企业客户迁移情况,也没有第三方对这次开源商业影响的评价,这些需要等后续报道补充。KAI Scheduler 作为 CNCF 沙箱项目,何时能进入孵化阶段,目前也没有时间表。

原文地址:tools.wflynn.cn/aitools/tre...

关注公众号「YourTools」,每天推送 GitHub 趋势与开源工具速报:

相关推荐
SL_staff1 小时前
制造业交付崩盘?用跨部门节点协同计划打通销售、生产与质量链路
java·开源·产品
分布式存储与RustFS4 小时前
OpenSearch 的索引快照别只留本地:用 repository-s3 存进 RustFS
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
ClouGence4 小时前
开源数据库管理工具 CloudDM 新版本发布,支持 OpenSearch、IoTDB 数据源
数据库·开源
菩提小狗4 小时前
每日极客日报 · 2026年11月08日
ai·开源·极客日报·it热点·技术资讯
fthux5 小时前
待办清单写满了,别忘了给休息留个位置:试试 Tick Rest
开源·github·mac·提醒·open source·消息提醒·tick rest·tick rest for mac·消息提醒app
一 铭5 小时前
WrenAI 详解:给 AI Agent 的开源 GenBI 引擎
人工智能·开源
GitHub实测笔记6 小时前
dust 本机实测:/usr 扫树中位 92ms、du -sh 80ms;-s 不是汇总,稀疏文件 0→100Mi
github
鶴哥只手遮天6 小时前
《Redis 8.10.3 深度剖析》系列 ·第 10 章 Hash 一:`listpack`、`hashtable` 与 `LISTPACK_EX`
redis·后端·开源
逛逛GitHub6 小时前
有个刚开源的 GitHub 项目有说法,竟然能在终端里再跑一台 Mac。
github
用户2991422196806 小时前
GitHub 热榜项目:日榜(2026-11-09)
人工智能·开源·github