NVIDIA 把 Run:ai 平台的完整源代码公开，源码采用 Apache 2.0 许可证，托管在 GitHub 上的 NVIDIA DSX AI Factory 组织中。这是一次整体开源，不是个别模块的试验性发布。
Run:ai 是什么，开源了什么
Run:ai 过去几年一直帮助企业在 Kubernetes（一套开源容器编排系统）上大规模运行 AI 工作负载，核心功能是 GPU 资源的调度和编排。这次开源覆盖整个平台，完整的开源版本也同步上架 NVIDIA NGC，作为社区产品（Community Product）提供。
平台内部有几个独立组件值得单独说明。KAI Scheduler 是其中的调度器模块，NVIDIA 以 Apache 2.0 许可证发布并捐给了 CNCF（云原生计算基金会），目前是一个沙箱项目（Sandbox project），意味着它还处于基金会孵化流程的早期阶段，尚未达到孵化或毕业级别。KAI Scheduler 支持动态资源分配（Dynamic Resource Allocation，简称 DRA），这是 Kubernetes 里用来更灵活地分配 GPU 等硬件资源的机制。
另一个组件是 Model Streamer，用于加速模型加载。按 NVIDIA 官方博客给出的数据，它能让模型加载吞吐量保持在 80 Gbps 的稳定水平，而默认路径大约是 40 Gbps。这个组件已经集成进 vLLM 和 SGLang 的上游代码库，用户可以通过加载格式参数 runai_streamer 启用。还有一个叫 Workload Map 的工具，以 Go 语言库的形式发布，可以离线处理未经结构化的对象，不依赖在线服务。
本地部署的硬件门槛
aihot 披露了本地搭建环境的具体要求。支持的主机系统是 macOS 或 Linux，处理器架构可以是 amd64 或 arm64，Windows 不支持。Linux 主机需要 4 个 CPU、16 GB 内存和 100 GB 可用磁盘空间。如果是在 macOS 上通过 Podman 跑虚拟机，内存至少要 12 GB。完整构建一次会留下约 44 GB 的缓存文件，这部分空间占用在规划本地环境时需要提前预留。
商业化路径：开源不等于免费支持
NVIDIA 在博客里把开源版本和商业支持分得很清楚。NGC 上的社区产品版本不需要付费的 Run:ai 订阅，也不需要 NVIDIA 的支持权益即可使用，但企业级支持不包含在内。换句话说，代码本身免费可用，遇到问题要拿到官方支持仍然要走商业合同。
这个模式给生态伙伴留出了接入空间。Crusoe 把 Run:ai 和 Crusoe Managed Kubernetes 做了整合，把 GPU 工作负载调度和它自己的托管 Kubernetes、GPU 基础设施结合在一起。Mirantis 用 Run:ai 扩展了 k0rdent AI，目标是做一套从硬件到模型、全生命周期托管的 AI 基础设施栈。Nebius 直接在 Nebius AI Cloud 里把 Run:ai 做成一键部署的应用。Rafay 正在把现有的 Run:ai 集成升级为完全托管服务。Spectro Cloud 则把它接入自家的 PaletteAI 产品。这五家的接入方式各不相同，有的是基础设施层整合，有的是托管服务，有的是应用市场形式的一键部署。
开放的问题
目前的材料没有给出开源后 Run:ai 的用户规模、企业客户迁移情况，也没有第三方对这次开源商业影响的评价，这些需要等后续报道补充。KAI Scheduler 作为 CNCF 沙箱项目，何时能进入孵化阶段，目前也没有时间表。
原文地址：tools.wflynn.cn/aitools/tre...
关注公众号「YourTools」，每天推送 GitHub 趋势与开源工具速报：
