NVIDIA 将 Run:ai 平台全面开源,纳入 DSX AI Factory 体系

NVIDIA 把 Run:ai 平台的完整源代码公开,源码采用 Apache 2.0 许可证,托管在 GitHub 上的 NVIDIA DSX AI Factory 组织中。这是一次整体开源,不是个别模块的试验性发布。

Run:ai 是什么,开源了什么

Run:ai 过去几年一直帮助企业在 Kubernetes(一套开源容器编排系统)上大规模运行 AI 工作负载,核心功能是 GPU 资源的调度和编排。这次开源覆盖整个平台,完整的开源版本也同步上架 NVIDIA NGC,作为社区产品(Community Product)提供。

平台内部有几个独立组件值得单独说明。KAI Scheduler 是其中的调度器模块,NVIDIA 以 Apache 2.0 许可证发布并捐给了 CNCF(云原生计算基金会),目前是一个沙箱项目(Sandbox project),意味着它还处于基金会孵化流程的早期阶段,尚未达到孵化或毕业级别。KAI Scheduler 支持动态资源分配(Dynamic Resource Allocation,简称 DRA),这是 Kubernetes 里用来更灵活地分配 GPU 等硬件资源的机制。

另一个组件是 Model Streamer,用于加速模型加载。按 NVIDIA 官方博客给出的数据,它能让模型加载吞吐量保持在 80 Gbps 的稳定水平,而默认路径大约是 40 Gbps。这个组件已经集成进 vLLM 和 SGLang 的上游代码库,用户可以通过加载格式参数 runai_streamer 启用。还有一个叫 Workload Map 的工具,以 Go 语言库的形式发布,可以离线处理未经结构化的对象,不依赖在线服务。

本地部署的硬件门槛

aihot 披露了本地搭建环境的具体要求。支持的主机系统是 macOS 或 Linux,处理器架构可以是 amd64 或 arm64,Windows 不支持。Linux 主机需要 4 个 CPU、16 GB 内存和 100 GB 可用磁盘空间。如果是在 macOS 上通过 Podman 跑虚拟机,内存至少要 12 GB。完整构建一次会留下约 44 GB 的缓存文件,这部分空间占用在规划本地环境时需要提前预留。

商业化路径:开源不等于免费支持

NVIDIA 在博客里把开源版本和商业支持分得很清楚。NGC 上的社区产品版本不需要付费的 Run:ai 订阅,也不需要 NVIDIA 的支持权益即可使用,但企业级支持不包含在内。换句话说,代码本身免费可用,遇到问题要拿到官方支持仍然要走商业合同。

这个模式给生态伙伴留出了接入空间。Crusoe 把 Run:ai 和 Crusoe Managed Kubernetes 做了整合,把 GPU 工作负载调度和它自己的托管 Kubernetes、GPU 基础设施结合在一起。Mirantis 用 Run:ai 扩展了 k0rdent AI,目标是做一套从硬件到模型、全生命周期托管的 AI 基础设施栈。Nebius 直接在 Nebius AI Cloud 里把 Run:ai 做成一键部署的应用。Rafay 正在把现有的 Run:ai 集成升级为完全托管服务。Spectro Cloud 则把它接入自家的 PaletteAI 产品。这五家的接入方式各不相同,有的是基础设施层整合,有的是托管服务,有的是应用市场形式的一键部署。

开放的问题

目前的材料没有给出开源后 Run:ai 的用户规模、企业客户迁移情况,也没有第三方对这次开源商业影响的评价,这些需要等后续报道补充。KAI Scheduler 作为 CNCF 沙箱项目,何时能进入孵化阶段,目前也没有时间表。

相关推荐
俊哥V2 小时前
每日 AI 研究简报 · 2026-10-20
人工智能·ai
探索云原生2 小时前
Ascend vNPU 实战:从原生 Docker 到 Ascend Docker Runtime
linux·ai·云原生·kubernetes·gpu
ofoxcoding2 小时前
n8n 对接第三方 API 实战:使用自有 Key 搭建完整自动化工作流
ai
Yunovian3 小时前
Flash 大模型是什么,它是如何重构计算成本与智能能力的关系的
人工智能·ai·语言模型
GlobalInfo4 小时前
2026年机器人3D ToF相机行业发展趋势深度研判:十五五重点赛道、市场占有率与区域格局
人工智能·数码相机·ai·机器人
AI办公探索者4 小时前
多智能体博弈(Multi-Agent Game):采购Agent与销售Agent如何自动谈判?
大数据·人工智能·ai
风之九子4 小时前
在上游一天两版的项目上做二次开发:9 天 65 次提交的 fork 手记 (dsh-our-free-model)
人工智能·ai·github
Elaine10124 小时前
AI智能化项目管理(三):AI如何辅助项目文档检查?从交付物质量到流程附件审核
人工智能·ai·项目管理·项目管理工具
codigger5 小时前
MCP 退潮:为什么一线工程团队开始转向 CLI-First 的 Agent 工具模式
ai·程序员·编程语言·#人工智能·#agent