随着 Agentic AI 的快速发展，越来越多企业正在通过私有部署，构建数据可控、性能稳定、成本可预测的企业级智能体。当 AI 从模型调用变成持续运行的企业工作负载，Agent Ready 也对企业 IT 基础设施提出新的需求，并形成模型推理、Agent 运行两大场景和不同挑战。
围绕上述变化，SmartX 发布《构建 Agent Ready 的企业云基础设施》白皮书，梳理 Agentic AI 落地趋势、模型推理与 Agent 运行两大场景特点与基础设施需求，并结合榫卯企业云平台能力与用户实践，提供可落地的建设思路。核心内容包括：
- Agentic AI 发展趋势与 Agent 负载特点。
- 企业级 Agent 私有化部署趋势与要求。
- 模型推理与 Agent 运行两大场景下的基础设施挑战。
- 基于 SmartX 榫卯企业云平台构建 Agent Ready 基础设施的演进路径与能力说明。
- 金融、制造、医疗等行业用户在智能运维、模型服务治理等场景的实践详情。
以下内容为白皮书核心内容提炼，您可扫码浏览白皮书内容并下载。
Agent 让 AI 从"模型调用"变成"持续运行的企业工作负载"
企业 AI 正在从"模型调用"走向"Agent 运行"。随着 Agent 进入知识管理、研发、客服、数据分析和运维等场景，AI 开始从一次性请求变成持续运行的企业工作负载。这一变化正在重塑企业 AI 基础设施的需求形态：随着 Agent 数量增长、调用链路变长和 Token 用量上升，基础设施压力从模型推理和 GPU，进一步扩展到 CPU、存储、网络、安全、权限治理和全链路可观测。
Agent 运行特点让私有部署成为主流形态
企业级 Agent 的价值来自对企业知识库、数据库、业务系统、MCP Server、工具和模型服务的持续连接，也会在执行过程中产生上下文、工作目录、文件、中间结果和调用记录，这一特点让 Agent 的安全治理与数据主权成为企业用户关注的首要问题。同时，Agent 运行对模型服务所需的海量 Tokens 消耗等问题也加速了用户私有部署的规划。
生产级 Agent 基础设施：从模型推理到 Agent 运行的两大场景与落地挑战
生产级 Agent 落地可以拆解为模型推理与 Agent 运行两类典型场景，其运行特点、能力要求各有不同，同时相互关联，共同决定 Agent 能否稳定进入生产环境。
模型推理基础设施的挑战在于，企业需要把分散算力、异构资源、模型文件和推理服务纳入统一治理，避免资源池割裂、模型重复部署和服务质量不可控。随着 GPU、国产算力和多类型模型并存，基础设施需要具备统一调度、配额管理、资源隔离、模型版本管理，以及推理服务入口、鉴权、限流、日志和用量统计等能力。
Agent 运行基础设施的挑战在于，Agent 的持续执行、状态沉淀、工具调用和动态访问，会放大存储、安全、网络治理和可观测要求。基础设施需要支撑工作目录、上下文、文件和中间结果的持久化，提供不同强度的安全隔离，治理 Agent 对模型服务、MCP Server、数据库、企业 API 和外部服务的访问，并覆盖调用链、权限使用、文件生成、模型调用和 Token 消耗等运行信息。
SmartX 榫卯企业云平台：一套云平台支撑从传统应用到 Agent 时代的无缝演进
基于榫卯企业云平台，SmartX 将虚拟化、容器、存储（块+文件）、网络安全、容灾、模型服务（MaaS）、统一管理整合为一套可演进的云基础设施，即将 AI 能力作为既有云基础设施能力的延展，无需重复建设，并可实现传统应用、容器应用、模型服务与 Agent 运行的统一承载与运维。
灵活组合产品模块，支撑模型推理与 Agent 运行并行演进
面向 AI 落地，榫卯企业云平台并不是以单一产品形态覆盖所有需求，而是围绕模型推理与 Agent 运行两类关键场景提供不同能力组合。两类场景可以在同一云基础设施中协同承载，也可以根据用户现有资源和建设阶段按需组合。
在模型推理服务场景中，用户可基于榫卯 AI 平台结合SKS 容器服务，快速搭建生产级模型基础设施，统一接入私有模型与内外部公有模型，并融合 vLLM、SGLang 等推理引擎能力，支撑高吞吐、低延迟的模型服务。同时，平台通过模型网关、用量统计、配额管理、访问控制和访问日志，实现模型调用治理；并结合多地域、多类型 AI 服务器纳管、GPU 虚拟化和全链路可观测能力，提升异构芯片利用效率，支撑问题定位、安全审计、性能评估和资源优化。
在 Agent 运行场景中，用户可以榫卯企业云平台为底座，将虚拟机、容器、存储、网络安全和 Agent 原生文件共享能力整合在统一架构中，为 Agent 提供统一运行时环境和安全沙箱能力，支撑可靠、安全运行。同时，平台通过高性能块存储与文件存储，满足 Agent 并发读写、上下文私有数据存储和跨 Agent 数据共享需求；并结合网络流量可视化、虚拟机与容器统一安全策略，呈现 Agent 与 MCP 服务之间的调用拓扑，保障 Agent 之间及 Agent 与 MCP 服务之间的通信安全，支持多 Agent 协同与数据流转。
多家用户实践：从企业云平台向 Agent Ready 基础设施延伸
目前，来自金融、制造、医疗等行业的多家用户，已在榫卯企业云平台上完成云化转型，并承载传统应用、容器应用等业务负载。在此基础上，用户正进一步引入 AI 能力，将 Agent 运行与模型推理纳入统一平台，逐步向 Agent Ready 基础设施演进。相关实践包括：
- 某金融机构智能运维实践：将已有基础设施运行数据、运维知识和管理流程，转化为 Agent 可调用、可执行、可审计的能力。
- 某制造行业用户 Agent 与模型服务支撑体系建设：在统一平台上同时承载 Agent 运行与模型推理，通过统一网关和可观测能力支撑生产级 AI 治理。
- 某三甲医院统一模型即服务平台建设：将分散的模型、算力和调用链路纳入统一治理，提升资源利用率和模型服务可观测性。
- 某三甲医院多类型模型负载承载实践：统一交付算力资源与模型资源，适配不同模型负载对运行环境、资源粒度和服务治理的差异化要求。
下载《构建 Agent Ready 的企业云基础设施》白皮书，获取全文内容。
推荐阅读：