AI云原生笔记

1


这是阿里云云原生 AI 套件能力架构图。它为用户提供四个部分能力来匹配云原生 AI 工程不同阶段和业务属性。

层级划分:从下到上依次是 IaaS、K8s、AI 基础设施、AI 开发引擎、AI 工程管理以及 PaaS 层。

IaaS:最底层的基础公有云设施。

K8s 层:提供 ACK Pro、ACK Serverless、ACK Edge、ACK 版这些云原生容器服务。

AI 基础设施:包含资源管理、存储、网络以及镜像服务,提供包括本地盘、NAS、OSS 等存储选项,以及 EIP、负载均衡等网络能力,还有镜像仓库来管理 AI 相关镜像。

AI 开发引擎:

训练引擎:涵盖 Kubeflow、PyTorch、TensorFlow 等主流深度学习框架,支持单机、分布式训练,提供弹性扩缩容以及训练加速优化能力。

推理引擎:支持 TensorRT、ONNX Runtime 等,提供模型转换、优化,支持多框架模型统一部署,包含在线推理、批量推理等多种推理方式。

数据处理引擎:支持 Spark、Flink 等,可以进行数据接入、预处理、特征工程以及数据版本管理。

AI 工程管理:

项目管理:提供工作空间、成员管理以及权限分配。

资产管理:管理数据集、模型、镜像等资产,支持版本化管理以及溯源。

流程编排:支持通过 DAG 工作流编排训练、推理、数据处理任务,支持定时调度以及事件触发。

运维监控:提供训练任务监控、推理服务监控,支持日志采集、指标监控以及告警。

PaaS 层:面向不同用户角色和业务场景提供能力:

面向 AI 用户:提供 Arena CLI、Arena SDK,方便用户提交、管理训练任务。

面向算法开发者:提供在线开发环境、模型调试工具以及模型评估能力。

面向 AI 应用开发者:提供应用模板、部署流水线以及灰度发布能力。

面向 AI 平台管理者:提供多租户管理、资源配额以及计量计费能力。





2











3

相关推荐
宁渡AI大模型16 分钟前
河南宁渡科技有限公司|宁渡课堂 AI 全栈面试分享,RAG 项目面试深挖问题解析
人工智能·机器学习·rag
锋行天下7 小时前
LangGraph 1.2+ 新特性:set_node_defaults,批量统一节点策略
人工智能
找方案7 小时前
AI+人力资源:AI招聘面试的兴起与争议
人工智能·面试·职场和发展
日常通勤穿搭7 小时前
2026 电商 AI 作图工具推荐|淘宝抖音跨境商品主图 AI 生图测评
人工智能·aigc·ai工具·电商美工
ZhengEnCi7 小时前
L2A-一个域名如何访问多台云服务器-子域名、路径前缀与Nginx反向代理选型指南
linux·人工智能
2601_963749107 小时前
越华环保集团污水站曝气系统边缘闭环控制架构与能耗优化实现
人工智能·架构
工业涂料百问7 小时前
【生产施工】系列(六)工业涂料固化方式怎么选?自然干 / UV / 电子束原理与选型实战
人工智能
M78佐菲7 小时前
51单片机学习笔记:ds18b20要点整理
linux·笔记·嵌入式硬件·学习·51单片机
葡萄城技术团队7 小时前
活字格 12.1 新特性解密:禁用自动回复后,AI 对话单元格也能流式输出了
人工智能
东风破_8 小时前
从 RAG 到 Agentic RAG:第一步,让模型决定「要不要检索」
人工智能