- OneX AI 学习社区：高质量 AI 学习社区，16+ 高质量体系课、4+ 实战项目，涵盖 Go、云原生、AI 。
- 欢迎关注「令飞编程」：分享 Go、云原生、AI Infra 相关技术。回复「资料」免费下载相关资料。
最近调研了一下腾讯、阿里、字节的 AI 岗位，发现当前最火热的岗位有2个：
- AI Agent 开发：AI Agent 开发的核心就是使用一些Agent框架，围绕 Agent 去做企业的智能化改造。这些智能化改造可能会涉及到基础平台的智能化改造和业务平台的智能化改造。大家可以理解为非AI时代的业务开发工程师把。
- AI Infra 开发：AI Infra有点像非AI时代的云计算开发岗位或者云原生开发岗位。主要围绕模型训练和模型推理展开：
- 训练：会涉及到训练作业调度及分布式训练等；
- 推理：会涉及到推理部署及推理加速等；
另外，我也整理了一篇文章，详细介绍了 AI Agent 开发、AI Infra 开发的岗位要求、岗位职责、涉及到的具体技能点等，见：onex.feizaonet.com/content/cnt... 。本篇文章，不会再介绍这些。
本篇文章主要分享下，我个人的一种学习路线，希望对你有帮助。
AI Agent 开发学习路线
首先，要选择一门编程语言，虽然AI时代，编程语言的区别不像以前那么大，但还是需要我们选择一门主语言的。因为只有你对一门语言掌握的很熟练，你才能更好的去审阅AI的代码，才能更好的掌握整个语言的生态，这些对进行 AI Coding 帮助是比较大的。我个人选择的是Go语言。一方面是因为我自己对Go掌握的比较熟悉。更重要的是，我觉得Go很适合用来进行AI Coding。因为语言简单、编译型语言。AI 使用 Go 更不容易出错，而且能够把很多问题通过编译进行暴露和修复。
其次，要去学习一门Agent框架，刚开始可以从使用层面去学习，更深入的话可以去研究Agent框架的实现原理。Go的话，推荐学习下字节跳动的Eino框架。我自己开发的Agent平替就是用Eino去开发的，这个框架完全能够满足Agent开发。
接着，我们可以使用Go + Agent 尝试去实现一个智能体，解决我们业务中的一个智能化场景。通过智能体开发，你能够掌握到Agent框架的基础使用方法，例如：MCP、上下文、Prompt、LLM、记忆、RAG等。
当然了，如果你想对Agent开发更加精通，那么可以尝试开发一个智能体平台。智能体平台类似于基础设施了。通过智能体平台的开发，你可以掌握更全、更深的Agent开发技术。例如：RAG、Memory、LLM、Agent Runtime、HITL、Agent安全、缓存、评测、SKILL、MCP、向量化、权限、ReAct 循环等。
这里给一个最直接的零基础学习路线：
-
Go 语言基础：
- 书：Go程序设计语言：可以在 onex.feizaonet.com/downloads 下载到。
- 课程：Go 项目开发极速入门课言、可以在 onex.feizaonet.com/ 学习到。
-
Go项目开发：
- 课程：Go 项目开发方法论课、课程：Go 项目开发中级实战课。可以在 onex.feizaonet.com/ 学习到。
- Agent 框架：我感觉学习 Eino 官方文档就可以了（www.cloudwego.io/zh/docs/ein...
- Agent 开发实战：可以直接学习 Eino 官方的Example：www.cloudwego.io/zh/docs/ein...
- Agent 平台：目前还没有发现什么好用的开源项目，如果你有精力，可以学下kagent（github.com/kagent-dev/... ）、cc-connect（github.com/chenhg5/cc-... 源码。其中kagent是基于Kubernetes的声明式构建方法，需要你提前掌握Kubernetes技术。我其实有一个功能全面的智能体开发平台，也许未来我会开源。如果你感兴趣，可以关注我的公众号【令飞编程】或者我的AI知识学习平台：onex.feizaonet.com 。等开源了，会分享给大家。
AI Infra 开发学习路线
- 通用技术：学习基本的技术例如：Go、Docker、Kubernetes。另外，这里再推荐几本跟 AI 相关的优质书籍：深度学习_（美）伊恩·古德费洛著 、动手学深度学习 PyTorch版 、机器学习系统 设计和实现_麦络 、深入理解AutoML和AutoDL 构建自动化机器学习与深度学习平台 、深入理解 AI Infra 。这些资料都可以在onex.feizaonet.com/downloads 中下载。
- Kubernetes开发：Kubernetes 开发，可以学习 OneX 平台的课程即可。课程相对来说开始比较全的。OneX 平台的 Kubernetes 课程比较全面，你可以根据自己的经历，选择学习的课程及深度。
- GPU 资源管理与池化：感觉可以直接看这些开源项目 NVIDIA/k8s-device-plugin、NVIDIA/gpu-operator 、kubernetes-sigs/node-feature-discovery (NFD)、HAMi。我也正在学习，未来会在 OneX平台分享；
- 训练任务调度：可以学习 Kubernetes 调度器开发实战课、Volcano 源码剖析课。这些课程都会在OneX平台连载；
- 训练平台与分布式并行：可以直接学习 DeepSpeed；
- 推理调度与在线系统：可以直接学习 LiteLLM、Gateway API Inference Extension、KServe。其中 KServer 会在 OneX 平台以课程的形式进行分享；
- 推理加速：学习 vLLM；
- ML Pipeline：上面学习了 AI Infra 中的技术，还需要通过一个平台级项目将整个流程串起来，这里我们可以通过学习Kubeflow来串联完整的AI Infra 流程。
可以看到，如果要转 AI Infra 要学习的东西还是蛮多的。但是收益也是最大的。上面这些课程、项目也是我的学习途径。希望对你有帮助。
另外，未来我会在 OneX 平台持续分享AI Agent + AI Infra 相关技术，欢迎关注 OneX 平台。
下面是未来会连载的 AI Infra 课程目录：
| 章节标题 |
|---|
| 00 | 开篇词：从数据到推理的完整技术地图 |
| 01 | 机器学习与深度学习基础 |
| 02 | 婚恋匹配问题建模：从业务需求到可训练任务 |
| 03 | 训推技术全景：组件、流程与课程地图 |
| 04 | Kubeflow 是什么：定位、历史、发行版与生态 |
| 05 | Kubeflow 架构：Operator、CRD、控制面、执行面、存储面 |
| 06 | 核心组件（一）：Dashboard、Notebooks、Profiles、SDK |
| 07 | 核心组件（二）：Pipelines、Katib、Trainer、Hub/Model Registry |
| 08 | 核心组件（三）：KServe、Knative、Istio、Gateway API |
| 09 | Kubeflow 安装：集群、依赖、发行版与组件选型 |
| 10 | Kubeflow 配置：多租户、存储、镜像、配额、网络、安全 |
| 11 | Kubeflow 使用方式：Dashboard、Notebook、SDK、kubectl、API |
| 12 | 快速 Demo：跑通数据、训练与推理全链路 |
| 13 | 数据准备（一）：采集、合成、清洗与标注 |
| 14 | 数据准备（二）：校验、切分、泄漏防护与数据清单 |
| 15 | 特征提取：从原始资料到 11 维配对特征 |
| 16 | 特征存储：Feast 的离线/在线一致 |
| 17 | 数据版本与血缘：DVC |
| 18 | 数据流水线与数据治理：质量门禁、漂移与合规 |
| 19 | 模型开发与工程化：网络结构、损失函数、训练循环、代码/测试 |
| 20 | 模型评估、可解释性与公平性 |
| 21 | 实验跟踪：MLflow |
| 22 | 模型注册与版本管理：Model Registry / Hub |
| 23 | 在 Kubeflow 上训练：Job、PVC、资源与调度 |
| 24 | Kubeflow Trainer：TrainJob、TrainingRuntime、PyTorchJob |
| 25 | Kubeflow 训练实现原理：TrainJob → JobSet → Pod（源码） |
| 26 | 分布式训练：DDP、FSDP、MPI 与弹性训练 |
| 27 | KFP 入门：把训练流程写成流水线 |
| 28 | KFP 实现原理：DSL → IR → Argo Workflow → Pod（源码） |
| 29 | KFP 进阶：缓存、Artifact、重跑与生产化 |
| 30 | Katib 超参调优 |
| 31 | 模型微调：LoRA、QLoRA、SFT、DPO |
| 32 | 训练优化：混合精度、梯度累积、Checkpoint |
| 33 | 模型优化：量化、蒸馏、剪枝、ONNX/TensorRT |
| 34 | KServe 部署：InferenceService 与 V1/V2 协议 |
| 35 | 调用模型：API、客户端与业务集成 |
| 36 | Kubeflow 推理实现原理：InferenceService → Knative/Deployment → 请求 |
| 37 | KServe 深度：控制面、数据面、灰度与弹性 |
| 38 | KServe 源码剖析：从 CRD 到 Pod（源码） |
| 39 | vLLM 与 LLM 推理：PagedAttention、KV Cache、容量模型 |
| 40 | 推理网关：Gateway API Inference Extension |
| 41 | llm-d 与 KV-aware 路由：设计、模拟与生产边界 |
| 42 | 优化部署、批处理与异步推理 |
| 43 | Kueue：队列、配额、优先级与抢占 |
| 44 | Volcano：gang scheduling 与批任务 |
| 45 | GPU 管理与真实 GPU 上线 |
| 46 | 多集群、弹性与成本模型 |
| 47 | 可观测性与 SLO |
| 48 | GitOps、CI 与安全治理 |
| 49 | Capstone：端到端推理平台 |
| 50 | 结语：能力地图与继续学习 |
AI Infra 内容很多，如果你有更好的学习方法和途径，欢迎评论区分享。