Agent 技术摘要 04 —— AI4S、VLM、VLA、VLN、WM、AI Infra

本系列为笔者在实习过程中的所见所闻记录,内容为技术摘要,旨在提供关于Agent领域相关技术名词的通俗和简要介绍,详细内容暂不展开,供同在该领域进修的童鞋们参考。

01 AI4S

全称是 AI for Science,用 AI 去帮科学家做研究,解决物理、化学、生物、气象等领域的地狱级难题。

场景 A:生物学

  • 痛点:蛋白质是生命的基石,但预测蛋白质的 3D 折叠结构极其困难,传统方法测一个结构要几个月、花几百万。
  • AI4S 奇迹:DeepMind 搞出了 AlphaFold,直接把人类已知的 2 亿多个蛋白质结构全部预测了一遍,准确率极高,它的发明人直接拿了 2024 年的诺贝尔化学奖!

场景 B:气象学

  • 痛点:传统天气预报需要解极其复杂的流体力学偏微分方程,超算算几个小时,才能预测未来几天的天气。
  • AI4S 奇迹:华为搞了盘古气象大模型,1 秒钟就能预测全球未来 7 天的天气,而且预测台风路径的精度比欧洲传统的物理超算模型还准!

场景 C:材料科学

  • 痛点:找新型电池材料就像大海捞针,要在实验室里一次次试错。
  • AI4S 奇迹:微软和太平洋西北国家实验室用 AI 筛选了 3200 万个候选材料,只用了几个星期,就发现了一种全新的固态电池材料N2116,并且已经造出了原型电池,如果是人类做,这得干几十年!

02 VLM

Vision-Language Model,视觉语言模型,核心是建立视觉信息与语言之间的关联。在当前生成式多模态大模型中,典型形式是:

pθ(y∣I,x) p_\theta(y\mid I,x) pθ(y∣I,x)

其中 I 是图像或视频,x 是文本指令,y 是生成的文本回答。常见架构是:

复制代码
视觉编码器 → 跨模态连接模块 → 语言模型

视觉编码器把图像转换为特征,连接模块将其映射到语言模型能够处理的表示空间,再由语言模型结合指令生成结果。训练通常涉及图文对齐、文本生成,以及多模态指令微调。

03 VLA

Vision-Language-Action,视觉语言动作模型。VLA 把视觉和语言理解进一步连接到动作生成,在机器人场景中,可以把它理解为一个条件策略:

πθ(at∣o≤t, ℓ, st) \pi_\theta(a_t\mid o_{\leq t},\,\ell,\,s_t) πθ(at∣o≤t,ℓ,st)

其中:

o_t:当前及历史视觉观测

l:语言任务指令

s_t:机器人自身状态

a_t:要执行的动作

这里的动作通常有明确的控制语义,例如机械臂末端位移、旋转量、夹爪开合。训练常使用机器人示范数据,给定观察和指令,学习示范者采取的动作,即行为克隆。动作既可以离散化成 token,用类似语言模型的方式预测,也可以通过连续动作输出模块生成。

04 VLN

Vision-and-Language Navigation,视觉语言导航。智能体根据自然语言指令和沿途视觉观测,在环境中完成导航,它通常可以建模为部分可观测马尔可夫决策过程(POMDP) ,即智能体每一步只能看到局部环境,需要结合历史观测判断自己在哪里、指令执行到哪一步,以及下一步如何移动。这里的策略同样可以写成:

πθ(at∣o≤t, ℓ, st) \pi_\theta(a_t\mid o_{\leq t},\,\ell,\,s_t) πθ(at∣o≤t,ℓ,st)

但动作空间主要与导航有关,例如前进、转向、选择下一个可达位置、停止。VLN 的难点包括语言与空间目标的对应、历史记忆、路径规划和停止时机。评价通常关注任务成功率、导航误差,以及兼顾成功和路径效率的 SPL 指标。

05 WM

World Model,世界模型。在具身智能和基于模型的强化学习语境里,WM 的核心是学习环境如何随动作演化:

pθ(zt+1∣zt,at) p_\theta(z_{t+1}\mid z_t,a_t) pθ(zt+1∣zt,at)

这里 z_t 是环境状态或从观测中学习到的隐状态,模型预测在当前状态执行某个动作后,环境会转移到什么状态,某些世界模型还会预测奖励、终止信号或未来观测。世界模型可以在内部连续推演多步,形成 imagined rollout,供规划算法比较不同动作序列,或用于训练策略,它不一定生成可观看的视频,预测隐空间状态也可以实现这一目的。

06 AI Infra

AI Infra 是 AI Infrastructure 的缩写,指"人工智能基础设施"。 这个方向主要负责让模型的训练、推理和部署跑得更快、更稳定,消耗更少的计算与存储资源。

方向 主要解决的问题 典型工作
训练系统 模型如何高效地在多卡、多机上训练? 优化并行策略、通信、显存占用和检查点恢复
推理系统 模型如何以较低成本响应大量请求? 优化请求调度、批处理、KV Cache、量化和多卡推理
算子与编译器 模型内部的计算如何更高效地运行? 用 CUDA/Triton 写 GPU kernel,做算子融合和编译优化
计算与集群平台 GPU 资源如何分配、共享和稳定运行? 任务排队、资源调度、容器管理、故障处理
机器学习平台 如何把实验、训练和上线流程标准化? 构建训练流水线、模型版本管理、部署与监控

这类工作的成果经常体现为训练吞吐、推理延迟、显存占用、资源利用率、稳定性和单位请求成本。

如果 JD 强调 CUDA、Triton、C++、体系结构,通常更偏底层计算;强调 PyTorch、分布式通信和并行策略,更偏训练系统;强调 vLLM、KV Cache、请求调度,更偏推理系统;强调 Kubernetes、任务调度和平台后端,则更偏平台工程。

相关推荐
联犀3 分钟前
如何工程化降低语音交互AI设备的延迟(小智ai,芙崽这样的ai设备)
人工智能
杉岩数据5 分钟前
杉岩数据董事长陈坚:从数据存储到行业智能——杉岩的AI时代战略布局
人工智能
冬奇Lab8 分钟前
Loop 工程到底是高深的新技术,还是炒冷饭?用训练一个识别狗的模型讲明白
人工智能
冬奇Lab17 分钟前
一天一个开源项目(第260篇):Plannotator —— 给 AI 编码 Agent 配一块「可批注的审阅台」,计划和代码改动都能在浏览器里逐条批示
人工智能·开源·claude
泯泷20 分钟前
语音,正在成为 AI Agent 最自然的接口
人工智能·llm·agent
杨凯凡2 小时前
IT日报|2026-11-13:GitHub 大规模凭据攻击、Signal 形式化验证、Claude 新模型与 AI 安全诉讼
人工智能·安全·github
一个天蝎座 白勺 程序猿2 小时前
别让收藏夹替你学习:我搭AI知识体系的完整方法,脚本直接拿去用
人工智能·学习·ai·ai学习
伞伞悦读2 小时前
【第83期】特征选择中的验证泄漏排查的实验与排查
人工智能·深度学习·机器学习
用户697625682563 小时前
用 Alook 把本机编程 agent 拉进频道:Pi + MiniMax 实操
人工智能
P1Browser3 小时前
账号触发平台安全审核?拆解标准申诉流程与材料清单
大数据·人工智能·安全·多账号管理·指纹浏览器·账户安全·运营合规