随着 AI 从推理迈向行动阶段,智能体不仅需要进行推理,还要检索数据、调用工具,并与数据库及其他智能体协同交互。
智能体时代,Arm如何与合作伙伴一起,推动计算创新,抓住产业发展机遇?
Arm 云 AI 业务拓展副总裁 Eddie Ramirez 在其主题为《智能体 AI 重塑数据中心,Arm 如何构建下一代算力底座?》的分享中表示,AI 基础设施并不存在适用于所有场景的统一方案,Arm 为客户提供灵活选择,帮助其根据不同工作负载需求选择最适合的方案。
Eddie Ramirez表示,借助全新的 Arm Neoverse 计算子系统(CSS)N4,客户可以打造针对最高吞吐量效率优化的芯片。Arm Neoverse CSS N4 是 Arm 迄今为止可配置性最高的 CSS,可帮助合作伙伴以最快速度完成从 CSS 到芯片产品的落地。
Neoverse CSS N4 单颗裸片(die)最高可搭载 128 个内核,支持 LPDDR6 内存与 PCIe Gen 7 互连。与 Neoverse CSS N3 相比,其性能最高可提升至两倍,每瓦性能最高可达 1.25 倍,内存带宽最高可达 1.75 倍。
而 Arm AGI CPU 则提供面向高响应智能体 AI 的量产就绪芯片。Arm AGI CPU 在 AI 生态系统中的发展势头持续增强,云服务提供商、OEM 厂商及软件合作伙伴正在基于 Arm 技术构建并部署 AI 基础设施。
两者均构建于统一的 Neoverse 平台和软件生态系统之上。
整个行业正逐步将 Arm 作为下一代智能体 AI 的通用计算平台。借助 Arm AGI CPU 和 Neoverse CSS N4,客户既能根据自身基础设施需求灵活选择发展路径,又能共享统一的技术基础,兼顾性能、能效与软件兼容性。
如今,Arm 已在数据中心实现大规模部署。IDC 报告显示,基于 Arm 架构的机架级服务器市场规模已经超越 x86,成为加速计算领域的主流平台。