为何AI推理正推动云计算从集中式向分布式转型

作者简介:Vineeth Varughese是Akamai亚太及日本地区的云产品市场负责人,在云计算、人工智能(AI)及市场进入策略(GTM)领域拥有丰富经验。

传统云平台在利用海量数据训练AI模型方面表现出色,但随着企业希望进一步扩展和优化AI应用,这些平台的局限性逐渐显现。

在Akamai委托Forrester进行的一项研究中,揭示了IT领导者和开发者在使用传统云平台时遇到的问题。多数受访者认为,在AI推理时代,将计算资源迁移至边缘计算

有助于降低延迟、减少带宽占用并优化成本。

随着AI训练为AI推理铺平了道路,我们需要能够应对更高工作负载和计算需求的解决方案,同时确保性能不受影响,终端用户体验保持流畅。

AI推理转型对应用开发的影响

当AI的计算需求从训练转向推理时,这对AI应用开发者意味着什么?

J.Gold Associates总裁兼首席分析师Jack Gold指出,当前训练与推理的计算资源占比为80%训练、20%推理。他预测未来三年内这一比例将逆转,变为80%推理、仅20%训练。

AI推理是指利用已训练模型从新数据中得出结论的过程。随着更多模型通过庞大数据集完成训练,下一阶段的任务是运用这些模型处理新信息,从而扩展AI解决方案的能力。

与此同时,用户对应用的个性化、高性能和实时数据处理需求日益增长,这意味着当前的云解决方案必须适应这一变化。

为何传统云架构难以满足需求

AI推理的目标是为AI应用提供实时结果和更流畅的用户体验。然而,传统云解决方案面临三大关键挑战,使其难以支撑AI的扩展与优化:

研究中揭示的开发者与IT领导者的主要痛点包括:

延迟问题 (56%受访者遭遇处理延迟)

成本问题 (60%受访者受困于存储/计算成本)

扩展困难(45%受访者难以实现规模化)

"多数受访者表示,其当前的 云策略阻碍了他们在应用中构建实时数据驱动决策的能力。"传统云解决方案已难以满足AI扩展与优化的需求。那么,是否存在更有效的替代方案?

边缘计算让数据处理更贴近用户端,从而减少延迟、提升性能,帮助开发者更高效地扩展应用。然而,边缘计算也存在挑战,包括合规与监管问题、供应商锁定,以及难以招聘和留住具备相关技能的技术人才。边缘计算通常采用不同的架构设计、专用协议和多样化供应商,导致运营复杂性增加和业务风险上升。

分布式云计算:AI应用开发的下一阶段

一种快速获得IT领导者青睐的替代方案是分布式云计算。研究中超半数受访者表示,他们目前正在自主管理某种形式的分布式架构。

多数受访者认为,由于额外存储与计算成本以及高延迟导致的处理延迟,其当前的云策略阻碍了他们在应用中实现实时数据驱动决策的能力。

与边缘计算类似,分布式云架构允许开发者从更靠近用户的位置提供数据,从而优化应用、云数据库、流媒体及其他工作负载的延迟和性能。

不同之处在于,分布式云计算的数据存储位置更加多样化,可涵盖第三方数据中心、本地设施和私有云环境。

随着AI推理的普及,更多应用和扩展机会将涌现,对高效数据处理方式的需求也将随之增长。

应用用户将期待快速响应和无缝体验。通过投资分布式架构,开发者能够满足现代应用对实时数据处理和推理的需求,从而确保企业在用户端保持竞争优势。

分布式云计算如何匹配企业目标

研究发现,分布式云架构的灵活性------既能将计算资源部署在靠近终端用户的位置,又能保持集中管理------解决了受访者的主要顾虑,包括:

• 55%认为其可降低业务风险

• 54%认为其有助于控制成本激增

• 49%认为其能加快价值实现速度

分布式云架构优于边缘计算的一点在于,它允许开发者使用与核心云计算相同的技能、架构范式和云原生工具来部署和管理AI应用。

此外,分布式云在构建应用时还能提供更低的延迟、更好的可扩展性、更高的可靠性,以及对数据的更强控制力。

是否应尽早转型?

Akamai与Forrester的研究显示,IT领导者和应用开发者正优先关注AI创新、数字化体验升级、个性化体验优化及数据管理改进等目标。分布式云的优势恰好与这些需求直接契合。

基于对AI推理发展的预测以及分布式云部署的上升趋势,转向分布式架构似乎是明智之选。尽早行动有助于企业在市场和AI技术演进中保持竞争力。

如需了解更多关于分布式云、边缘计算与传统云架构的未来对比,请立即下载完整报告

  • 在这项由Akamai委托Forrester Consulting进行的研究中,来自零售、媒体和电信行业的163位北美云战略决策者分享了他们对云计算现状的看法。
相关推荐
Drgfd10 分钟前
真智能 vs 伪智能:天选 WE H7 Lite 用 AI 人脸识别 + 呼吸灯带,重新定义智能化充电桩
人工智能·智能充电桩·家用充电桩·充电桩推荐
萤丰信息33 分钟前
AI 筑基・生态共荣:智慧园区的价值重构与未来新途
大数据·运维·人工智能·科技·智慧城市·智慧园区
盖雅工场38 分钟前
排班+成本双管控,餐饮零售精细化运营破局
人工智能·零售餐饮·ai智能排班
神策数据1 小时前
打造 AI Growth Team: 以 Data + AI 重塑品牌零售增长范式
人工智能·零售
2501_941333101 小时前
数字识别与检测_YOLOv3_C3k2改进模型解析
人工智能·yolo·目标跟踪
逐梦苍穹1 小时前
速通DeepSeek论文mHC:给大模型装上物理阀门的架构革命
人工智能·deepseek·mhc
运维小欣1 小时前
Agentic AI 与 Agentic Ops 驱动,智能运维迈向新高度
运维·人工智能
_运维那些事儿2 小时前
VM环境的CI/CD
linux·运维·网络·阿里云·ci/cd·docker·云计算
Honmaple2 小时前
OpenClaw 迁移指南:如何把 AI 助手搬到新电脑
人工智能
wenzhangli72 小时前
Ooder A2UI 第一性原理出发 深度解析核心逻辑
人工智能·开源