为何AI推理正推动云计算从集中式向分布式转型

作者简介:Vineeth Varughese是Akamai亚太及日本地区的云产品市场负责人,在云计算、人工智能(AI)及市场进入策略(GTM)领域拥有丰富经验。

传统云平台在利用海量数据训练AI模型方面表现出色,但随着企业希望进一步扩展和优化AI应用,这些平台的局限性逐渐显现。

在Akamai委托Forrester进行的一项研究中,揭示了IT领导者和开发者在使用传统云平台时遇到的问题。多数受访者认为,在AI推理时代,将计算资源迁移至边缘计算

有助于降低延迟、减少带宽占用并优化成本。

随着AI训练为AI推理铺平了道路,我们需要能够应对更高工作负载和计算需求的解决方案,同时确保性能不受影响,终端用户体验保持流畅。

AI推理转型对应用开发的影响

当AI的计算需求从训练转向推理时,这对AI应用开发者意味着什么?

J.Gold Associates总裁兼首席分析师Jack Gold指出,当前训练与推理的计算资源占比为80%训练、20%推理。他预测未来三年内这一比例将逆转,变为80%推理、仅20%训练。

AI推理是指利用已训练模型从新数据中得出结论的过程。随着更多模型通过庞大数据集完成训练,下一阶段的任务是运用这些模型处理新信息,从而扩展AI解决方案的能力。

与此同时,用户对应用的个性化、高性能和实时数据处理需求日益增长,这意味着当前的云解决方案必须适应这一变化。

为何传统云架构难以满足需求

AI推理的目标是为AI应用提供实时结果和更流畅的用户体验。然而,传统云解决方案面临三大关键挑战,使其难以支撑AI的扩展与优化:

研究中揭示的开发者与IT领导者的主要痛点包括:

延迟问题 (56%受访者遭遇处理延迟)

成本问题 (60%受访者受困于存储/计算成本)

扩展困难(45%受访者难以实现规模化)

"多数受访者表示,其当前的 云策略阻碍了他们在应用中构建实时数据驱动决策的能力。"传统云解决方案已难以满足AI扩展与优化的需求。那么,是否存在更有效的替代方案?

边缘计算让数据处理更贴近用户端,从而减少延迟、提升性能,帮助开发者更高效地扩展应用。然而,边缘计算也存在挑战,包括合规与监管问题、供应商锁定,以及难以招聘和留住具备相关技能的技术人才。边缘计算通常采用不同的架构设计、专用协议和多样化供应商,导致运营复杂性增加和业务风险上升。

分布式云计算:AI应用开发的下一阶段

一种快速获得IT领导者青睐的替代方案是分布式云计算。研究中超半数受访者表示,他们目前正在自主管理某种形式的分布式架构。

多数受访者认为,由于额外存储与计算成本以及高延迟导致的处理延迟,其当前的云策略阻碍了他们在应用中实现实时数据驱动决策的能力。

与边缘计算类似,分布式云架构允许开发者从更靠近用户的位置提供数据,从而优化应用、云数据库、流媒体及其他工作负载的延迟和性能。

不同之处在于,分布式云计算的数据存储位置更加多样化,可涵盖第三方数据中心、本地设施和私有云环境。

随着AI推理的普及,更多应用和扩展机会将涌现,对高效数据处理方式的需求也将随之增长。

应用用户将期待快速响应和无缝体验。通过投资分布式架构,开发者能够满足现代应用对实时数据处理和推理的需求,从而确保企业在用户端保持竞争优势。

分布式云计算如何匹配企业目标

研究发现,分布式云架构的灵活性------既能将计算资源部署在靠近终端用户的位置,又能保持集中管理------解决了受访者的主要顾虑,包括:

• 55%认为其可降低业务风险

• 54%认为其有助于控制成本激增

• 49%认为其能加快价值实现速度

分布式云架构优于边缘计算的一点在于,它允许开发者使用与核心云计算相同的技能、架构范式和云原生工具来部署和管理AI应用。

此外,分布式云在构建应用时还能提供更低的延迟、更好的可扩展性、更高的可靠性,以及对数据的更强控制力。

是否应尽早转型?

Akamai与Forrester的研究显示,IT领导者和应用开发者正优先关注AI创新、数字化体验升级、个性化体验优化及数据管理改进等目标。分布式云的优势恰好与这些需求直接契合。

基于对AI推理发展的预测以及分布式云部署的上升趋势,转向分布式架构似乎是明智之选。尽早行动有助于企业在市场和AI技术演进中保持竞争力。

如需了解更多关于分布式云、边缘计算与传统云架构的未来对比,请立即下载完整报告

  • 在这项由Akamai委托Forrester Consulting进行的研究中,来自零售、媒体和电信行业的163位北美云战略决策者分享了他们对云计算现状的看法。
相关推荐
余衫马18 分钟前
llama.cpp:本地大模型推理的高性能 C++ 框架
c++·人工智能·llm·llama·大模型部署
deephub24 分钟前
Google开源Tunix:JAX生态的LLM微调方案来了
人工智能·深度学习·google·微调·大语言模型·jax
数据与人工智能律师1 小时前
数字人民币钱包抉择:匿名自由与实名安全的法律风险评估
大数据·人工智能·python·云计算·区块链
云安全联盟大中华区1 小时前
以美为鉴:构建现代化的核能行业网络安全合规体系--为人工智能革命提供动力
人工智能·安全·web安全
沉默媛1 小时前
扩散模型-图像编辑【An Edit Friendly DDPM Noise Space: Inversion and Manipulations】
人工智能·计算机视觉·cvpr·扩散模型·图像编辑·ddpm
nju_spy1 小时前
2023 美赛C Predicting Wordle Results(上)
人工智能·机器学习·数学建模·数据挖掘·arima·时间序列预测·相关性分析
用户5191495848452 小时前
网络安全工具与社区讨论月报
人工智能·aigc
用户5191495848452 小时前
AWS Direct Connect在菲律宾马卡蒂市推出100G扩展服务
人工智能·aigc
zzywxc7873 小时前
AI工具应用全解析:智能编码、数据标注与模型训练的协同实践
人工智能·算法·信息可视化·自动化·ai编程
CareyWYR3 小时前
每周AI论文速递(250929-251003)
人工智能