为何AI推理正推动云计算从集中式向分布式转型

作者简介:Vineeth Varughese是Akamai亚太及日本地区的云产品市场负责人,在云计算、人工智能(AI)及市场进入策略(GTM)领域拥有丰富经验。

传统云平台在利用海量数据训练AI模型方面表现出色,但随着企业希望进一步扩展和优化AI应用,这些平台的局限性逐渐显现。

在Akamai委托Forrester进行的一项研究中,揭示了IT领导者和开发者在使用传统云平台时遇到的问题。多数受访者认为,在AI推理时代,将计算资源迁移至边缘计算 有助于降低延迟、减少带宽占用并优化成本。


延伸阅读,点击链接了解 Akamai Cloud Computing


随着AI训练为AI推理铺平了道路,我们需要能够应对更高工作负载和计算需求的解决方案,同时确保性能不受影响,终端用户体验保持流畅。

AI推理转型对应用开发的影响

当AI的计算需求从训练转向推理时,这对AI应用开发者意味着什么?

J.Gold Associates总裁兼首席分析师Jack Gold指出,当前训练与推理的计算资源占比为80%训练、20%推理。他预测未来三年内这一比例将逆转,变为80%推理、仅20%训练。

AI推理是指利用已训练模型从新数据中得出结论的过程。随着更多模型通过庞大数据集完成训练,下一阶段的任务是运用这些模型处理新信息,从而扩展AI解决方案的能力。

与此同时,用户对应用的个性化、高性能和实时数据处理需求日益增长,这意味着当前的云解决方案必须适应这一变化。

为何传统云架构难以满足需求

AI推理的目标是为AI应用提供实时结果和更流畅的用户体验。然而,传统云解决方案面临三大关键挑战,使其难以支撑AI的扩展与优化:

研究中揭示的开发者与IT领导者的主要痛点包括: • 延迟问题 (56%受访者遭遇处理延迟) • 成本问题 (60%受访者受困于存储/计算成本) • 扩展困难(45%受访者难以实现规模化)

"多数受访者表示,其当前的云策略阻碍了他们在应用中构建实时数据驱动决策的能力。"传统云解决方案已难以满足AI扩展与优化的需求。那么,是否存在更有效的替代方案?

边缘计算让数据处理更贴近用户端,从而减少延迟、提升性能,帮助开发者更高效地扩展应用。然而,边缘计算也存在挑战,包括合规与监管问题、供应商锁定,以及难以招聘和留住具备相关技能的技术人才。边缘计算通常采用不同的架构设计、专用协议和多样化供应商,导致运营复杂性增加和业务风险上升。

分布式云计算:AI应用开发的下一阶段

一种快速获得IT领导者青睐的替代方案是分布式云计算。研究中超半数受访者表示,他们目前正在自主管理某种形式的分布式架构。

多数受访者认为,由于额外存储与计算成本以及高延迟导致的处理延迟,其当前的云策略阻碍了他们在应用中实现实时数据驱动决策的能力。

与边缘计算类似,分布式云架构允许开发者从更靠近用户的位置提供数据,从而优化应用、云数据库、流媒体及其他工作负载的延迟和性能。

不同之处在于,分布式云计算的数据存储位置更加多样化,可涵盖第三方数据中心、本地设施和私有云环境。

随着AI推理的普及,更多应用和扩展机会将涌现,对高效数据处理方式的需求也将随之增长。 应用用户将期待快速响应和无缝体验。通过投资分布式架构,开发者能够满足现代应用对实时数据处理和推理的需求,从而确保企业在用户端保持竞争优势。

分布式云计算如何匹配企业目标

研究发现,分布式云架构的灵活性------既能将计算资源部署在靠近终端用户的位置,又能保持集中管理------解决了受访者的主要顾虑,包括: • 55%认为其可降低业务风险 • 54%认为其有助于控制成本激增 • 49%认为其能加快价值实现速度

分布式云架构优于边缘计算的一点在于,它允许开发者使用与核心云计算相同的技能、架构范式和云原生工具来部署和管理AI应用。

此外,分布式云在构建应用时还能提供更低的延迟、更好的可扩展性、更高的可靠性,以及对数据的更强控制力。

是否应尽早转型?

Akamai与Forrester的研究显示,IT领导者和应用开发者正优先关注AI创新、数字化体验升级、个性化体验优化及数据管理改进等目标。分布式云的优势恰好与这些需求直接契合。

基于对AI推理发展的预测以及分布式云部署的上升趋势,转向分布式架构似乎是明智之选。尽早行动有助于企业在市场和AI技术演进中保持竞争力。

如需了解更多关于分布式云、边缘计算与传统云架构的未来对比,请立即下载完整报告

  • 在这项由Akamai委托Forrester Consulting进行的研究中,来自零售、媒体和电信行业的163位北美云战略决策者分享了他们对云计算现状的看法。

如果你喜欢我们的文章,欢迎关注我们↓↓↓

了解更多

相关推荐
加瓦点灯23 分钟前
什么?工作五年还不了解SafePoint?
后端
他日若遂凌云志1 小时前
Lua 模块系统的前世今生:从 module () 到 local _M 的迭代
后端
David爱编程1 小时前
Docker 安全全揭秘:防逃逸、防漏洞、防越权,一篇学会容器防御!
后端·docker·容器
小码编匠1 小时前
WinForm 工业自动化上位机通用框架:注册登录及主界面切换实现
后端·c#·.net
weixin_483745621 小时前
Springboot项目的目录结构
java·后端
阿里云云原生1 小时前
2025年第二届“兴智杯”智能编码创新应用开发挑战赛正式启动
后端
保持学习ing2 小时前
SpringBoot 前后台交互 -- CRUD
java·spring boot·后端·ssm·项目实战·页面放行
ShiShuoMing2 小时前
前后端分离项目单机部署
后端
noodb软件工作室2 小时前
支持中文搜索的markdown轻量级笔记flatnotes来了
前端·后端
Java中文社群2 小时前
Dify实战案例:AI邮件批量发送器!
人工智能·后端