分布式云扩展 AI 边缘算力,助力用户智能化创新

近期,AI 创新圈再次发布重磅产品更新。OpenAI 全新旗舰版多模态模型 GPT-4o 横空出世,其打通文本、图像、视频的富媒体理解能力以及敏捷的智能化对话,将 AI 助手的人性化表达效果,提升至更高水平。

从技术源头来看,AI 大模型的卓越表现,得益于高效的 AI 训练与推理的过程,这正需要有规模化的云计算作为算力支撑。"云+AI"两者之间才能如鱼得水、相辅相成。当下,"智"算,已然成为云计算的重要驱动力。IDC和浪潮联合发布的《2022-2023中国人工智能计算力发展评估报告》显示,预计2026年,智能算力规模将进入每秒十万亿亿次浮点计算(ZFlops)级别。算力需求激增趋势下,企业对算力"水煤电"的使用现状,也并非足够顺畅,而是存在多重维度的挑战:

集中云只是 AI 大脑 | 分布式才是 AI 抓手

为了摆​脱创新者的窘境​,拥有敏锐创新嗅觉的云从业人员发现,云形态正在因 AI 风向的不同发生显著改观。传统集中云,能够实现大规模的资源拓展,但高度集中的中心形态,更需要分枝散叶、如触手一般在近端呈现为分布形态。如高"智"商的章鱼物种一般,多触点、才敏捷。

ITDM 调查显示,技术负责人认识到分布式云的实用性特别适合于大数据和分析应用场景(56%)以及 AI/ML 工作负载 (47%)。 而根据 ClearPath Strategies 在2023年进行了一项全球性研究,有三分之二的 IT 决策者表示在**未来 12 个月内其分布式云服务的使用量预计会显著增加。**超过三分之一的受访者表示,分布式云好处众多(如快速、高效处理和分析 AI/ML 数据能力),是 IT 策略不可或缺的一部分。

无处不在,布局边缘 | 强势助攻 AI 创新

业界同仁的 AI 智算之道,正与 Akamai 云计算战略不谋而合。作为 CDN 行业鼻祖,Akamai 在分布式云方面有天然优势,始终秉持着在贴近终端用户的位置,一路积淀、融合、构建了云计算、云安全、云分发三位一体的快捷服务。

如今,Akamai 云计算平台战略的关键一步,便是 Akamai Generalized Edge Compute (Gecko) 泛化边缘计算计划 ,以支持企业与开发者利用分布式云形态,可突破云绑定模式,获得云的便携性,助力企业开发者在多云容器化格局下,高效开发、降本增效降本增效

应对 AI 创新的海量算力资源需求,Akamai 近日云产品阵容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒体优化型产品,并能用于 Gen AI/ML 场景,非常适合利用神经网路片进行训练和推理任务,可并行执行大量计算,更快、更高效地训练新模型,提高准确性和性能。

**从 GPU 到 CPU |**提升 AI 推理性能

为突破边缘推理 GPU 容量不足、算力不足等难题,Akamai 携手 Neural Magic 和 AMD 展开三方战略合作,推出了基于 CPU 的 AI 推理技术。Neural Magic 通过稀疏化算法优化 AI 模型,降低算力需求,可以把 LLM 机器视觉NLP 模型的运行至 CPU 上;并协同 AMD 四代 CPU 特定更新的向量指令集,提升运行效率。

Akamai 用 NLP 模型进行性能测试,基于两款入门Akamai 两核 CPU 虚机,若处理4万条电影评论的文本情感分析,仅需20分钟即可完成。月费成本上,每个月可处理8600万条推理请求,单月推理成本低至82美金。 Neural Magic 也使用 NLP 模型,对比了 CPU/GPU 推理效率。在维持原有模型推理准确性的同时,推理效率的两端,效率相差1000倍之多,更有助于保障企业的 AI 创新业务的可持续盈利能力。

**基于分布式云 |**加速推荐引擎AI 推理

在电商、社交媒体、广告等行业,往往需要借助融合 AI、深度学习和大语言模型算法的推荐引擎,来发掘用户偏好,主动推荐可能感兴趣的内容和商品。但若缺失高质量的网络性能保障,泛互联网产业广为使用的推荐引擎,将受限于网络访问时延。

面对阻碍推荐引擎的网络访问时延问题,除优化网络架构、使用更快的网络设备、优化数据传输协议等措施,更可以基于边缘的分布式云计算网络、具有 AI 算力的边缘计算节点,支持行业用户化解推荐引擎部署、性能、延时等方面的难题。Akamai 特别建议出海企业,将 AI 推荐引擎部署距离用户更近的 Akamai Gecko 站点,获得全球范围的边缘优势。

一直以来,在推荐引擎场景的成功实践之外,Akamai 云计算服务也以灵活、易用的分布式形态智能应用,长期助力广告科技、游戏、数据库等行业,显著降低云成本,在保障性能的同时,提升 IT 投资回报率。

整体来看,Akamai 云计算服务,在 IaaS、容器、存储、数据库、网络与开发工具方面也有全方位的云服务,可助力企业与开发者摆脱云绑定模式,灵活进行微服务创新,更快速、更高效地打造泛智能的创新型产品。

如今,Akamai Qualified Computing Partner Program(QCP)合作伙伴计划,正在火热纳新中,Akamai 广邀在 AI 训练&推理等领域的合作伙伴,共创、共构生态特定行业场景解决方案,重塑智能化时代的用户体验与创新效率。

欢迎点击进一步试用 Akamai 云计算系列产品;同时,Akamai 也欢迎志同道合的创新团队,加入 Akamai QCP 合作伙伴计划。

相关推荐
banjin42 分钟前
AI驱动TDSQL-C Serverless 数据库技术实战营-ai学生选课系统数据分析
c语言·人工智能·serverless
赵渝强老师1 小时前
【赵渝强老师】基于ZooKeeper实现Hadoop HA
大数据·hadoop·分布式·zookeeper
算力资源比较多2 小时前
人工智能(AI)的影响下人类的生活样子
人工智能·生活
zhangbin_2372 小时前
【Python机器学习】NLP信息提取——命名实体与关系
开发语言·人工智能·python·深度学习·机器学习·自然语言处理
Wils0nEdwards3 小时前
计算机视觉中,Pooling的作用
人工智能·计算机视觉
985小水博一枚呀3 小时前
【梯度消失|梯度爆炸】Vanishing Gradient|Exploding Gradient——为什么我的卷积神经网络会不好呢?
人工智能·python·深度学习·神经网络·计算机视觉·cnn·numpy
IT观察4 小时前
老板电器让AI融入烹饪?老板数字厨电实力展示AI做饭!
人工智能
Jasonakeke5 小时前
本地镜像发布到阿里云
阿里云·云计算
夜清寒风6 小时前
opencv学习:图像掩码处理和直方图分析及完整代码
人工智能·opencv·学习·算法·机器学习·计算机视觉
数业智能心大陆6 小时前
数业智能心大陆探索生成式AIGC创新前沿
人工智能