分布式云扩展 AI 边缘算力,助力用户智能化创新

近期,AI 创新圈再次发布重磅产品更新。OpenAI 全新旗舰版多模态模型 GPT-4o 横空出世,其打通文本、图像、视频的富媒体理解能力以及敏捷的智能化对话,将 AI 助手的人性化表达效果,提升至更高水平。

从技术源头来看,AI 大模型的卓越表现,得益于高效的 AI 训练与推理的过程,这正需要有规模化的云计算作为算力支撑。"云+AI"两者之间才能如鱼得水、相辅相成。当下,"智"算,已然成为云计算的重要驱动力。IDC和浪潮联合发布的《2022-2023中国人工智能计算力发展评估报告》显示,预计2026年,智能算力规模将进入每秒十万亿亿次浮点计算(ZFlops)级别。算力需求激增趋势下,企业对算力"水煤电"的使用现状,也并非足够顺畅,而是存在多重维度的挑战:

集中云只是 AI 大脑 | 分布式才是 AI 抓手

为了摆​脱创新者的窘境​,拥有敏锐创新嗅觉的云从业人员发现,云形态正在因 AI 风向的不同发生显著改观。传统集中云,能够实现大规模的资源拓展,但高度集中的中心形态,更需要分枝散叶、如触手一般在近端呈现为分布形态。如高"智"商的章鱼物种一般,多触点、才敏捷。

ITDM 调查显示,技术负责人认识到分布式云的实用性特别适合于大数据和分析应用场景(56%)以及 AI/ML 工作负载 (47%)。 而根据 ClearPath Strategies 在2023年进行了一项全球性研究,有三分之二的 IT 决策者表示在**未来 12 个月内其分布式云服务的使用量预计会显著增加。**超过三分之一的受访者表示,分布式云好处众多(如快速、高效处理和分析 AI/ML 数据能力),是 IT 策略不可或缺的一部分。

无处不在,布局边缘 | 强势助攻 AI 创新

业界同仁的 AI 智算之道,正与 Akamai 云计算战略不谋而合。作为 CDN 行业鼻祖,Akamai 在分布式云方面有天然优势,始终秉持着在贴近终端用户的位置,一路积淀、融合、构建了云计算、云安全、云分发三位一体的快捷服务。

如今,Akamai 云计算平台战略的关键一步,便是 Akamai Generalized Edge Compute (Gecko) 泛化边缘计算计划 ,以支持企业与开发者利用分布式云形态,可突破云绑定模式,获得云的便携性,助力企业开发者在多云容器化格局下,高效开发、降本增效降本增效

应对 AI 创新的海量算力资源需求,Akamai 近日云产品阵容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒体优化型产品,并能用于 Gen AI/ML 场景,非常适合利用神经网路片进行训练和推理任务,可并行执行大量计算,更快、更高效地训练新模型,提高准确性和性能。

**从 GPU 到 CPU |**提升 AI 推理性能

为突破边缘推理 GPU 容量不足、算力不足等难题,Akamai 携手 Neural Magic 和 AMD 展开三方战略合作,推出了基于 CPU 的 AI 推理技术。Neural Magic 通过稀疏化算法优化 AI 模型,降低算力需求,可以把 LLM 机器视觉NLP 模型的运行至 CPU 上;并协同 AMD 四代 CPU 特定更新的向量指令集,提升运行效率。

Akamai 用 NLP 模型进行性能测试,基于两款入门Akamai 两核 CPU 虚机,若处理4万条电影评论的文本情感分析,仅需20分钟即可完成。月费成本上,每个月可处理8600万条推理请求,单月推理成本低至82美金。 Neural Magic 也使用 NLP 模型,对比了 CPU/GPU 推理效率。在维持原有模型推理准确性的同时,推理效率的两端,效率相差1000倍之多,更有助于保障企业的 AI 创新业务的可持续盈利能力。

**基于分布式云 |**加速推荐引擎AI 推理

在电商、社交媒体、广告等行业,往往需要借助融合 AI、深度学习和大语言模型算法的推荐引擎,来发掘用户偏好,主动推荐可能感兴趣的内容和商品。但若缺失高质量的网络性能保障,泛互联网产业广为使用的推荐引擎,将受限于网络访问时延。

面对阻碍推荐引擎的网络访问时延问题,除优化网络架构、使用更快的网络设备、优化数据传输协议等措施,更可以基于边缘的分布式云计算网络、具有 AI 算力的边缘计算节点,支持行业用户化解推荐引擎部署、性能、延时等方面的难题。Akamai 特别建议出海企业,将 AI 推荐引擎部署距离用户更近的 Akamai Gecko 站点,获得全球范围的边缘优势。

一直以来,在推荐引擎场景的成功实践之外,Akamai 云计算服务也以灵活、易用的分布式形态智能应用,长期助力广告科技、游戏、数据库等行业,显著降低云成本,在保障性能的同时,提升 IT 投资回报率。

整体来看,Akamai 云计算服务,在 IaaS、容器、存储、数据库、网络与开发工具方面也有全方位的云服务,可助力企业与开发者摆脱云绑定模式,灵活进行微服务创新,更快速、更高效地打造泛智能的创新型产品。

如今,Akamai Qualified Computing Partner Program(QCP)合作伙伴计划,正在火热纳新中,Akamai 广邀在 AI 训练&推理等领域的合作伙伴,共创、共构生态特定行业场景解决方案,重塑智能化时代的用户体验与创新效率。

欢迎点击进一步试用 Akamai 云计算系列产品;同时,Akamai 也欢迎志同道合的创新团队,加入 Akamai QCP 合作伙伴计划。

相关推荐
何遇mirror24 分钟前
云原生基础-云计算概览
后端·云原生·云计算
浊酒南街24 分钟前
Statsmodels之OLS回归
人工智能·数据挖掘·回归
畅联云平台1 小时前
美畅物联丨智能分析,安全管控:视频汇聚平台助力智慧工地建设
人工智能·物联网
加密新世界1 小时前
优化 Solana 程序
人工智能·算法·计算机视觉
hunteritself1 小时前
ChatGPT高级语音模式正在向Web网页端推出!
人工智能·gpt·chatgpt·openai·语音识别
颜淡慕潇1 小时前
【K8S系列】kubectl describe pod显示ImagePullBackOff,如何进一步排查?
后端·云原生·容器·kubernetes
Che_Che_2 小时前
Cross-Inlining Binary Function Similarity Detection
人工智能·网络安全·gnn·二进制相似度检测
哈市雪花2 小时前
图像处理 之 凸包和最小外围轮廓生成
图像处理·人工智能·图形学·最小外围轮廓·最小外包
LittroInno2 小时前
无人机侦察打击方案(3)
人工智能·无人机
如若1232 小时前
实现了图像处理、绘制三维坐标系以及图像合成的操作
图像处理·人工智能