趋动科技助力中国移动新型智算中心AI算力池化商用实践

由中国通信标准化协会、中国通信学会指导,CCSA TC610 SDN /NFV /AI标准与产业推进委员会主办的2024年云网智联大会于4月10日-11日在北京召开。

趋动科技联合申报的"中国移动新型智算中心AI算力池化商用实践",获得2023年度SDN、NFV、网络AI优秀案例征集最佳实践案例。

趋动科技助力中国移动新型智算中心AI算力池化商用实践

由中国移动提出并由趋动科技参与的新型智算中心智算资源池化平台方案,借鉴云计算的思路,对GPU、AI芯片等AI加速器资源进行聚合池化,利用先进的资源管理技术进行切分、调度和分配,使能资源可按任务实际需求进行有序供给,以充分利用稀缺、昂贵的算力资源,降低其不可分配的碎片概率。

智算资源池化平台以"软件定义"的方式,提供四大资源敏捷管理核心功能,优化资源效率,降低总体购置成本。

**● 化整为零:**改变传统的整卡分配、一虚多的粗放式分配方式,使能精细化分配能力,根据AI任务需求做到1%算力和1MB显存的细粒度资源按需供给;

**● 隔空取物:**基于高速无损网络,跨节点调取智算资源,使CPU及AI加速器高度解耦,进一步降低碎片化率;

**● 化零为整:**整合分布在多机上的零散资源,汇聚成为大模型业务可使用的资源,使资源可高效分配;

**● 变静为动:**改变传统的资源静态绑定的机制,使能资源可以根据负载变化动态分配、回收,多任务间可以峰谷互补,全局资源可以适度超分,促进资源效率提升。

相关推荐
武子康21 分钟前
大数据-210 数据挖掘 机器学习理论 - 逻辑回归 scikit-learn 实现 penalty solver
大数据·人工智能·python·机器学习·数据挖掘·逻辑回归·scikit-learn
weixin_5182850522 分钟前
深度学习笔记9-实现逻辑回归
人工智能·笔记·深度学习·机器学习
区块链蓝海1 小时前
机器人助力Bridge Champ游戏:1.4.2版本如何提升玩家体验
大数据·人工智能
云水木石1 小时前
对标 Windows Copilot 的 UOS AI,升级后更能打了
人工智能·copilot
安祝老师1 小时前
十四届蓝桥杯STEMA考试Python真题试卷第二套第二题
开发语言·python·算法·青少年编程·蓝桥杯
迷迭所归处3 小时前
数据结构 —— 红黑树
c++·算法
Envyᥫᩣ3 小时前
从零开始的机器学习之旅
人工智能·机器学习
景鹤3 小时前
【算法】递归+深搜+哈希表:889.根据前序和后序遍历构造二叉树
算法
大数据面试宝典3 小时前
【Ai测评】GPT Search偷偷上线,向Google和微软发起挑战!
人工智能·gpt·ai测评·ai之家
LeMay084 小时前
基础算法——排序算法(冒泡排序,选择排序,堆排序,插入排序,希尔排序,归并排序,快速排序,计数排序,桶排序,基数排序,Java排序)
java·算法·排序算法