AI大底座正是整合了以上端到端全要素技术能力,将基础架构IaaS与应用平台PaaS能力深度融合,面向企业和产业AI生 产与应用的全生命周期提供完整解决方案。
百舸AI异构计算平台是AI IaaS层的核心平台,包括AI计算、AI存储、AI加速、AI容器四层套件,实现算力资源的 高性能、高弹性、高速互联、高性价比,承载海量数据的处理、超大模型的训练和推理,为AI场景提供软硬一体的智能算 力基础设施。
百舸充分汲取了百度异构计算平台多年的技术积累,深度融合推荐、无人驾驶、生命科学、NLP等场景的实践经验。 其中,百度太行服务器提供了基于自研GPU硬件架构X-MAN的高性能实例,充分满足AI单机训练、分布式集群训练、AI 推理部署等对算、存、传的性能诉求。百度沧海存储通过云边一体、存算协同、软硬融合的技术架构,使得数据可以分场 景跨地域流转汇聚,并通过统一的数据湖存储匹配不同的上层应用,加速智能计算,释放数据价值。AI加速通过对存储访问、模型训练和推理的加速进一步提速AI任务。AI容器提供GPU显存和算力的共享与隔离,集成PaddlePaddle、 TensorFlow、Pytorch等主流深度学习框架,支持AI任务编排、管理等。
AI中台是AI PaaS层的核心平台,打通样本中心、模型中心、大模型平台、AI开发平台、AI服务运行平台,实现从数据存 储到模型训练、生产、部署、测试的全链路、批量化生产,面向企业AI开发、管理、应用提供全生命周期解决方案。
其中,样本中心支持数据全流程处理能力,覆盖数据源管理、数据采集、数据清洗、智能标注、多人标注、数据生成、数 据增强、数据质量评估、数据回流等一站式数据处理能力;模型中心支持完善的模型管理、模型评估、模型加速、模型转 换等能力;AI服务运行平台支持云边端协同模式,支持灵活发布至各类边缘终端 ,在线服务支持模型漂移、自动扩缩容等 便捷的服务追踪、运维服务。AI开发平台包含了零门槛AI开发平台EasyDL及全功能AI开发平台BML------零门槛AI开发平 台EasyDL是针对零AI算法基础的企业用户的AI开发平台,预置17种建模场景,可以助力用户快速定制高精度AI模型;全 功能AI开发平台BML面向模型定制化要求较高的企业用户,为AI算法工程师同时提供机器学习和深度学习环境,并支持可 视化建模、自动化建模、作业建模、Notebook开发、产线建模等多种开发方式,并可通过实验管理有效追踪建模数据及 参数。
百度智能云千帆大模型平台是面向企业开发者的一站式大模型开发及服务运行平台,可为企业提供包括文心大模型在内的 大模型服务,同时也支持第三方大模型,提供开发AI应用的各种工具链及整套环境,让企业和开发者以简单的方式用上大 模型、用好大模型。具体来看,百度智能云千帆大模型平台包含覆盖大模型生产和应用全生命周期的工具链能力,如模型 训练与评估、推理服务与集成应用、Prompt工程、插件应用等,帮助企业更好地应用大模型赋能产品,向客户提供更好的 产品体验。当前已有包括工业、金融、政务、互联网、运营商、教育等行业头部伙伴参与内测,并在400+真实场景里看到 了令人兴奋的测试效果。