开源大数据管理平台选型

随着CDH和HDP的闭源,还有国内信创需求,经过前期调研和后期实践,目前主要有两个产品满足要求:apache bigtop 和 DataSophon 符合要求。因为这两个产品都是完全开源的,自助可控。

一 apache bigtop

项目地址:https://bigtop.apache.org

Apache Bigtop 是一个开源项目,旨在提供一套完整的开源软件栈,用于构建、测试和部署大数据应用程序。该项目的主要目标是让用户可以轻松地构建、测试和部署 Apache Hadoop 生态系统中的各种组件和工具。

Apache Bigtop 提供了一套工具和框架,可以自动化地构建和测试大数据组件,包括 Hadoop、Hive、HBase、Pig、Spark 等等。同时,Apache Bigtop 还提供了一些示例和文档,帮助用户更好地理解和使用这些组件。

apache bigtop 已经在公司 x86 和 arm主机的 kylin操作系统下进行适配和验证,已经进入生产环境。

二 DataSophon

项目地址:https://datasophon.github.io/datasophon-website

新一代云原生大数据管家,致力于帮助用户快速构建起稳定、高效、可弹性伸缩的大数据云原生平台。

目前只有这两个项目提供源码和编译文档,其他项目不提供源码的,无法自主可控,就不过多介绍了。。。

相关推荐
2401_824256862 小时前
Spark Core编程
大数据·分布式·spark
煤烦恼2 小时前
Spark core
大数据·分布式·spark
城电科技2 小时前
城电科技 | 探索光伏景观廊道:适用于零碳园区/公园/景区/校园/乡村长廊建设
大数据·人工智能·科技
Gae Immortal3 小时前
Spark
大数据·分布式·spark
goTsHgo3 小时前
Flink 反压下的 TCP 流控制
大数据·tcp/ip·flink
苏小夕夕3 小时前
spark(一)
大数据·分布式·spark
EasyGBS3 小时前
国标GB28181协议EasyCVR视频融合平台:5G时代远程监控赋能通信基站安全管理
大数据·网络·人工智能·安全·音视频
啥都不懂的小小白5 小时前
Elasticsearch入门指南(三) 之 高级篇
大数据·elasticsearch·jenkins
用户Taobaoapi20146 小时前
1688 图片搜索 API 接口(1688 API 系列)
大数据·爬虫·数据挖掘
qq_5470261796 小时前
Elasticsearch 集群搭建
大数据·elasticsearch·搜索引擎