大数据发展史

一、hadoop发展史

hadoop创始人Doug Cutting,主要为了实现Google类似全文搜索功能,该功能是基于Lucene框架进行优化升级,索引引擎;

2001年底Lucence成为Apache基金会的一个子项目,当时为了解决存储海量数据困难,检索海量速度慢,可以说Google是hadoop的思想之源;

GFS ---> HDFS

MapReduce ---> MR

BigTable ---> HBase

2006年3月份,MapReduce和Nutch Distributed File System(NDFS)被纳入到Hadoop项目,Hadoop正式诞生;

二、hadoop三大发行版本

Hadoop三大发行版本:Aapche、Cloudera、Hortonworks。

Apache版本最原始(最基础)的版本,对于入门学习最好。

Cloudera内部集成了很多大数据框架,对应产品CDH。

Hortonworks文档较好,对应产品HDP。

Hortonworks现在已经被Cloudera公司收购,推出新的品牌CDP。

三、hadoop优势

1)高可靠性:hadoop底层维护多个数据副本,即使某个计算或者存储出现故障,也不会丢失数据;

2)高扩展:集群可方便的扩展数以千计的节点;

  1. 高效性:在MapReduce下,Hadoop工作是并行的,这样能加速任务的处理速度;

4)高容错性:能够自动将失败的任务重新分配;

相关推荐
AEIC学术交流中心15 小时前
【快速EI检索 | ACM出版】2026年大数据与智能制造国际学术会议(BDIM 2026)
大数据·制造
wending-Y15 小时前
记录一次排查Flink一直重启的问题
大数据·flink
十月南城15 小时前
Hive与离线数仓方法论——分层建模、分区与桶的取舍与查询代价
数据仓库·hive·hadoop
UI设计兰亭妙微15 小时前
医疗大数据平台电子病例界面设计
大数据·界面设计
初恋叫萱萱16 小时前
模型瘦身实战:用 `cann-model-compression-toolkit` 实现高效 INT8 量化
大数据
互联网科技看点16 小时前
孕期科学补铁,保障母婴健康-仁合益康蛋白琥珀酸铁口服溶液成为产妇优选方案
大数据
Dxy123931021617 小时前
深度解析 Elasticsearch:从倒排索引到 DSL 查询的实战突围
大数据·elasticsearch·搜索引擎
YongCheng_Liang17 小时前
零基础学大数据:大数据基础与前置技术夯实
大数据·big data
AC赳赳老秦17 小时前
2026国产算力新周期:DeepSeek实战适配英伟达H200,引领大模型训练效率跃升
大数据·前端·人工智能·算法·tidb·memcache·deepseek
鹏说大数据17 小时前
Spark 和 Hive 的关系与区别
大数据·hive·spark