Hadoop Hbase

0目录

|------------------------------------------------------|
| 1.Hbase 安装 2. 表操作 3.hbase 原理 |

1. Hbase安装

|------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1.1 安装zookeeper 下载解压zookeeper和hbase到soft目录 |
| 1.2 安装hbase 配置环境变量 vim /etc/profile #ZK export ZOOKEEPER_HOME=/opt/soft/zk345 export PATH=ZOOKEEPER_HOME/bin:PATH #HBASE_HOME export HBASE_HOME=/opt/soft/hbase235 export PATH=HBASE_HOME/bin:PATH hbase235/conf 目录下的 编辑hbase-env.shroot@kb129 conf# vim ./hbase-env.sh export JAVA_HOME=/opt/soft/jdk180 编辑hbase-site.xml root@kb129 conf# vim ./hbase-site.xml <property> <name>hbase.rootdir</name> <value>hdfs://192.168.142.129:9000/hbase</value> </property> <property> <name>hbase.cluster.distributed</name> <value>true</value> </property> <property> <name>hbase.zookeeper.property.dataDir</name> <value>/opt/soft/zk345/zkdata</value> </property> <property> <name>hbase.zookeeper.property.clientPort</name> <value>2181</value> </property> root@kb129 conf# pwd /opt/soft/zk345/conf root@kb129 conf# cp zoo_sample.cfg zoo.cfg root@kb129 conf# mkdir /opt/soft/zk345/logs root@kb129 conf# mkdir /opt/soft/zk345/zkdata root@kb129 conf# vim ./zoo.cfg dataDir=/opt/soft/zk345/zkdata dataLogDir=/opt/soft/zk345/logs server.0=192.168.142.129:2287:3387 root@kb129 conf# cd ../zkdata/ root@kb129 zkdata# echo "0">myid 启动zookeeper root@kb129 zkdata# zkServer.sh start 启动hbase root@kb129 zkdata# start-hbase.sh 网页访问 http://kb129:16010/ root@kb129 conf# hbase shell hbase(main):001:0> create_namespace 'kb23' |
| create_namespace 'bigdata' 创建表 hbase(main):007:0> create 'bigdata:student','baseinfo','schoolinfo' 查看表 hbase(main):008:0> list_namespace_tables 'bigdata' 查看描述 hbase(main):009:0> desc 'bigdata:student' 删除表之前先禁用表 禁用表 hbase(main):011:0> disable 'bigdata:student' 查看是否禁用/启用 hbase(main):011:0> is_enabled 'bigdata:student' 启用表 hbase(main):011:0> enable 'bigdata:student' 删除 hbase(main):011:0> drop 'bigdata:student' |
| 关闭hbase命令 |
| |
| |

2.表操作

|----------------------------------------------------------------------------------------------------------------------|
| 添加数据 |
| 根据rowkey获取列族和列 |
| 获取列族中的单个列信息 |
| |

3.补充Hbase原理

|-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| ### HBase定义 HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库。 ### HBase数据模型 逻辑上,HBase的数据模型同关系型数据库很类似,数据存储在一张表中,有行有列。但从HBase的底层物理存储结构(K-V)来看,HBase更像是一个multi-dimensional map(多维地图)。 |
| |
| HBase物理存储结构 |
| #### 数据模型 1 )Name Space 命名空间,类似于关系型数据库的database概念,每个命名空间下有多个表。HBase两个自带的命名空间,分别是hbase和default,hbase中存放的是HBase内置的表,default表是用户默认使用的命名空间。 2 )Table 类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,不需要声明具体的列。这意味着,往HBase写入数据时,字段可以动态、按需指定。因此,和关系型数据库相比,HBase能够轻松应对字段变更的场景。 3 )Row HBase表中的每行数据都由一个RowKey 和多个Column(列)组成,数据是按照RowKey的字典顺序存储的,并且查询数据时只能根据RowKey进行检索,所以RowKey的设计十分重要。 4 )Column HBase中的每个列都由Column Family(列族)和Column Qualifier(列限定符)进行限定,例如info:name,info:age。建表时,只需指明列族,而列限定符无需预先定义。 5 )Time Stamp 用于标识数据的不同版本(version),每条数据写入时,系统会自动为其加上该字段,其值为写入HBase的时间。 6 )Cell 由{rowkey, column Family:column Qualifier, time Stamp} 唯一确定的单元。cell中的数据全部是字节码形式存贮。 |
| HBase基本架构 |
| 架构角色: 1 )Region Server Region Server为 Region的管理者,其实现类为HRegionServer,主要作用如下: 对于数据的操作:get, put, delete; 对于Region的操作:splitRegion、compactRegion。 2 )Master Master是所有Region Server的管理者,其实现类为HMaster,主要作用如下: 对于表的操作:create, delete, alter 对于RegionServer的操作:分配regions到每个RegionServer,监控每个RegionServer的状态,负载均衡和故障转移。 3 )Zookeeper HBase通过Zookeeper来做master的高可用、RegionServer的监控、元数据的入口以及集群配置的维护等工作。 4 )HDFS HDFS为Hbase提供最终的底层数据存储服务,同时为HBase提供高容错的支持。 |
| Hive映射Hbase Kb23:kb23factory表2个列族 列和具体信息 建立映射 |

相关推荐
Nefu_lyh2 小时前
【Hive】02 Hive 分区与分桶:深入理解 Hive 分区与分桶的原理、执行过程、Bucket Map Join、SMB Join 以及最佳实践
数据仓库·hive·hadoop
段一凡-华北理工大学2 小时前
工业领域的Hadoop架构学习~系列文章11:Kerberos安全认证
数据仓库·hadoop·学习·架构·高炉炼铁·工业智能体·高炉炼铁智能化
muddjsv2 小时前
HBase与Hadoop:基于什么开发?深度剖析与架构图
数据库·hadoop·hbase
muddjsv2 小时前
HBase 与 Hadoop 安装与上手使用全指导
数据库·hadoop·hbase
Nefu_lyh2 小时前
【Hive】一、Hive数据类型:基本数据类型、复杂数据类型
数据仓库·hive·hadoop
冷色调的咖啡师3 小时前
4.大数据高可用
大数据·linux·hadoop·hdfs·zookeeper·yarn
冷色调的咖啡师3 小时前
1.大数据架构技术 上——搭建分布式Hadoop集群
大数据·linux·hadoop·分布式·hdfs·架构·yarn
cg.family3 小时前
Hadoop vs Kubernetes 对比记忆
大数据·hadoop·kubernetes
段一凡-华北理工大学1 天前
工业领域的Hadoop架构学习~系列文章09:HBase列式数据库
数据库·人工智能·hadoop·架构·hbase·高炉炼铁·高炉炼铁智能化
muddjsv1 天前
Hadoop 与 HBase 深度剖析:从架构原理到实战应用
hadoop·架构·hbase