HBase 搭建过程中常见问题

文章目录

进程问题

HQuorumPeer 和 QuorumPeerMain 区别

HQuorumPeer 进程是一个 ZooKeeper 实例,由 HBase 控制和启动。如果没有使用自己的 Zookeeper,而是使用 Hbase 托管的, 那么每个集群节点只能使用一个实例,并且仅适用于测试。

QuorumPeerMain 进程是 Zookeeper 独立的进程, ZooKeeperHBase 之外运行。

HRegionServer

stop-hbase.sh 可能没有关闭 HRegionServer 进程,需要自己关闭

sh 复制代码
/opt/hbase-2.4.16/bin/hbase-daemon.sh stop regionserver
# 或者 jps 查看进程号,使用 kill -9 杀死进程

HMaster 自动关闭

  1. 检查 HDFS 的端口
    • hbase-site.xml 中的 hbase.rootdir 的主机和端口号必须和 core-site.xml 中的 fs.defaultFS 的保持一致,即主机相同且端口统一使用 8020 或者 9000
  2. 检查 ZooKeeper
    • ZooKeeper 集群不稳定或者不可用:HMaster 依赖于 ZooKeeper 进行状态管理和协调,如果 ZooKeeper 出现问题,可能会影响到 HMaster 的运行。
  3. 检查网络和防火墙设置
    • 确保 HBase Master 能够通过网络与其他节点(包括 ZooKeeper)通信。检查网络连接和防火墙设置,确保必要的端口是开放的。
  4. 检查网络
    • 网络中断或不稳定:HMaster 需要与 ZooKeeper、RegionServers 和其他服务保持稳定的网络连接。网络问题可能导致 HMaster 无法正常工作并自动关闭。

启动顺序

zookeepeer➡hadoop➡hbase

sh 复制代码
./zk.sh start
./myhadoop.sh start
start-hbase.sh

停止顺序

hbase➡hadoop➡zookeepeer

sh 复制代码
stop-hbase.sh
./myhadoop.sh stop
./zk.sh stop

无法关闭一直等待

单点关闭,去日志里查找问题,日志里会提供关于问题的更多详细信息和上下文。

sh 复制代码
$HBASE_HOME/bin/hbase-daemon.sh stop master
$HBASE_HOME/bin/hbase-daemon.sh stop regionserver

运行报错

java 复制代码
ERROR: org.apache.hadoop.hbase.ipc.ServerNotRunningYetException: Server is not running yet
        at org.apache.hadoop.hbase.master.HMaster.checkServiceStarted(HMaster.java:2815)
        at org.apache.hadoop.hbase.master.MasterRpcServices.isMasterRunning(MasterRpcServices.java:1163)
        at org.apache.hadoop.hbase.shaded.protobuf.generated.MasterProtos$MasterService$2.callBlockingMethod(MasterProtos.java)
        at org.apache.hadoop.hbase.ipc.RpcServer.call(RpcServer.java:387)
        at org.apache.hadoop.hbase.ipc.CallRunner.run(CallRunner.java:132)
        at org.apache.hadoop.hbase.ipc.RpcExecutor$Handler.run(RpcExecutor.java:369)
        at org.apache.hadoop.hbase.ipc.RpcExecutor$Handler.run(RpcExecutor.java:349)
  1. 等待 Master 启动完成
    • HBase Master 启动可能需要一些时间。如果你刚刚启动了 Master,可能需要等待一段时间让它完全启动并注册到 ZooKeeper 中。
  2. 检查 HBase Master 状态
    • 确认 HBase Master 进程是否在运行。你可以通过查看系统进程(例如使用 jps 命令)或者检查 HBase 的日志文件来确定 Master 的状态。
  3. 检查 HBase 和 ZooKeeper 配置
    • 确保 HBaseZooKeeper 的配置文件中的地址、端口和其他设置都是正确的。任何错误的配置都可能导致 Master 无法启动或者无法与 ZooKeeper 正确通信。
  4. 检查网络和防火墙设置
    • 确保 HBase Master 能够通过网络与其他节点(包括 ZooKeeper)通信。检查网络连接和防火墙设置,确保必要的端口是开放的。
  5. 查看日志文件
    • 查看 HBaseZooKeeper 的日志文件,它们可能会提供关于问题的更多详细信息和上下文。

日志中报错问题

无法调用方法

报错信息如下:

java 复制代码
WARN  [RS-EventLoopGroup-1-1] concurrent.DefaultPromise: An exception was thrown by org.apache.hadoop.hbase.io.asyncfs.FanOutOneBlockAsyncDFSOutputHelper$4.operationComplete()
java.lang.IllegalArgumentException: object is not an instance of declaring class
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
	at java.lang.reflect.Method.invoke(Method.java:498)
	at org.apache.hadoop.hbase.io.asyncfs.ProtobufDecoder.<init>(ProtobufDecoder.java:64)
    ......

解决方案:

1)使用 Hadoopjar 包替换 hbasejar 包,并将 hbasejar 包备份

sh 复制代码
cp $HADOOP_HOME/share/hadoop/common/lib/slf4j-log4j12-1.7.30.jar $HBASE_HOME/lib/client-facing-thirdparty/slf4j-log4j12-1.7.30.jar
cp $HADOOP_HOME/share/hadoop/common/lib/slf4j-api-1.7.30.jar $HBASE_HOME/lib/client-facing-thirdparty/slf4j-api-1.7.30.jar

mv $HBASE_HOME/lib/client-facing-thirdparty/slf4j-reload4j-1.7.33.jar $HBASE_HOME/lib/client-facing-thirdparty/slf4j-reload4j-1.7.33.jar.bak
mv $HBASE_HOME/lib/client-facing-thirdparty/slf4j-api-1.7.33.jar $HBASE_HOME/lib/client-facing-thirdparty/slf4j-api-1.7.33.jar.bak

2)修改 hbase-env.sh

sh 复制代码
vim $HBASE_HOME/conf/hbase-env.sh

禁用 Hadoop 的类路径查找功能,类路径的查找可能会引发问题或冲突。

sh 复制代码
export HBASE_DISABLE_HADOOP_CLASSPATH_LOOKUP=true

3)重新启动 hbase 集群

sh 复制代码
stop-hbase.sh
start-hbase.sh

启动 HBase 无法找到 Hadoop 本机库

报错信息如下:

java 复制代码
WARN  [main] util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

官方解决方案:Apache HBase ™ Reference Guide

相关推荐
YMY哈10 分钟前
Spark 4.0 重磅升级:湖仓处理性能再突破
大数据
2301_8152795211 分钟前
SQL如何利用聚合函数生成业务分析指标_KPI计算基础教程
jvm·数据库·python
小江的记录本12 分钟前
【分布式】分布式核心组件——分布式锁:Redis/ZooKeeper/etcd 实现方案(附全方位对比表)、优缺点、Redlock、时钟回拨问题
java·网络·redis·分布式·后端·zookeeper·架构
qq_3300379912 分钟前
mysql如何排查Out of memory错误_mysql内存分配调优
jvm·数据库·python
南棱笑笑生1 小时前
20260420给万象奥科的开发板HD-RK3576-PI适配瑞芯微原厂的Buildroot时调通AP6256并实测网速109Mbits/sec
大数据·elasticsearch·搜索引擎·rockchip
weixin_458580121 小时前
如何在 Go 中直接将 AST 编译为可执行二进制文件?
jvm·数据库·python
Highcharts.js3 小时前
Highcharts Grid 中文站正式上线:表格数据处理的全新选择
前端·javascript·数据库·表格数据·highcharts·可视化图表·企业级图表
Elastic 中国社区官方博客6 小时前
Elasticsearch:使用 Agent Builder 的 A2A 实现 - 开发者的圣诞颂歌
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
2301_816660217 小时前
PHP怎么处理Eloquent Attribute Inference属性推断_Laravel从数据自动推导类型【操作】
jvm·数据库·python
qq_372154237 小时前
Go 中自定义类型与基础类型的显式转换规则详解
jvm·数据库·python