分布式数据恢复-hbase+hive分布式存储误删除如何恢复数据?

hbase+hive分布式存储数据恢复环境:

16台某品牌R730XD服务器节点,每台物理服务器节点上有数台虚拟机,虚拟机上配置的分布式,上层部署hbase数据库+hive数据仓库。

hbase+hive分布式存储故障&初检:

数据库文件被误删除,数据库无法使用。

通过现场对该分布式环境的初步检测,发现虚拟机还可以正常启动,虚拟机里面的数据库块文件丢失。好在块文件丢失之后没有对集群环境写入数据,底层数据损坏可能性比较小。

hbase+hive分布式存储数据恢复方案:

1、备份。

A、从物理服务器底层做备份,将设备断电、关机。将所有磁盘编号后从服务器/存储中取出。

B、从虚拟机层面备份,通过网络直接备份虚拟机底层磁盘文件。

C、北亚企安数据恢复中心准备一台服务器以只读方式挂载服务器硬盘,对所有磁盘进行扇区对扇区的全盘镜像备份。

D、备份完成后提供详细报告,内容涉及所有磁盘的健康状态和存在的坏道列表。

E、将服务器硬盘按照编号还原到原服务器/存储设备中,之后数据分析和数据恢复操作都基于镜像文件进行,避免对原始磁盘数据造成二次破坏。

2、基于镜像文件分析块文件结构。

A、分析每个虚拟机磁盘的块文件。

B、分析文件底层的聚合方式。

C、分析磁盘中数据分布情况。

3、分析Block文件key。

A、定位数据库文件中的key信息。

B、提取并解析数据库文件中key信息。

C、整合数据库文件key信息。

4、拼接Block文件。

A、根据Block文件的key信息提取文件片段。

B、拼接Block文件的片段。

C、校验拼接后的Block文件的正确性。

5、导入Block文件。

A、校验提取出来的Block文件完整性和正确性。

B、把提取出来的Block文件导入到hbase和hive数据仓库中。

6、验证数据。

由用户对数据进行详细验证。如果发现问题则重新检验上面的恢复流程。

相关推荐
无级程序员7 小时前
大数据Hive之拉链表增量取数合并设计(主表加历史表合并成拉链表)
大数据·hive·hadoop
华农DrLai9 小时前
Spark SQL Catalyst 优化器详解
大数据·hive·sql·flink·spark
十月南城1 天前
Hive与离线数仓方法论——分层建模、分区与桶的取舍与查询代价
数据仓库·hive·hadoop
鹏说大数据1 天前
Spark 和 Hive 的关系与区别
大数据·hive·spark
B站计算机毕业设计超人1 天前
计算机毕业设计Hadoop+Spark+Hive招聘推荐系统 招聘大数据分析 大数据毕业设计(源码+文档+PPT+ 讲解)
大数据·hive·hadoop·python·spark·毕业设计·课程设计
B站计算机毕业设计超人1 天前
计算机毕业设计hadoop+spark+hive交通拥堵预测 交通流量预测 智慧城市交通大数据 交通客流量分析(源码+LW文档+PPT+讲解视频)
大数据·hive·hadoop·python·spark·毕业设计·课程设计
AI架构师小马1 天前
Hive调优手册:从入门到精通的完整指南
数据仓库·hive·hadoop·ai
数据架构师的AI之路1 天前
深入了解大数据领域Hive的HQL语言特性
大数据·hive·hadoop·ai
Gain_chance1 天前
33-学习笔记尚硅谷数仓搭建-DWS层交易域用户粒度订单表分析及设计代码
数据库·数据仓库·hive·笔记·学习·datagrip
北亚数据恢复3 天前
【VSAN数据恢复】VSAN磁盘故障,看数据如何“起死回生”
数据恢复·服务器数据恢复·北亚数据恢复·vsan数据恢复