【HDFS】与单测编写相关的一些工具类及方法(大纲篇)持续更新

集群创建启动

MiniDFSCluster

可以用这个类创建一个单进程的DFS集群用来进行单元测试。

一般是采用MiniDFSCluster$Builder去建造出一个MiniDFSCluster对象。builder可以指定很多参数

MiniRouterDFSCluster

用来模拟一个有多台Router的HDFS联邦集群。

写一个测试文件

副本文件

EC文件

GenericTestUtils

等待某个条件为true。

【HDFS】GenericTestUtils#waitFor的使用

相关推荐
Thomas21431 小时前
spark pipeline 转换n个字段,如何对某个字段反向转换
大数据·ajax·spark
卷Java4 小时前
智慧停车大屏数据分析与设计文档
java·大数据·人工智能·数据分析
孟意昶4 小时前
Spark专题-第三部分:性能监控与实战优化(1)-认识spark ui
大数据·数据仓库·sql·ui·spark·etl
MoRanzhi12034 小时前
2. Pandas 核心数据结构:Series 与 DataFrame
大数据·数据结构·人工智能·python·数据挖掘·数据分析·pandas
经典19924 小时前
Elasticsearch 讲解及 Java 应用实战:从入门到落地
java·大数据·elasticsearch
大叔_爱编程5 小时前
基于Hadoop的美妆产品网络评价的数据采集与分析-django+spider
大数据·hadoop·django·毕业设计·源码·课程设计·美妆产品
syounger5 小时前
SAP与阿里巴巴战略合作升级:四大核心云解决方案落地阿里云
大数据·人工智能·阿里云
Q26433650236 小时前
【有源码】基于Hadoop+Spark的豆瓣电影数据分析与可视化系统-基于大数据的电影评分趋势分析与可视化系统
大数据·hadoop·python·数据分析·spark·毕业设计·课程设计
环球科讯6 小时前
建行广东茂名河东支行:开展“金融知识万里行”系列活动
大数据·人工智能
vx_dmxq2117 小时前
免费领源码-Spring boot的物流管理系统 |可做计算机毕设Java、Python、PHP、小程序APP、C#、爬虫大数据、单片机、文案
java·大数据·python·jupyter·课程设计