Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
河北清兮网络科技11 分钟前
深度解析:2026石家庄短视频APP开发真实成本、隐性开销与避坑方案
大数据·小程序·app·短剧app·广告联盟
Lumistory31 分钟前
2026年城市照明工程4大核心痛点及解决方案
大数据·数据库
智慧景区与市集主理人37 分钟前
巨有科技智慧营销平台|精准破局,解锁景区低成本高效增长模式
大数据·人工智能·科技
2601_9499369643 分钟前
高中物理成绩优异,适合报考大数据哪个细分专业?
大数据
财经资讯数据_灵砚智能44 分钟前
基于全球经济类多源新闻的NLP情感分析与数据可视化(夜间-次晨)2026年6月8日
大数据·人工智能·python·ai·信息可视化·自然语言处理·灵砚智能
大大大大晴天1 小时前
Hudi技术内幕:Table Types全解析
大数据
大树881 小时前
一滴冷却液,烧掉2000万算力
大数据·运维·服务器·人工智能
YangYang9YangYan1 小时前
民办本科大数据专业学习数据分析的价值分析
大数据·学习·数据分析
小e说说1 小时前
海同科技可信吗?16年IT教育品牌深度实测解析
大数据·人工智能
serve the people2 小时前
Elasticsearch(3) show me some examples
大数据·elasticsearch·jenkins