Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
学术会议14 分钟前
【智慧光学与高效信号处理】2025年信号处理与光学工程国际会议 (SPOE 2024)
大数据·人工智能·物联网·安全·信号处理
神的孩子都在歌唱1 小时前
es创建的索引状态一直是red
大数据·elasticsearch·jenkins
liupenglove1 小时前
快速掌握Elasticsearch检索之二:滚动查询获取全量数据(golang)
大数据·elasticsearch·搜索引擎
Taerge01101 小时前
数据仓库: 9- 数据仓库数据治理
大数据·数据仓库·spark
m0_748245521 小时前
Python大数据可视化:基于python大数据的电脑硬件推荐系统_flask+Hadoop+spider
大数据·python·flask
forestsea1 小时前
【Elasticsearch】数据分布与路由机制
大数据·elasticsearch·搜索引擎
大圣数据星球2 小时前
揭秘 Fluss 架构组件
大数据·设计模式·flink
沙滩de流沙2 小时前
Hadoop生态
大数据·hadoop·分布式
进击的小小学生2 小时前
多因子模型连载
大数据·python·数据分析·区块链
qiquandongkh2 小时前
期权懂|期权入门知识:如何选择期权合约?
大数据·区块链