Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
sunshine8853 分钟前
合规性管理:财务安全与业务连续性的双重保障
大数据·运维·人工智能
lusasky3 分钟前
Claude Code v2.1.0+ 版本集成LSP
大数据·数据库·人工智能
历程里程碑29 分钟前
子串----和为K的子数组
大数据·python·算法·leetcode·elasticsearch·搜索引擎·哈希算法
Kratzdisteln1 小时前
【1902】process_assignment_pdf()
大数据·人工智能·pdf
wxl7812271 小时前
2026年人工智能发展趋势:效率重构、生态协同与规范前行
大数据·人工智能·重构
沃达德软件1 小时前
重点人员动态管控系统解析
数据仓库·人工智能·hive·hadoop·redis·hbase
九河云1 小时前
数字韧性时代,华为云CBR为业务连续性注入“免疫基因”
大数据·人工智能·安全·机器学习·华为云
Juicedata2 小时前
JuiceFS 企业版 5.3 特性详解:单文件系统支持超 5,000 亿文件,首次引入 RDMA
大数据·人工智能·机器学习·性能优化·开源
蚁巡信息巡查系统2 小时前
网站信息发布再巡查机制怎么建立?
大数据·人工智能·数据挖掘·内容运营
云边云科技_云网融合2 小时前
AIoT智能物联网平台:架构解析与边缘应用新图景
大数据·网络·人工智能·安全