Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
蚂蚁数据AntData14 分钟前
从ChatBI到业务记忆:重新定义数据智能的生产力边界
大数据·网络·数据库·人工智能·算法
Quincy_Freak18 分钟前
技术随笔|银河麒麟aarch64内网轻量数据分析工具 SQLiteGo 使用体验
大数据·数据库·数据挖掘·数据分析·sqlite·银河麒麟·aarch64
跨境数据猎手27 分钟前
跨境电商独立站0-1搭建全流程
大数据·人工智能
科技侃谈29 分钟前
国内下载imToken为什么选择:官方渠道?有什么优势?
大数据·人工智能
zhou lily29 分钟前
数据中台的终局思维:如何平衡“数据共享”与“安全合规”
大数据
数据库小学妹30 分钟前
时序数据怎么存?InfluxDB、TDengine、TimescaleDB与国产融合方案选型实战
大数据·数据库·经验分享·时序数据库·dba
2601_9561394232 分钟前
性价比高的VI设计质量
大数据·人工智能·python·物联网
人工智能培训44 分钟前
医疗行业的数字孪生革命
大数据·人工智能·重构·知识图谱·agent
柠檬味的Cat1 小时前
GEO优化系统是什么?具体做什么,有什么用?
大数据·人工智能·aigc
snpgroupcn1 小时前
云转型过程中, 如何有效推进Rise with SAP项目实施
大数据·人工智能·云转型