Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
Bode_20022 分钟前
智能协同与绿色数字孪生舱主要功能与关键技术
大数据·人工智能·制造·碳中和
SmartBrain42 分钟前
编程助手工具自动化开发对比报告:OpenSpec、Claude Code、Cursor、PI
大数据·人工智能
小赖同学啊42 分钟前
可信数据空间设计
大数据
想ai抽42 分钟前
Spark Executor 因节点内存超限被杀的分析与应对
大数据·性能优化·spark
就改了2 小时前
Windows Elasticsearch 完整上手教程
大数据·windows·elasticsearch
yyuuuzz2 小时前
独立站运营的几个技术层面常见问题
大数据·运维·服务器·网络·数据库·aws
XIAOYU6720132 小时前
高中物理成绩优异,适合报考大数据哪个细分专业数学成绩偏弱,还适合填报大数据相关专业吗
大数据
2601_954971132 小时前
大数据需要掌握哪些主流大数据工具框架
大数据
Urbano3 小时前
工装标准缝纫流程及自动化升级提质增产方案
大数据·人工智能·算法
wanghowie3 小时前
35. 从AI客服到AI运营助手:Workflow、Single Agent、Multi-Agent、Agent Native 的架构选型实践
大数据·人工智能·架构