Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
T06205149 分钟前
【实证分析】A股上市公司企业组织韧性数据集(1991-2024年)
大数据
故事和你9110 分钟前
sdut-程序设计基础Ⅰ-期末测试(重现)
大数据·开发语言·数据结构·c++·算法·蓝桥杯·图论
跨境卫士苏苏14 分钟前
通过配件标准化降低售后复杂度
大数据·人工智能·跨境电商·亚马逊·营销策略
success11216 分钟前
hadoop集群准备工作
大数据·hadoop·chrome
Francek Chen27 分钟前
【大数据存储与管理】分布式数据库HBase:04 HBase的实现原理
大数据·数据库·hadoop·分布式·hbase
金融Tech趋势派40 分钟前
企业微信私域流量:如何用企业微信SCRM从0到1搭建高转化客户运营体系
大数据·人工智能·企业微信·scrm
TDengine (老段)1 小时前
TDengine IDMP 组态面板 —— 图元
大数据·数据库·人工智能·物联网·时序数据库·tdengine
JosieBook1 小时前
【数据库】时序数据库选型指南:从大数据视角看 Apache IoTDB 的跨“端 - 边-云”架构优势
大数据·数据库·时序数据库
电商API&Tina1 小时前
1688跨境寻源通API数据采集: 获得1688商品详情关键字搜索商品按图搜索1688商品
大数据·前端·数据库·人工智能·爬虫·json·图搜索算法
岁岁种桃花儿1 小时前
Flink从入门到上天系列第十七篇:Flink当中的算子状态
大数据·flink