Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
雨季6663 小时前
Flutter 智慧医疗服务平台:跨端协同打造全周期健康管理生态
大数据
bigdata-rookie3 小时前
数据仓库建模
大数据·分布式·spark
路边草随风3 小时前
iceberg 基于 cosn 构建 catalog
java·大数据
2401_840108164 小时前
一篇文章搞懂数据仓库:三种事实表(设计原则,设计方法、对比)(1)
大数据·数据仓库
isNotNullX4 小时前
数据仓库是什么? 一文带你看清它的架构
大数据·数据仓库·架构·etl
AI开发架构师4 小时前
大数据环境下数据仓库的容器化部署
大数据·数据仓库·ai
秦JaccLink4 小时前
Hive导入数据的五种方式及其应用
数据仓库·hive·hadoop
梦里不知身是客115 小时前
flink有状态计算中状态的分类
大数据·flink
老蒋新思维6 小时前
创客匠人峰会实录:创始人 IP 变现的 “人 + 智能体” 协同范式 —— 打破知识变现的能力边界
大数据·网络·人工智能·网络协议·tcp/ip·创始人ip·创客匠人
jkyy20147 小时前
端到端生态闭环:智能硬件+云平台+应用终端,最大化穿戴设备价值
大数据·人工智能·物联网·健康医疗