Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
赟爸25 分钟前
直播切片素材杂乱不好复用,易元AI要怎么处理
大数据·人工智能·python
yunlaodacom32 分钟前
阿里云国际站注册:性能损耗 < 1%!基于 eBPF 的服务器异常预测实战与调优指南
大数据·服务器·阿里云
大大大大晴天1 小时前
从 Kafka 到报表:Flink、CDC 与 StarRocks 的实时入仓链路
大数据
qq_454245031 小时前
Agent数据价值分类存储原则
大数据·人工智能·分类
画中有画3 小时前
Kappa 架构在大数据实时处理系统中的应用
大数据·架构
yingyuecom3 小时前
Hi,导演:AI视频创作正在从“模型调用”走向“生产工作流”
大数据·人工智能
阿标在干嘛5 小时前
从数据碎片到决策引擎:政策快报背后的政策大数据架构逻辑
大数据·架构
青山科技分享5 小时前
跨境电商如何做GEO,让商品被AI搜索推荐?
大数据·人工智能·跨境电商
字节跳动数据平台6 小时前
Lance Meetup 2026 · 上海站|正式开启报名!
大数据
汉拓3D数字化6 小时前
PDM到ERP的数据通道:四种方案的真实成本和落地难度
大数据·科技·系统·软件