Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
Geeys4 小时前
拼多多单品推广完整方案(可直接落地)
大数据·人工智能
生态学者4 小时前
Global Change Biology | 森林越“步调一致”,反而越怕干旱?树木生长与叶片活动的同步之谜
大数据·人工智能·算法·r语言·微信公众平台
lsswear5 小时前
Agent 框架新手入门与实战部署指南
大数据·人工智能·算法
samFuB5 小时前
【数据集】地级市一般性转移支付、专项转移支付数据(2010-2024年)
大数据
YH行业报告分析6 小时前
2026漂白紫胶粉市场深度:EUDR合规与脱蜡路线之争如何重构天然树脂供应链?
大数据·重构
YH_Analytics6 小时前
2026-2032 食品吸液垫行业市场规模与增长预测
大数据·网络·人工智能
richdata6 小时前
鞋服品牌应该如何测算AI商品决策项目的ROI?
大数据·人工智能
tianbin9117 小时前
大模型训练与推理:API中转站在企业AI落地中的隐藏价值
大数据·后端·ai
注塑机数据采集联网7 小时前
注塑机数据采集网关对接MES系统数字化技术方案
大数据·网络·数据库·物联网·数据挖掘·数据分析
野生码农AI实战7 小时前
【无标题】
大数据·人工智能