Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
家的尚尚签19 分钟前
高定木作企业实践:案例分享与成果展示
大数据·人工智能·python
T06205141 小时前
【数据集】更新-各省平均受教育年限与学历结构数据(1993-2024年)
大数据
Dr.AE2 小时前
金蝶AI星辰 产品分析报告
大数据·人工智能
海兰2 小时前
ES 9.3.0 DSL 示例:从索引创建到混合搜索与 RRF 排序
大数据·数据库·elasticsearch
AI周红伟3 小时前
周红伟:Sglang+Vllm+Qwen3.5企业级部署案例实操
大数据·人工智能·大模型·智能体
选择不变5 小时前
飞云做多平线指标-蓝柱抄底-绿柱洗盘-平线拉升和持股跟踪,指标图文教程
大数据·通达信指标公式·炒股技巧·短线指标·孟飞云指标
海滩游侠5 小时前
miniagent dive deep 1 安装指南
大数据·elasticsearch·搜索引擎
AI周红伟5 小时前
大模型部署入门教程,消费级显卡跑通Qwen3.5-Plus,最低配置部署教程,不能在简单了
大数据·人工智能·大模型·智能体
海兰5 小时前
ES 9.x 中文 NER 推理 API + 管道配置方案
大数据·elasticsearch·搜索引擎