Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
苦猿的大模型日记25 分钟前
Day65|从0学习 Claude Code(十五):Harness 集成,14 章的零件装回同一台车
大数据
Leo.yuan1 小时前
Agent化分析加速成形:FineBI AI原生技术架构落地,推动AI+BI分析范式跃迁
大数据·人工智能
YH行业报告分析2 小时前
2026商用鸡蛋分级机深度分析:AI视觉分拣如何驱动蛋品加工智能化升级?
大数据·科技·智能
DolphinDB智臾科技2 小时前
插件上新 | 让 Excel 数据更顺畅地接入 DolphinDB
大数据·excel
云安全助手2 小时前
自建接入VS聚合平台:企业 AI 调用的选型思路与迁移成本拆解
java·大数据·数据库·人工智能·ai大模型
Gu_WenYun2 小时前
从全面普涨到双轨分化,如何用基金布局存储芯片?
大数据·人工智能·业界资讯
陈工大模型2 小时前
GEO监测工具技术选型:2026年9月AI可见性十强评测
大数据·人工智能·科技
CallFay云起未来2 小时前
AI客服上线后多久才能回本?从TCO到ROI的完整测算方法
java·大数据·人工智能·架构·文心一言
Elastic 中国社区官方博客3 小时前
使用 Lucene 搜索你的 Bean —— Elasticsearch
大数据·开发语言·人工智能·elasticsearch·搜索引擎·全文检索·lucene
闲蛋小超人笑嘻嘻3 小时前
Git Worktree 详解
大数据·elasticsearch·搜索引擎