Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
建群新人小猿29 分钟前
陀螺匠企业助手——组织框架图
android·java·大数据·开发语言·容器
mifengxing30 分钟前
操作系统(一)
大数据·数据库·操作系统
资讯雷达1 小时前
2026 年,GEO 优化如何选?风信子传媒:以“内容生态+智能分发”重塑品牌 AI 认知
大数据·人工智能·传媒
中科天工1 小时前
当智能包装行业迎来新机遇,如何驾驭发展趋势?
大数据·人工智能·智能
wan9zhixin1 小时前
2026年1月变电设备六氟化硫泄漏检测仪品牌推荐
大数据·网络·人工智能
大鳥2 小时前
企业级 Hive on Spark 开发规范
hive·hadoop·spark
私域合规研究3 小时前
2026年私域的八大挑战及发展方向
大数据·人工智能
福客AI智能客服3 小时前
专业适配破局:AI客服软件与电商智能客服重塑日用品服务生态
大数据·人工智能
摩西蒙3 小时前
业务监控和常用产品
java·大数据·人工智能
AI-小柒4 小时前
从零入门大语言模型(LLM):系统学习路线与实践指南
大数据·开发语言·人工智能·学习·信息可视化·语言模型·自然语言处理