Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
逐米时代10 分钟前
为什么制造型企业需要企业知识库建设?
大数据·人工智能
金融Tech趋势派13 分钟前
企业微信私域实现高效增长的3步策略:精准获客+粘性留存+高效转化
大数据·人工智能·企业微信
阿乔外贸日记21 分钟前
摩托品类进军亚美尼亚市场路径分享
大数据·人工智能·智能手机·云计算·汽车
YangYang9YangYan28 分钟前
数据科学与大数据技术专业学习数据分析的价值
大数据·学习·数据分析
元拓数智1 小时前
NL2SQL落地后的“隐形陷阱”:如何破解数据变更引发的查询失效难题
大数据·ai·自然语言处理·nl2sql
专注API从业者1 小时前
告别手动翻页!基于淘宝商品接口 + Open Claw 实现自动化选品与实时监控(附完整 Python 代码)
大数据·运维·数据库·自动化
云中计算巫作坤1 小时前
多平台电商订单,手工同步的时代该结束了
大数据·系统集成·s-hub·s-hub电商平台对接
阿坤带你走近大数据2 小时前
Flink中背压的详细介绍
大数据·flink
暗夜猎手-大魔王2 小时前
hermes源码学习5-Provider 运行时解析
大数据·人工智能·学习
五度易链-区域产业数字化管理平台2 小时前
从编制规范到落地应用,新版可研报告撰写全流程指南
大数据·人工智能