Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
Lucky_luckyZzz21 分钟前
销售会话分析与智能工牌实测红榜:灵听工牌如何成为B2B销售效率提升的选型标杆?
大数据·人工智能
江瀚视野42 分钟前
京东快递推行业首个寄文件证照送保价,京东如何改变市场?
大数据
万点科技码农2 小时前
2025年7月11日行业热点解读:定制软件开发与AI工作流重构一体化趋势
大数据·人工智能·重构
Regentsoft丽晶软件2 小时前
从“等客进店”到“上门成交”:服装门店移动POS离店收银的完整业务流程2026
大数据·经验分享·用户运营·零售
dayuOK63072 小时前
AI Agent市场爆发:从“试一试”到“离不开”,只用了不到一年
大数据·人工智能·ai作画·新媒体运营·aigc·ai写作
海外数字观察家2 小时前
马来西亚商贸数字化落地指南:跨境批发、连锁零售首选ERP方案(品未云)
大数据·人工智能·马来西亚进销存系统·马来西亚收银系统·马来西亚erp系统·马来西亚仓库管理系统
珠海西格电力2 小时前
数据采集与治理:零碳园区管理系统的 “生命线”
大数据·人工智能·算法·架构·能源
霍格沃兹测试开发学社测试人社区3 小时前
TID质量竞争大会分享议题|科大讯飞:端到端大模型效果评测,从人工周级到自动化天级
大数据·人工智能·自动化
智慧景区与市集主理人5 小时前
巨有科技智慧康养|避开康养文旅内卷,做能变现的疗愈数字化
大数据·人工智能·科技
峥嵘life5 小时前
Repo 常用操作手册
大数据·elasticsearch·搜索引擎