Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
MemoriKu27 分钟前
Flutter 本地 AI 相册工程收口:从屏幕常亮、标签体系到照片属性后台队列
大数据·人工智能·python·flutter·elasticsearch·搜索引擎·数据库架构
QYR-分析1 小时前
多合一逆变器:新型电力系统核心装备,全球光储赛道增长引擎
大数据
Haibakeji1 小时前
长沙餐饮门店点餐配送小程序定制开发
大数据·小程序
wp123_11 小时前
ALPS SPVQ120500与同于科技Tonevee检测开关国产兼容评估
大数据·人工智能·科技
sa100271 小时前
淘宝/1688/京东评论数据采集:官方 API 与第三方服务全选型方案
大数据
猿人谷1 小时前
从 Prompt Engineering 到 Loop Engineering:AI 编程正在进入“闭环工程”时代
大数据·人工智能·prompt
Elastic 中国社区官方博客1 小时前
Elasticsearch:使用向量搜索构建现代应用的最佳实践
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
Volunteer Technology2 小时前
Flink状态管理与容错(一)
大数据·数据库·flink
东集Seuic2 小时前
食品标签新规 GB 7718-2025 倒计时:产线“首件检验”如何用东集小码哥CRUISE Ge2-M跑通 OCR 智能核对?
大数据·人工智能·ocr
白杨SEO营销2 小时前
豆包,deepseek,千问等各大AI大模型排名工作原理,GEO操作指南参考
大数据·人工智能