Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
视***间31 分钟前
边缘计算重塑监控系统:从 “被动录像” 到 “主动智能” 的变革---视程空间
大数据·人工智能·边缘计算·ai算力·视程空间
一只专注做软件的湖南人34 分钟前
亚马逊 SP-API 深度开发:关键字搜索接口的购物意图挖掘与合规竞品分析
大数据·数据挖掘·api
莫叫石榴姐1 小时前
字节数开一面
大数据·数据仓库·职场和发展
F36_9_1 小时前
内部目标与客户目标冲突时,如何协调
大数据·产品运营
风清再凯1 小时前
02_ES索引规范&kibana
大数据·elasticsearch·搜索引擎
努力犯错1 小时前
AI视频修复技术入门:从Sora水印谈起,我们如何“抹去”未来影像的瑕疵?
大数据·人工智能·语言模型·开源·音视频
货拉拉技术1 小时前
货拉拉用户画像基于 Apache Doris 的数据模型设计与实践
大数据
数据智能老司机2 小时前
构建 Medallion 架构——构建 Silver 层
大数据·架构·数据分析
数据智能老司机2 小时前
构建 Medallion 架构——构建 Bronze 层
大数据·架构·数据分析
数据智能老司机2 小时前
构建 Medallion 架构——数据架构的演进
大数据·架构·数据分析