Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
rgb2gray3 分钟前
从轨迹到网络:广州休闲步行空间格局刻画 | 论文全解析与方法论深度拆解
大数据·人工智能·机器学习·语言模型·可解释
国科安芯8 分钟前
商业航天视角下角度编码传感器的应用与MCU的集成适配
大数据·网络·单片机·嵌入式硬件·架构·制造·安全性测试
逸Y 仙X9 分钟前
文章十二:索引数据的写入和删除
java·大数据·spring boot·spring·elasticsearch·搜索引擎·全文检索
Elastic 中国社区官方博客23 分钟前
Elasticsearch:shell 工具不是上下文工程的银弹
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
金融小师妹25 分钟前
局势边际缓和下的AI定价重构:金价4500关口面临路径选择与约束机制
大数据·深度学习·能源
乐迪信息31 分钟前
乐迪信息:港口航行安全:船舶逆行、航速AI实时检测
大数据·人工智能·物联网·安全·目标跟踪
大大大大晴天️37 分钟前
Flink-Hudi技术实践:Insert场景开发实践
大数据·flink·hudi
A_QXBlms39 分钟前
企微客户标签自动化同步:打通CRM与企微的数据孤岛
大数据·自动化·企业微信
木梯子44 分钟前
好用的推理训练引擎:博云AIOS如何重塑企业AI算力底座
大数据·人工智能
QYR_Jodie1 小时前
从环保政策驱动与贵金属回收需求驱动到稳健增长:全球硫代硫酸铵2026-2032年CAGR4.8%,2032年达6.93亿美元
大数据·人工智能·市场报告