Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
前沿科技说i28 分钟前
2026 AI大模型接口中转站:五大平台硬核数据比拼
大数据·人工智能
Elastic 中国社区官方博客1 小时前
Elasticsearch 9.4 为 Elastic AI 生态系统的下一阶段提供支持:Dell AI Data Platform(与 NVIDIA 合作)
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
青岛前景互联信息技术有限公司1 小时前
以一体化管控新思路,构建园区全域全维度安全管理体系
大数据·人工智能·物联网
Irene19911 小时前
维度表是数据仓库中描述业务实体属性的表,可以采用拉链表的设计方式来存储缓慢变化的历史数据
大数据
加勒比海带661 小时前
目标检测算法——农林行业数据集汇总附下载链接【Plant】
大数据·图像处理·人工智能·算法·目标检测
搭贝1 小时前
建筑多分支企业数字化实战:凯驿景澄建设项目管理系统落地案例
大数据·人工智能·低代码·数字化·工程项目技术方案
大G的笔记本2 小时前
ES中分片的含义
大数据·elasticsearch·搜索引擎
老码观察3 小时前
数环通iPaaS日志存储选型实践:从Elasticsearch到Doris
大数据·elasticsearch·搜索引擎
TENSORTEC腾视科技3 小时前
腾视科技大模型一体机解决方案:低成本私有化落地,重塑行业智能应用新格局
大数据·人工智能·科技·算法·ai·零售·大模型一体机
wxh_无香花自开3 小时前
git操作笔记
大数据·elasticsearch·搜索引擎