Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
小小王app小程序开发10 分钟前
场馆预约小程序开发分析:线下实体转型利器,冠品科技助力商家高效增收
大数据·科技
lyc878027 分钟前
【Qwen3.5-2B-Base】本地模型部署和验证联动千帆api
大数据·python
2601_958548481 小时前
利川乡村民宿专业经营:盈利模式与运营策略深度解析
大数据
cy_cy0021 小时前
解析活跃氛围的互动屏幕应用
大数据·科技·人机交互·交互·软件构建
湘美书院--湘美谈教育2 小时前
湘美书院谈AI教育经验集:如何用AI整理湖湘文化经义大略
大数据·人工智能·深度学习·神经网络·机器学习
Bechamz2 小时前
大数据开发学习Day29
大数据·学习
ZStack开发者社区2 小时前
青海交科携手云轴科技ZStack为青海交控集团打造智慧物流大数据平台
大数据·服务器·科技·云计算·gpu算力
发哥来了2 小时前
六款开源大模型中文长文本处理能力横向评测
大数据·人工智能·机器学习·ai·开源·aigc
AI职业加油站3 小时前
从“取数工具人”到“数据决策者”:传统数据分析师的技能跃迁之路
大数据·人工智能·数据分析
米饭不加菜3 小时前
Git 从入门到精通:系统性的学习与实践指南
大数据·elasticsearch·搜索引擎