Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
故七月7 分钟前
大模型 RAG 检索下的信源优化:如何提升企业信息在 AI 问答中的采信概率
大数据·geo·#rag #大模型检索·#实体对齐
AgentMaster18 分钟前
智能客服系统技术选型实战:从架构设计到落地实施的完整指南
大数据·人工智能
南京兴帝文化传媒有限公司1 小时前
AI大模型如何抓取和推荐无锡本地商户?GEO技术链路与POI权重算法拆解
大数据·人工智能·生活·geo 优化·ai搜索获客·无锡geo优化·长三角geo优化
智慧医养结合软件开源1 小时前
【源码交付】智慧养老系统 · Java + Vue3-技术架构
大数据·人工智能·信息可视化·云计算
AI职业加油站1 小时前
算力底座建设落地:机器学习工程师证书的政策背景与应用价值
大数据·人工智能·职场发展
IT研究室1 小时前
最新大数据毕业设计选题推荐-基于大数据的培训机构信息分析与可视化-大数据-Spark-Hadoop-Bigdata
大数据·信息可视化·数据分析·spark·课程设计
程序员梅雨2 小时前
大数据修炼之路(二):HDFS 核心架构与面试详解
大数据·hdfs
李博士每天要洗澡2 小时前
AI Agent 怎样参与视频剪辑?从任务描述、MCP 到可编辑时间线
大数据·人工智能·ai·django·pygame
Gl�ria2 小时前
Hive SQL 执行卡住完整排查 & 处理
hive·hadoop·sql
云上先途13 小时前
属性标注是什么?主要解决什么问题?
大数据·人工智能