Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
西部驯兽师25 分钟前
制造企业的信息化选型课题(二)
大数据·人工智能·制造
怪奇云呼军32 分钟前
从 ElevenLabs 看工具调用:闪电智能 Voice Agent 的企业集成验收设计
android·大数据·运维·服务器·网络·人工智能·kotlin
adinnet202637 分钟前
意图识别(Intent Recognition):智能体怎么听懂你想干啥
大数据·数据库
云上先途1 小时前
对话智能体和普通聊天机器人有什么区别?能不能对接企业自有知识库?
大数据·人工智能·机器人
数据库小学妹1 小时前
数据迁移怎么做才不返工?六步闭环与兼容性分层验收方法
信创·数据迁移·国产数据库·数据库迁移·数据校验
2601_962202982 小时前
首衡集采集配怕破损?万象包装优化降损耗
大数据·人工智能
TK泰妞2 小时前
从零搭建高效可复用的提示词工作流
大数据·人工智能
兴通物联科技2 小时前
对俄出口诚实标识 2026 时间节点与产线赋码采集技术方案
大数据·服务器·单片机·嵌入式硬件·深度学习·计算机视觉
数据小玩子2 小时前
数据合规共治:工业园区多部门协同亩均效益智能评价方案
大数据·数据分析·精益工程
陕西企来客2 小时前
NAP 信息统一治理:构建生成式 AI 时代企业 GEO 增长的坚实底座-企来客科技NAP方法论-企来客科技NAP信息治理实战解析
大数据·人工智能·科技