Hadoop数据迁移distcp

Hadoop数据迁移distcp

准备工作

  1. 确认源集群(a),目标集群(b)
  2. 确认a集群的主节点和b集群的主节点
  3. 确认两个集群的网络相通
  4. 确认迁移模式(全量迁移还是增量迁移),这里选择全量迁移

迁移文件

  1. 迁移test目录下的文件至目标目录下
    命令:hadoop distcp -p -m 并行度 -bandwidth 带宽 源目录 目标目录
    示例:
bash 复制代码
hadoop distcp -p -m 5 -bandwidth 10 hdfs://源master:8020/test /

注意:源master为主namenode;命令行在目标主namenode上执行。

相关推荐
AI周红伟2 小时前
周红伟:Qwen3.5-Plus - 企业级部署案例实操,Qwen3.5 LLM,包括 Qwen3.5-397B-A17B
大数据·人工智能·大模型·智能体
历程里程碑2 小时前
普通数组---合并区间
java·大数据·数据结构·算法·leetcode·elasticsearch·搜索引擎
T06205143 小时前
【面板数据】A股上市公司重污染行业分组数据集-含参考文献 (2000-2024年)
大数据
cm_chenmin3 小时前
Cursor最佳实践之三:MCP
大数据·elasticsearch·搜索引擎
Loo国昌4 小时前
【AI应用开发实战】09_Prompt工程与模板管理:构建可演进的LLM交互层
大数据·人工智能·后端·python·自然语言处理·prompt
xrczsjq5 小时前
客流增长新观察:从三个重庆案例看商业街区设计的演变
大数据·文旅商业美陈设计·商场氛围布置·文旅街区升级改造·商业美陈设计·商场美陈设计·商业街区设计
人机与认知实验室5 小时前
2026:人形机器人的未来发展趋势
大数据·人工智能·机器人
YangYang9YangYan5 小时前
2026中专大数据技术专业学数据分析的实用性分析
大数据·数据挖掘·数据分析
YangYang9YangYan5 小时前
2026大专大数据专业学数据分析的价值与前景分析
大数据·数据挖掘·数据分析
TDengine (老段)6 小时前
TDengine IDMP 数据可视化——富文本
大数据·数据库·物联网·ai·时序数据库·tdengine·涛思数据