hadoop的sbin

路径:opt/homebrew/sbin

Hadoop 的 sbin 目录下包含了一系列 shell 脚本,用于启动、停止和管理 Hadoop 的各个组件和服务。下面逐一解释这些脚本的作用:

启动和停止脚本

  1. start-all.sh

    用于启动所有的 Hadoop 守护进程,包括 NameNode、Secondary NameNode、DataNode、ResourceManager 和 NodeManager。

  2. stop-all.sh

    用于停止所有的 Hadoop 守护进程。

  3. start-dfs.sh

    专门用于启动 HDFS 相关的守护进程,包括 NameNode、Secondary NameNode 和 DataNode。

  4. stop-dfs.sh

    专门用于停止 HDFS 相关的守护进程。

  5. start-yarn.sh

    用于启动 YARN 相关的守护进程,包括 ResourceManager 和 NodeManager。

  6. stop-yarn.sh

    用于停止 YARN 相关的守护进程。

单个守护进程的启动和停止脚本

  1. hadoop-daemon.sh

    通用的脚本,用于启动或停止任何 Hadoop 守护进程。它接受参数来指定要启动或停止的具体守护进程。

  2. mr-jobhistory-daemon.sh

    用于启动或停止 MapReduce JobHistory 服务器。

  3. kms.sh

    用于启动或停止 Kerberos 密钥管理服务 (KMS)。

  4. httpfs.sh

    用于启动或停止 HTTPFS 服务。

其他管理脚本

  1. start-secure-dns.shstop-secure-dns.sh

    用于启动和停止安全 DNS 服务。

  2. start-balancer.shstop-balancer.sh

    用于启动和停止 HDFS 数据块平衡器。

  3. workers.sh

    显示当前集群中的活动 DataNode 列表。

  4. refresh-namenodes.sh

    用于刷新 NameNode 信息,尤其是在联邦模式下使用。

  5. FederationStateStore

    通常不是一个脚本,而是一个目录,用于存储 HDFS 联邦状态信息。

  6. distribute-exclude.sh

    用于分发 exclude 文件到集群中的所有节点。exclude 文件定义了哪些 DataNode 应该被排除在外。

  7. yarn-daemon.shyarn-daemons.sh

    用于启动或停止 YARN 的守护进程。

具体使用方法

这些脚本通常接受一些参数来指定要启动或停止的服务,例如:

  • 启动单个守护进程:

    bash 复制代码
    hadoop-daemon.sh start namenode
  • 停止单个守护进程:

    bash 复制代码
    hadoop-daemon.sh stop datanode
  • 启动所有 HDFS 组件:

    bash 复制代码
    start-dfs.sh
  • 停止所有 HDFS 组件:

    bash 复制代码
    stop-dfs.sh
  • 启动所有 YARN 组件:

    bash 复制代码
    start-yarn.sh
  • 停止所有 YARN 组件:

    bash 复制代码
    stop-yarn.sh

这些脚本是管理 Hadoop 集群的重要工具,它们简化了启动和停止服务的过程,并且可以方便地在单个节点上或整个集群中执行操作。

相关推荐
qq_12498707539 小时前
基于Hadoop的信贷风险评估的数据可视化分析与预测系统的设计与实现(源码+论文+部署+安装)
大数据·人工智能·hadoop·分布式·信息可视化·毕业设计·计算机毕业设计
十月南城11 小时前
Hive与离线数仓方法论——分层建模、分区与桶的取舍与查询代价
数据仓库·hive·hadoop
B站计算机毕业设计超人13 小时前
计算机毕业设计Hadoop+Spark+Hive招聘推荐系统 招聘大数据分析 大数据毕业设计(源码+文档+PPT+ 讲解)
大数据·hive·hadoop·python·spark·毕业设计·课程设计
B站计算机毕业设计超人13 小时前
计算机毕业设计hadoop+spark+hive交通拥堵预测 交通流量预测 智慧城市交通大数据 交通客流量分析(源码+LW文档+PPT+讲解视频)
大数据·hive·hadoop·python·spark·毕业设计·课程设计
AI架构师小马13 小时前
Hive调优手册:从入门到精通的完整指南
数据仓库·hive·hadoop·ai
数据架构师的AI之路13 小时前
深入了解大数据领域Hive的HQL语言特性
大数据·hive·hadoop·ai
十月南城16 小时前
Hadoop基础认知——HDFS、YARN、MapReduce在现代体系中的位置与价值
hadoop·hdfs·mapreduce
蓝眸少年CY18 小时前
Hadoop2-HDFS文件系统
大数据·hadoop·hdfs
WHD3061 天前
苏州数据库(SQL Oracle)文件损坏修复
hadoop·sql·sqlite·flume·memcached