hadoop的sbin

路径:opt/homebrew/sbin

Hadoop 的 sbin 目录下包含了一系列 shell 脚本,用于启动、停止和管理 Hadoop 的各个组件和服务。下面逐一解释这些脚本的作用:

启动和停止脚本

  1. start-all.sh

    用于启动所有的 Hadoop 守护进程,包括 NameNode、Secondary NameNode、DataNode、ResourceManager 和 NodeManager。

  2. stop-all.sh

    用于停止所有的 Hadoop 守护进程。

  3. start-dfs.sh

    专门用于启动 HDFS 相关的守护进程,包括 NameNode、Secondary NameNode 和 DataNode。

  4. stop-dfs.sh

    专门用于停止 HDFS 相关的守护进程。

  5. start-yarn.sh

    用于启动 YARN 相关的守护进程,包括 ResourceManager 和 NodeManager。

  6. stop-yarn.sh

    用于停止 YARN 相关的守护进程。

单个守护进程的启动和停止脚本

  1. hadoop-daemon.sh

    通用的脚本,用于启动或停止任何 Hadoop 守护进程。它接受参数来指定要启动或停止的具体守护进程。

  2. mr-jobhistory-daemon.sh

    用于启动或停止 MapReduce JobHistory 服务器。

  3. kms.sh

    用于启动或停止 Kerberos 密钥管理服务 (KMS)。

  4. httpfs.sh

    用于启动或停止 HTTPFS 服务。

其他管理脚本

  1. start-secure-dns.shstop-secure-dns.sh

    用于启动和停止安全 DNS 服务。

  2. start-balancer.shstop-balancer.sh

    用于启动和停止 HDFS 数据块平衡器。

  3. workers.sh

    显示当前集群中的活动 DataNode 列表。

  4. refresh-namenodes.sh

    用于刷新 NameNode 信息,尤其是在联邦模式下使用。

  5. FederationStateStore

    通常不是一个脚本,而是一个目录,用于存储 HDFS 联邦状态信息。

  6. distribute-exclude.sh

    用于分发 exclude 文件到集群中的所有节点。exclude 文件定义了哪些 DataNode 应该被排除在外。

  7. yarn-daemon.shyarn-daemons.sh

    用于启动或停止 YARN 的守护进程。

具体使用方法

这些脚本通常接受一些参数来指定要启动或停止的服务,例如:

  • 启动单个守护进程:

    bash 复制代码
    hadoop-daemon.sh start namenode
  • 停止单个守护进程:

    bash 复制代码
    hadoop-daemon.sh stop datanode
  • 启动所有 HDFS 组件:

    bash 复制代码
    start-dfs.sh
  • 停止所有 HDFS 组件:

    bash 复制代码
    stop-dfs.sh
  • 启动所有 YARN 组件:

    bash 复制代码
    start-yarn.sh
  • 停止所有 YARN 组件:

    bash 复制代码
    stop-yarn.sh

这些脚本是管理 Hadoop 集群的重要工具,它们简化了启动和停止服务的过程,并且可以方便地在单个节点上或整个集群中执行操作。

相关推荐
王小王-12318 小时前
基于Hadoop的公共自行车数据分布式存储和计算平台的设计与实现
大数据·hive·hadoop·分布式·hadoop公共自行车·共享单车大数据分析·hadoop共享单车
王小王-12321 小时前
基于Hadoop的大规模文本词频统计分析系统设计与实现
hadoop·mapreduce·hadoop词频统计·hadoop文本统计·mapreduce词频统计
桂成林1 天前
Hive UDF 开发实战:MD5 哈希函数实现
hive·hadoop·哈希算法
王小王-1232 天前
基于Hadoop的京东厨具商品数据分析及商品价格预测系统的设计与实现
hadoop·数据分析·京东厨具·厨具分析·商品分析
谷新龙0012 天前
大数据环境搭建指南:基于 Docker 构建 Hadoop、Hive、HBase 等服务
大数据·hadoop·docker
爱吃面的猫2 天前
大数据Hadoop之——Hbase下载安装部署
大数据·hadoop·hbase
王小王-1232 天前
基于Hadoop的餐饮大数据分析系统的设计与实现
hive·hadoop·flask·sqoop·pyecharts·hadoop餐饮大数据分析·hadoop美食数据分析
大数据CLUB2 天前
基于spark的航班价格分析预测及可视化
大数据·hadoop·分布式·数据分析·spark·数据可视化
大数据CLUB12 天前
基于pyspark的北京历史天气数据分析及可视化_离线
大数据·hadoop·数据挖掘·数据分析·spark
張萠飛12 天前
hive集群优化和治理常见的问题答案
数据仓库·hive·hadoop