大数据之Linux部署常用命令脚本封装

文章目录

    • 编写集群命令执行脚本
      • xcall集群命令执行
        • [1. 脚本需求](#1. 脚本需求)
        • [2. 需求分析](#2. 需求分析)
        • [3. 脚本实现](#3. 脚本实现)
          • [3.1 创建脚本存放目录](#3.1 创建脚本存放目录)
          • [3.2 编写xcall脚本](#3.2 编写xcall脚本)
          • [3.3 修改脚本执行权限](#3.3 修改脚本执行权限)
          • [3.4 测试脚本](#3.4 测试脚本)
    • 编写集群分发脚本
      • xsync集群分发脚本
        • [1. 脚本需求](#1. 脚本需求)
        • [2. 需求分析](#2. 需求分析)
        • [3. 脚本实现](#3. 脚本实现)
          • [3.1 创建脚本存放目录](#3.1 创建脚本存放目录)
          • [3.2 编写xsync脚本](#3.2 编写xsync脚本)
          • [3.3 修改脚本执行权限](#3.3 修改脚本执行权限)
          • [3.4 测试脚本](#3.4 测试脚本)

编写集群命令执行脚本

xcall集群命令执行

1. 脚本需求
  • 需求: 简化对多个远程主机执行相同命令的过程。允许用户通过一个单一的命令行调用,在一组预定义的主机上执行任意命令。方便集群管理和自动化任务,减少重复工作并提高效率。
2. 需求分析
  • 使用xcall 命令进行命令执行, 例如

    sh 复制代码
    xcall ls -al /
  • 期望脚本xcall 能够在所有预定义的主机上查看根目录/ 的内容。

3. 脚本实现
  • 脚本存放在/home/bigdata/bin目录下,在~/.bashrc中添加以下内容,以便bigdata用户可以在系统的任何位置直接执行。

    sh 复制代码
    export PATH=$PATH:/home/bigdata/bin
  • 使环境变量生效 source ~/.bashrc

3.1 创建脚本存放目录
  • /home/bigdata目录下创建bin文件夹:

    sh 复制代码
    mkdir bin
  • 脚本存放在/home/bigdata/bin目录下,以便bigdata用户可以在系统的任何位置直接执行。

3.2 编写xcall脚本
  • /home/bigdata/bin目录下创建xall文件:

    sh 复制代码
    cd /home/bigdata/bin
    vim xcall
  • 编写脚本内容:

    bash 复制代码
    #!/bin/bash
    # 定义主机名数组
    hosts=("hadoop101" "hadoop102" "hadoop103")
    # 检查是否有外部参数传递给脚本
    if [ $# -eq 0 ]; then
        echo "Usage: $0 <command>"
        exit 1
    fi
     # 遍历主机数组,对每个主机执行 SSH 命令
    for host in "${hosts[@]}"; do
        echo "-------- $host --------"
        ssh "$host" "$*"
    done
3.3 修改脚本执行权限
  • 使xcall脚本具有执行权限:

    sh 复制代码
    chmod +x xcall
3.4 测试脚本
  • 测试xcall脚本是否正常工作:

    sh 复制代码
    xcall ls -al /

编写集群分发脚本

xsync集群分发脚本

1. 脚本需求
  • 需求:实现循环复制文件到所有节点的相同目录下。
2. 需求分析
  • 使用rsync命令进行原始拷贝,例如:

    sh 复制代码
    rsync -av /opt/module bigdata@hadoop102:/opt/
  • 期望脚本xsync能够同步指定的文件名称。

3. 脚本实现
  • 脚本存放在/home/bigdata/bin目录下,以便bigdata用户可以在系统的任何位置直接执行。
3.1 创建脚本存放目录
  • /home/bigdata目录下创建bin文件夹:

    sh 复制代码
    mkdir bin
3.2 编写xsync脚本
  • /home/bigdata/bin目录下创建xsync文件:

    sh 复制代码
    cd /home/bigdata/bin
    vim xsync
  • 编写脚本内容:

    bash 复制代码
    #!/bin/bash
    
    hosts=("hadoop101" "hadoop102" "hadoop103")
    # 1. 判断参数个数
    if [ $# -lt 1 ]
    then
      echo "Not Enough Arguments!"
      exit 1
    fi
    
    # 2. 遍历集群所有机器
    for host in "${hosts[@]}"; do
      echo "====================  $host  ==================="
      # 3. 遍历所有目录,挨个发送
      for file in "$@"; do
        # 4. 判断文件是否存在
        if [ -e "$file" ]
        then
          # 5. 获取父目录
          pdir=$(cd -P "$(dirname "$file")"; pwd)
          # 6. 获取当前文件的名称
          fname=$(basename "$file")
          ssh $host "mkdir -p \"$pdir\""
          rsync -av "$pdir/$fname" "$host:$pdir"
        else
          echo "$file does not exist!"
        fi
      done
    done
3.3 修改脚本执行权限
  • 使xsync脚本具有执行权限:

    sh 复制代码
    chmod +x xsync
3.4 测试脚本
  • 测试xsync脚本是否正常工作:

    sh 复制代码
    xsync /path/to/file_or_directory
相关推荐
B站计算机毕业设计之家19 分钟前
基于大数据热门旅游景点数据分析可视化平台 数据大屏 Flask框架 Echarts可视化大屏
大数据·爬虫·python·机器学习·数据分析·spark·旅游
阿里巴巴P8资深技术专家26 分钟前
docker容器启动报错
运维·docker·容器
杨云龙UP32 分钟前
MySQL 8.0.x InnoDB 写入链路优化:Redo Log 与 Buffer Pool 扩容与缓冲区调优实战记录-20251029
linux·运维·数据库·sql·mysql
txzz88881 小时前
CentOS-Stream-10 系统安装之网络设置
linux·运维·服务器·网络·计算机网络·centos
qq_401700412 小时前
嵌入式Linux网口MAC地址修改
linux·运维·macos
Xの哲學2 小时前
Linux DRM 架构深度解析
linux·服务器·算法·架构·边缘计算
亿坊电商2 小时前
无人共享茶室智慧化破局:24H智能接单系统的架构实践与运营全景!
大数据·人工智能·架构
老蒋新思维2 小时前
创客匠人峰会新解:AI 时代知识变现的 “信任分层” 法则 —— 从流量到高客单的进阶密码
大数据·网络·人工智能·tcp/ip·重构·创始人ip·创客匠人
秋刀鱼 ..2 小时前
第三届信息化教育与计算机技术国际学术会议(IECA 2026)
运维·人工智能·科技·机器学习·制造
老王熬夜敲代码2 小时前
Linux的权限
linux