数据湖仓一体(二) 安装kafka

上传安装包到/opt/software目录并解压

bash 复制代码
[bigdata@node106 software]$ tar -zxvf kafka_2.12-3.5.2.tgz  -C /opt/services/ 

重命名kafka

bash 复制代码
[bigdata@node106 software]$ mv kafka_2.12-3.5.2 kafka_3.5.2 

配置环境变量

bash 复制代码
[bigdata@node106 ~]$ sudo vim /etc/profile.d/bigdata_env.sh
bash 复制代码
export KAFKA_HOME=/opt/services/kafka_3.5.2
export PATH=$PATH:$JAVA_HOME/bin:$ZK_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$KAFKA_HOME/bin

分发环境变量

bash 复制代码
[bigdata@node106 ~]$ sudo ./bin/xsync /etc/profile.d/bigdata_env.sh

刷新环境变量,5台机器上执行

bash 复制代码
[bigdata@node106 ~]$ source /etc/profile

修改配置文件

bash 复制代码
[bigdata@node106 ~]$ sudo vim /opt/services/kafka_3.5.2/config/server.properties 
bash 复制代码
broker.id=0
log.dirs=/opt/services/kafka_3.5.2/datas
zookeeper.connect=node106:2181,node107:2181,node108:2181/kafka

copy到其他节点

bash 复制代码
[bigdata@node107 ~]$ scp -r bigdata@node106: /opt/services/kafka_3.5.2/ /opt/services/kafka_3.5.2/                  
[bigdata@node108 ~]$ scp -r bigdata@node106: /opt/services/kafka_3.5.2/ /opt/services/kafka_3.5.2/  

修改配置文件

node107上修改broker.id=1

node108上修改broker.id=2

编写kafka.sh启动停止脚本

bash 复制代码
#!/bin/bash

if [ $# -lt 1 ]
then
    echo "No Args Input...[start,stop]"
    exit ;
fi
case $1 in
"start")
        echo " =================== 启动 kafka集群 ==================="

        echo " --------------- 启动 node106 ---------------"
        ssh node106 "$KAFKA_HOME/bin/kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties"
        echo " --------------- 启动 node107---------------"
        ssh node107 "$KAFKA_HOME/bin/kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties"
        echo " --------------- 启动 node108 ---------------"
        ssh node108 "$KAFKA_HOME/bin/kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties"
;;
"stop")
        echo " =================== 关闭 kafka集群 ==================="
        echo " --------------- 关闭 node106 ---------------"
        ssh node106 "$KAFKA_HOME/bin/kafka-server-stop.sh"
        echo " --------------- 关闭 node107---------------"
        ssh node107 "$KAFKA_HOME/bin/kafka-server-stop.sh"
        echo " --------------- 关闭 node108 ---------------"
        ssh node108 "$KAFKA_HOME/bin/kafka-server-stop.sh"
;;
*)
    echo "Input Args Error...[start,stop]"
;;
esac

授权

bash 复制代码
[bigdata@node106 bin]$ chmod +x kafka.sh

分发到其他机器

bash 复制代码
[bigdata@node106 bin]$ xsync  kafka.sh 

启动kafka

bash 复制代码
[bigdata@node106 bin]$ kafka.sh start
相关推荐
计算机编程小央姐3 分钟前
【Spark+Hive+hadoop】基于spark+hadoop基于大数据的人口普查收入数据分析与可视化系统
大数据·hadoop·数据挖掘·数据分析·spark·课程设计
鲲志说34 分钟前
数据洪流时代,如何挑选一款面向未来的时序数据库?IoTDB 的答案
大数据·数据库·apache·时序数据库·iotdb
没有bug.的程序员37 分钟前
MVCC(多版本并发控制):InnoDB 高并发的核心技术
java·大数据·数据库·mysql·mvcc
nju_spy3 小时前
南京大学 - 复杂结构数据挖掘(一)
大数据·人工智能·机器学习·数据挖掘·数据清洗·南京大学·相似性分析
哈哈很哈哈3 小时前
Flink SlotSharingGroup 机制详解
java·大数据·flink
豆豆豆大王4 小时前
头歌Kingbase ES内连接、外连接查询
大数据·数据库·elasticsearch
在未来等你5 小时前
Elasticsearch面试精讲 Day 20:集群监控与性能评估
大数据·分布式·elasticsearch·搜索引擎·面试
是店小二呀7 小时前
整合亮数据Bright Data与Dify构建自动化分析系统
大数据·自动化·dify·mcp·bright data
阿里云大数据AI技术8 小时前
云栖2025 | 阿里云自研大数据平台ODPS 重磅升级:全面支持AI计算和服务
大数据·人工智能
步行cgn8 小时前
HttpSessionBindingListener
java·开发语言·数据仓库·servlet