Kafka集群搭建

Kafka集群搭建

  1. 将master节点的/data目录下的Kafka安装包解压到/opt/software目录下

    shell 复制代码
    tar -zxvf kafka_2.12-2.4.1.tgz -C /opt/software/
    mv kafka_2.12-2.4.1 kafka
  2. 进入Kafka安装目录的config目录修改server.properties配置文件,将"broker.id"改为"0","log.dirs"改为"/opt/logs/kafka-logs","zookeeper.connect"改为"master:2181,slave1:2181,slave2:2181"

    shell 复制代码
    cd /opt/software/kafka/config
    参数名 参数值
    broker.id 0
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 1
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 2
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
  3. 将master节点配置好的Kafka文件远程发送至slave1、slave2节点相同目录下,并将slave1、slave2节点的server.properties配置文件中的broker.id分别修改为1、2。

    shell 复制代码
    scp -r kafka slave1:$pwd
    scp -r kafka slave2:$pwd
  4. 在master节点的/etc/profile文件中配置Kafka环境变量KAFKA_HOME和PATH的值,并使配置文件立即生效。再将master节点配置好的/etc/profile文件远程发送至slave1、slave2节点,同样使配置文件立即生效

    shell 复制代码
    vi /etc/profile
    
    export KAFKA_HOME=/root/software/kafka
    export PATH=$PATH:$KAFKA/bin
    
    scoure /etc/profile
    
    scp /etc/profile slave1:/etc/
    scp /etc/profile slave2:/etc/
  5. 分别在各节点启动ZooKeeper集群,确保ZooKeeper集群启动后再在各节点启动Kafka集群,并查看各节点进程

    复制代码
相关推荐
MQ_SOFTWARE6 小时前
文件权限标记机制在知识安全共享中的应用实践
大数据·网络
花下的晚风7 小时前
模拟flink处理无限数据流
大数据·flink
小悟空7 小时前
[AI 生成] Flink 面试题
大数据·面试·flink
livemetee7 小时前
Flink2.0学习笔记:Stream API 常用转换算子
大数据·学习·flink
AutoMQ9 小时前
技术干货|为什么越来越多企业放弃 Flink/Spark,用 AutoMQ 替代传统 ETL?
大数据
zxsz_com_cn10 小时前
智能化设备健康管理:中讯烛龙预测性维护系统引领行业变革
大数据·架构
Pigwantofly11 小时前
SpringAI入门及浅实践,实战 Spring‎ AI 调用大模型、提示词工程、对话记忆、Adv‎isor 的使用
java·大数据·人工智能·spring
拓端研究室11 小时前
专题:2025电商增长新势力洞察报告:区域裂变、平台垄断与银发平权|附260+报告PDF、原数据表汇总下载
大数据·人工智能
阿里云大数据AI技术12 小时前
[VLDB 2025]面向Flink集群巡检的交叉对比学习异常检测
大数据·人工智能·flink
青云交13 小时前
电科金仓 KingbaseES 深度解码:技术突破・行业实践・沙龙邀约 -- 融合数据库的变革之力
大数据·数据安全·数字化转型·kingbasees·企业级应用·融合数据库·多模存储