Kafka集群搭建

Kafka集群搭建

  1. 将master节点的/data目录下的Kafka安装包解压到/opt/software目录下

    shell 复制代码
    tar -zxvf kafka_2.12-2.4.1.tgz -C /opt/software/
    mv kafka_2.12-2.4.1 kafka
  2. 进入Kafka安装目录的config目录修改server.properties配置文件,将"broker.id"改为"0","log.dirs"改为"/opt/logs/kafka-logs","zookeeper.connect"改为"master:2181,slave1:2181,slave2:2181"

    shell 复制代码
    cd /opt/software/kafka/config
    参数名 参数值
    broker.id 0
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 1
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 2
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
  3. 将master节点配置好的Kafka文件远程发送至slave1、slave2节点相同目录下,并将slave1、slave2节点的server.properties配置文件中的broker.id分别修改为1、2。

    shell 复制代码
    scp -r kafka slave1:$pwd
    scp -r kafka slave2:$pwd
  4. 在master节点的/etc/profile文件中配置Kafka环境变量KAFKA_HOME和PATH的值,并使配置文件立即生效。再将master节点配置好的/etc/profile文件远程发送至slave1、slave2节点,同样使配置文件立即生效

    shell 复制代码
    vi /etc/profile
    
    export KAFKA_HOME=/root/software/kafka
    export PATH=$PATH:$KAFKA/bin
    
    scoure /etc/profile
    
    scp /etc/profile slave1:/etc/
    scp /etc/profile slave2:/etc/
  5. 分别在各节点启动ZooKeeper集群,确保ZooKeeper集群启动后再在各节点启动Kafka集群,并查看各节点进程

    复制代码
相关推荐
大大大大晴天13 小时前
Hudi Metadata Table 与 Hive Sync (HMS)怎么选?
大数据
手可摘星辰77720 小时前
一次线上FlinkCDC异常排查复盘
大数据·flink
大大大大晴天20 小时前
Hudi技术内幕:Metadata Table原理与实践
大数据
大大大大晴天2 天前
Hudi技术内幕:深入解析Index索引机制
大数据
阿里云大数据AI技术2 天前
Flink Forward Asia 2026 深圳启幕:Agentic Streaming for AI,开启实时智能新范式
大数据·flink
SelectDB2 天前
阶跃星辰基于 SelectDB 构建 PB 级 Agent 可观测平台
大数据·数据库·aigc
大大大大晴天6 天前
Hudi技术内幕:RecordPayload到RecordMerger
大数据
SelectDB6 天前
秒级弹性、最高降本 70%:SelectDB Serverless 如何重塑云数仓资源效率
大数据·后端·云原生
WhoAmI6 天前
MapReduce框架原理解析一:InputFormat
大数据·hadoop
WhoAmI6 天前
MapReduce框架原理解析三:OutputFormat
大数据·hadoop