Kafka集群搭建

Kafka集群搭建

  1. 将master节点的/data目录下的Kafka安装包解压到/opt/software目录下

    shell 复制代码
    tar -zxvf kafka_2.12-2.4.1.tgz -C /opt/software/
    mv kafka_2.12-2.4.1 kafka
  2. 进入Kafka安装目录的config目录修改server.properties配置文件,将"broker.id"改为"0","log.dirs"改为"/opt/logs/kafka-logs","zookeeper.connect"改为"master:2181,slave1:2181,slave2:2181"

    shell 复制代码
    cd /opt/software/kafka/config
    参数名 参数值
    broker.id 0
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 1
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 2
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
  3. 将master节点配置好的Kafka文件远程发送至slave1、slave2节点相同目录下,并将slave1、slave2节点的server.properties配置文件中的broker.id分别修改为1、2。

    shell 复制代码
    scp -r kafka slave1:$pwd
    scp -r kafka slave2:$pwd
  4. 在master节点的/etc/profile文件中配置Kafka环境变量KAFKA_HOME和PATH的值,并使配置文件立即生效。再将master节点配置好的/etc/profile文件远程发送至slave1、slave2节点,同样使配置文件立即生效

    shell 复制代码
    vi /etc/profile
    
    export KAFKA_HOME=/root/software/kafka
    export PATH=$PATH:$KAFKA/bin
    
    scoure /etc/profile
    
    scp /etc/profile slave1:/etc/
    scp /etc/profile slave2:/etc/
  5. 分别在各节点启动ZooKeeper集群,确保ZooKeeper集群启动后再在各节点启动Kafka集群,并查看各节点进程

    复制代码
相关推荐
飞飞传输11 小时前
飞驰云联文件交换建设方法论:从单点传输到持续治理
大数据·运维·安全
得帆低代码PaaS11 小时前
企业级 Agent 架构:MCP、Integration、数据与治理能力
大数据·人工智能·架构·ai agent·企业数字化·mcp
TDengine (老段)18 小时前
TDengine IDMP 十大实用功能(9)
大数据·数据库·人工智能·物联网·时序数据库·tdengine·idmp
播播资源19 小时前
同账户实测 11 个多模态模型:图像 0.03 元起、竖屏视频 8 元一条,最贵和最便宜差 267 倍
大数据·人工智能·深度学习
全栈陈序员21 小时前
Git】从入门到精通(八)—— git log:查看提交历史
大数据·git·elasticsearch
演艺大赏1 天前
NiFi 从 3 台扩到 25 台:三轮扩容后我才明白,证书必须全量重签、安装包绝对不能拷
大数据
做科研的周师兄1 天前
【R语言实战】MixSIAR 氢氧同位素水源解析全流程:从混合空间校验到贝叶斯 MCMC 收敛诊断(后附完整代码)
java·大数据·开发语言
isfox1 天前
MapReduce 数据清洗:脏数据进来,干净数据出去,连 Reduce 都省了
大数据
Francek Chen1 天前
【大数据处理与分析】数据仓库Hive:09 Hive 编程实践
大数据·数据仓库·hive·hadoop·sql
其实防守也摸鱼2 天前
个人学习 Pwn 思路:从基础到漏洞利用的进阶路径
大数据·前端·人工智能·chrome·算法·安全·网络安全