Kafka集群搭建

Kafka集群搭建

  1. 将master节点的/data目录下的Kafka安装包解压到/opt/software目录下

    shell 复制代码
    tar -zxvf kafka_2.12-2.4.1.tgz -C /opt/software/
    mv kafka_2.12-2.4.1 kafka
  2. 进入Kafka安装目录的config目录修改server.properties配置文件,将"broker.id"改为"0","log.dirs"改为"/opt/logs/kafka-logs","zookeeper.connect"改为"master:2181,slave1:2181,slave2:2181"

    shell 复制代码
    cd /opt/software/kafka/config
    参数名 参数值
    broker.id 0
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 1
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
    参数名 参数值
    broker.id 2
    log.dirs /opt/logs/kafka-logs
    zookeeper.connect master:2181,slave1:2181,slave2:2181
  3. 将master节点配置好的Kafka文件远程发送至slave1、slave2节点相同目录下,并将slave1、slave2节点的server.properties配置文件中的broker.id分别修改为1、2。

    shell 复制代码
    scp -r kafka slave1:$pwd
    scp -r kafka slave2:$pwd
  4. 在master节点的/etc/profile文件中配置Kafka环境变量KAFKA_HOME和PATH的值,并使配置文件立即生效。再将master节点配置好的/etc/profile文件远程发送至slave1、slave2节点,同样使配置文件立即生效

    shell 复制代码
    vi /etc/profile
    
    export KAFKA_HOME=/root/software/kafka
    export PATH=$PATH:$KAFKA/bin
    
    scoure /etc/profile
    
    scp /etc/profile slave1:/etc/
    scp /etc/profile slave2:/etc/
  5. 分别在各节点启动ZooKeeper集群,确保ZooKeeper集群启动后再在各节点启动Kafka集群,并查看各节点进程

    复制代码
相关推荐
专注API从业者12 小时前
淘宝商品详情 API 与爬虫技术的边界:合法接入与反爬策略的技术博弈
大数据·数据结构·数据库·爬虫
V搜xhliang024612 小时前
AI大模型在临床决策与手术机器人领域的应用
大数据·人工智能·机器人
A__tao12 小时前
Elasticsearch Mapping 一键生成 Proto 文件(支持嵌套 + 注释过滤)
大数据·elasticsearch·jenkins
Gofarlic_OMS13 小时前
装备制造企业Fluent许可证成本分点典型案例
java·大数据·开发语言·人工智能·自动化·制造
程序员雷欧14 小时前
大模型应用开发学习第八天
大数据·人工智能·学习
liukuang11014 小时前
伊利、蒙牛、飞鹤与光明乳业:存量时代的攻守之道与价值分化
大数据·人工智能·物联网
supericeice14 小时前
创邻科技 AI智算一体机:支持 DeepSeek 671B 与 Qwen3 单机部署,覆盖纯CPU到多GPU多机扩展
大数据·人工智能·科技
智慧景区与市集主理人15 小时前
巨有科技云票务,破解景区五一运营的入园难“效率瓶颈”
大数据·人工智能·科技
媒介发稿小能手15 小时前
技术视角下的品牌传播范式迁移:当“搜索引擎优化”让位于“媒体收录逻辑”
大数据·搜索引擎·ai·产品运营·媒体