Kafka入门到实战-第四弹

Kafka入门到实战

Kafka集群搭建

官网地址

声明: 由于操作系统, 版本更新等原因, 文章所列内容不一定100%复现, 还要以官方信息为准

bash 复制代码
https://kafka.apache.org/

Kafka概述

Apache Kafka 是一个开源的分布式事件流平台,提供高性能数据管道、流分析、 数据集成和任务关键型应用程序。

使用Kraft搭建Kafka集群

声明: 由于演示才手动部署集群, 生产中一般通过自动化部署, 比如Ansible, 或者Operator

  • 虚拟机配置

  • 安装jdk1.8及以上

  • 关闭防火墙(测试使用)

  • 下载,解压Kafka

  • 进入到Kafka家目录后的截图

  • 参考Kraft进行集群配置

  • 修改kraft目录下的配置,说明: 1. log.dirs生产中要改到其它目录比如/var/kafka-log/kraft-combined-logs , 不然重启后会删除数据 2. 9092是kafka服务示例端口, 9093是Kraft使用的端口

    • controller (规划中的56.62, 56.63, id分别为1和2)

      bash 复制代码
      process.roles=controller
      broker.id=1
      controller.quorum.voters=1@192.168.56.62:9093,2@192.168.56.63:9093,3@192.168.56.64:9093
      listeners=CONTROLLER://:9093
      # advertised.listeners=CONTROLLER://:9093
      log.dirs=/tmp/kraft-combined-logs 
    • broker,controller (规划中的56.64)

      bash 复制代码
      process.roles=broker,controller
      broker.id=3
      controller.quorum.voters=1@192.168.56.62:9093,2@192.168.56.63:9093,3@192.168.56.64:9093
      listeners=PLAINTEXT://:9092,CONTROLLER://:9093
      advertised.listeners=PLAINTEXT://192.168.56.64:9092
      log.dirs=/tmp/kraft-combined-logs
    • broker (规划中的56.65)

      bash 复制代码
      process.roles=broker
      broker.id=4
      controller.quorum.voters=1@192.168.56.62:9093,2@192.168.56.63:9093,3@192.168.56.64:9093
      listeners=PLAINTEXT://:9092
      advertised.listeners=PLAINTEXT://192.168.56.65:9092
      log.dirs=/tmp/kraft-combined-logs
  • 生成一个id号, 后边不同服务器要用同一个, 结果是eaBR6XiIQVaZwWATjBCqpw

    bash 复制代码
    KAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)"
    echo $KAFKA_CLUSTER_ID
  • 格式化

    bash 复制代码
    bin/kafka-storage.sh format -t eaBR6XiIQVaZwWATjBCqpw -c config/kraft/server.properties
  • 启动

    bash 复制代码
    bin/kafka-server-start.sh config/kraft/server.properties
  • 验证服务示例是不是两个(在64,或65上)执行

    bash 复制代码
    bin/kafka-broker-api-versions.sh --bootstrap-server localhost:9092
  • 结果展示

更新计划

欲知后事如何, 请听下回分解

相关推荐
BD_Marathon7 小时前
Hadoop组成
大数据·hadoop·分布式
数智启示录8 小时前
实时数据湖 Flink CDC + Kafka +Doris 【企业级实战】之Kafka 事件缓冲层 【附核心源码】 04
java·大数据·flink·kafka·数据库开发
数智启示录9 小时前
实时数据湖 flink CDC + Kafka +Doris 【企业级实战】性能调优与生产运维闭环 09
运维·flink·kafka
树下水月11 小时前
python3 使用canal监听后,kafka数据同步从mysql到clickhouse数据库 完整复盘
数据库·mysql·kafka
Databuff11 小时前
使用Pinpoint作分布式链路跟踪系统
运维·分布式·运维开发·开源软件
传感器与混合集成电路11 小时前
分布式光纤测温DTS系统:ZDTS-P2000与X1000参数对比及找漏监测应用
分布式·数据分析
传感器与混合集成电路11 小时前
分布式光纤声波DAS测井系统:0.1Hz低频检测、0.1m采样间隔与6066m实井对比
分布式
MetaLite11 小时前
SpringBoot整合Caffeine-集群本地缓存如何保证分布式一致性
spring boot·分布式·缓存
jj_ccwgw1 天前
Kafka 集群开机自启动配置指南
后端·kafka
肠畔码农1 天前
深入分布式事务内核:从 2PC/XA 到 Seata AT 模式的架构演进与权衡
分布式·架构