【kafka_02】kafka中的基本概念

本文主要有以下内容:

  • kafka 基本架构
  • kafka 基本概念

kafka安装方式:

  • windows参考此文
  • mac或者linux参考这里。需要配合docker 和 docker compose共同使用。

kafka基本架构

kafka的三种术语:

  • 生产者:负责将消息发送给kafka服务器。只要能够将消息发到kafka服务器即可。
  • 消费者:负责从kafka服务器拉取消息进行消费。只要能够从服务器端拉取消息即可。
  • broker:一个kafka实例,即kafka broker,也可称之为kafka服务器。负责存储生产者发送的消息,负责给消费者提供消息消费。kafka通过zookeeper进行消息的管理。broker之间可以形成broker集群,具体关系如下图所示:

消息管理

kafka通过JavaProducerRecord完成了对消息的封装,在发送消息时,需要使用到此类。将消息发送到服务端之后,kafka服务器(kafka进程)需要对发送的消息进行管理,就引出了主题和主题分区这两个术语。

主题:一类消息的集合,如上学时老师布置作业时,不管是语文作业还是数学作业都在作业这一大类里面。是一个逻辑概念

主题分区:主题分区【简称:分区】是消息具体存储的地方。是对主题消息的进一步划分,同一个主题的不同分区存储消息的是不一样。一条消息发送到broker之前,会根据分区规则进行分区选择,从而确定发送到某一个分区上。同一主题的分区可以横跨多个broker

副本机制:kafka为分区引入了副本机制,通过增加副本数量可以提升容灾能力。同一分区的不同副本保存的是相同的信息(同一时刻不一定相同),副本之间一主多从主副本 负责和生产者消费者进行读写 ,从副本负责和主副本之间进行数据同步,即负责从主副本之间拉取数据进行同步。一个分区的副本在集群模式下也不会只存在于一个broker上。否则这个broker挂掉之后,将导致此分区不可用!

假定一个kafka集群由四个broker实例组成,一个主题有三个分区,每一个分区有三个副本,则可能的主题存储方式如下:

分区中所有的副本称之为AR (Assigned Replicas),副本可以分为两部分,一部分是能够与主副本之间保持同步的、另一部分是没有和主副本保持同步的。保持同步的称之为ISR(In Sync Replicas) 这一部分包含leader副本,没有保持同步的称之为(OSR:Out Sync Replicas)此部分不包含leader副本。一个kafka分区副本对应一个log对象,为了避免一个log文件过大,将一个log对象分为多个Log Segment

高水位:标识一个信息的偏移量,消费者只能消费这个位置之前的消息。

LEO:Log End Offset,是下一条日志要写入的位置。图示如下

在kafka集群中,高水位通常由ISR中的最小的LEO确定。如下图所示:

参考资料:

相关推荐
短剑重铸之日30 分钟前
《SpringCloud实用版》SpringCloud Alibaba和SpringCloud的区别
后端·spring·spring cloud·sca
码农水水1 小时前
SpringBoot配置优化:Tomcat+数据库+缓存+日志全场景教程
java·数据库·spring boot·后端·算法·tomcat·哈希算法
Liuqz20091 小时前
Go 安装与配置
开发语言·后端·golang
csdn_aspnet2 小时前
如何在 ASP.NET Core Identity 中实现用户身份验证
后端·asp.net·.net core·identity
康小庄2 小时前
SpringBoot 拦截器 (Interceptor) 与切面 (AOP):示例、作用、及适用场景
java·数据库·spring boot·后端·mysql·spring·spring cloud
中科院提名者2 小时前
如何配置go环境并用vscode运行
开发语言·后端·golang
huahailing10242 小时前
Spring Boot 3.x + JDK17 参数校验全场景实战(含List列表_嵌套_分组)
spring boot·后端
毕设源码-朱学姐3 小时前
【开题答辩全过程】以 基于spring boot的摩托车合格证管理系统为例,包含答辩的问题和答案
java·spring boot·后端
毕设源码-赖学姐3 小时前
【开题答辩全过程】以 基于spring boot的国学诗词网站设计与实现--为例,包含答辩的问题和答案
java·spring boot·后端
千寻技术帮3 小时前
10410_基于Springboot的文化旅游宣传网站
spring boot·后端·vue·源码·旅游·安装·在线旅游