深入学习 Kafka(1)- 核心组件

组件概述


1. Producer(消息生产者)

  • 核心作用:生成数据源,将消息发送至指定Topic。
  • 关键特性:支持批量发送、分区策略选择,以及可配置的重试逻辑,提高了数据传输效率和可靠性。

2. Topic(主题)

  • 核心作用:作为消息的分类容器,是生产和消费的逻辑通道。
  • 关键特性:多Topic设计便于数据管理和隔离,支持动态创建和配置调整。

3. Partition(分区)

  • 核心作用:物理分片,是Topic内消息的有序存储单元。
  • 关键特性:通过水平扩展分区数量,直接提升系统吞吐量和并行处理能力。

4. Replication(副本)

  • 核心作用:确保数据的高可用性和容错性。
  • 关键特性:多副本机制保障即使单点故障也能无缝切换,维持服务连续性。

4. Broker(消息服务器)

  • 核心作用:构成Kafka集群的服务器节点,负责消息的接收、存储与分发。
  • 关键特性:多个 Broker 组成集群(Broker Cluster),每个Broker可能存储多个Topic的Partitions,提供高可用性和持久化存储,是系统稳定性的基石。

5. Consumer(消息消费者)

  • 核心作用:从Topic中拉取消息并处理。
  • 关键特性:消费者组机制实现了灵活的负载均衡和故障恢复,支持自动提交或手动控制偏移量,以满足不同场景需求。

除此之外,Kafka还依赖于ZooKeeper来进行集群管理和配置协调。ZooKeeper是一个分布式协调服务,用于维护Kafka集群的元数据信息和分布式锁等。

相关推荐
阿拉斯攀登2 分钟前
分布式、微服务与云原生:概念解析与关联梳理
分布式·微服务·云原生
不羁的木木4 分钟前
【开源鸿蒙跨平台开发学习笔记】Day07:React Native 开发 HarmonyOS-GitCode口袋工具开发-3
学习·开源·harmonyos
yoyo君~4 分钟前
深入理解PX4飞控系统:多线程并发、原子操作与单例模式完全指南
学习·单例模式·机器人·无人机
山土成旧客4 分钟前
【Python学习打卡-Day17】从二分类到多分类:ROC曲线、三大平均指标与风控利器MCC/KS
python·学习·分类
暗然而日章9 分钟前
C++基础:Stanford CS106L学习笔记 5 内存与指针
c++·笔记·学习
秋深枫叶红10 分钟前
嵌入式第二十六篇——数据结构双向链表
c语言·数据结构·学习·链表
匠心网络科技12 分钟前
前端框架-框架为何应运而生?
前端·javascript·vue.js·学习
D***M97613 分钟前
分布式监控Skywalking安装及使用教程(保姆级教程)
分布式·skywalking
摘星编程15 分钟前
【前瞻创想】Kurator分布式云原生平台架构解析与实践指南
分布式·云原生·架构·kurator
写bug的小屁孩19 分钟前
1.Kafka-快速认识概念
java·分布式·kafka