深入学习 Kafka(1)- 核心组件

组件概述


1. Producer(消息生产者)

  • 核心作用:生成数据源,将消息发送至指定Topic。
  • 关键特性:支持批量发送、分区策略选择,以及可配置的重试逻辑,提高了数据传输效率和可靠性。

2. Topic(主题)

  • 核心作用:作为消息的分类容器,是生产和消费的逻辑通道。
  • 关键特性:多Topic设计便于数据管理和隔离,支持动态创建和配置调整。

3. Partition(分区)

  • 核心作用:物理分片,是Topic内消息的有序存储单元。
  • 关键特性:通过水平扩展分区数量,直接提升系统吞吐量和并行处理能力。

4. Replication(副本)

  • 核心作用:确保数据的高可用性和容错性。
  • 关键特性:多副本机制保障即使单点故障也能无缝切换,维持服务连续性。

4. Broker(消息服务器)

  • 核心作用:构成Kafka集群的服务器节点,负责消息的接收、存储与分发。
  • 关键特性:多个 Broker 组成集群(Broker Cluster),每个Broker可能存储多个Topic的Partitions,提供高可用性和持久化存储,是系统稳定性的基石。

5. Consumer(消息消费者)

  • 核心作用:从Topic中拉取消息并处理。
  • 关键特性:消费者组机制实现了灵活的负载均衡和故障恢复,支持自动提交或手动控制偏移量,以满足不同场景需求。

除此之外,Kafka还依赖于ZooKeeper来进行集群管理和配置协调。ZooKeeper是一个分布式协调服务,用于维护Kafka集群的元数据信息和分布式锁等。

相关推荐
点心的游戏开发世界2 小时前
Unity C# 脚本学习笔记:命名空间与 using
学习·unity·c#
香芋芋圆3 小时前
AI 冲击内卷之下,普通前端如何破局?WebGIS—— 低门槛突围赛道
前端·javascript·人工智能·学习·职场发展
点心的游戏开发世界4 小时前
Unity C# 脚本学习笔记:泛型
学习·unity·c#
tju新生代魔迷5 小时前
Verilog HDL 学习笔记(十三)| 第13章 编程语言接口(PLI)
笔记·学习
我爱cope7 小时前
【计算机网络 | 网络层11:ICMP 协议:Ping 和 Traceroute 的底层原理】
网络·学习·计算机网络
爱浦路 IPLOOK8 小时前
矿山无人化作业5G专网方案:企业专网核心网络选型分析
网络·分布式·科技·5g·信息与通信
问天_观心8 小时前
大模型微调学习(一)
开发语言·人工智能·学习·语言模型·github
苏生Susheng9 小时前
【软件实施】Linux系统Shell脚本教程
linux·运维·服务器·chrome·spring boot·学习·实施
我命由我123459 小时前
Photoshop - Photoshop 把两个 PSD 文件合并
学习·ui·职场和发展·产品运营·产品经理·学习方法·photoshop
实战派K8S&DB9 小时前
如何在内网配置 TiDB 数据库 Agent
数据库·人工智能·分布式·tidb