Kafka

Kafka是一个分布式流处理平台,主要用于构建实时数据管道和流应用程序。它可以看作是一个消息队列服务,但与传统消息队列相比,具有更高的吞吐量、更好的可扩展性和持久性。

支持大规模的消息处理,确保消息的持久化和顺序性

为了通俗地理解Kafka,我们可以把它比作一个"大型的广播电台",

  1. 生产者(Producers):生产者就是信息的发布者 ,比如新闻主播。在Kafka中,生产者是指那些发布消息到Kafka队列的应用程序或系统

  2. Kafka集群(Kafka Cluster):这相当于广播电台的设施,包括发射塔、控制室等。Kafka集群由多个服务器组成,这些服务器协同工作,存储消息并对消费者提供服务。

  3. 消费者(Consumers):消费者就是听众,也是信息的接收者。在Kafka中,消费者是指那些从Kafka队列中读取消息的应用程序或系统。

  4. 消息(Messages):就是广播电台播放的内容 。在Kafka中,消息是由生产者发布,消费者读取的数据单元

  5. 主题(Topics):可以理解为广播电台的不同频道 。在Kafka中,消息被分类存储在不同的主题中,生产者和消费者都是针对特定主题进行操作的。

  6. 分区(Partitions):类似于广播电台的不同直播间一个主题可以有多个分区 ,不同的分区可以分布在Kafka集群的不同服务器上,以提高系统的吞吐量和可用性。

相关推荐
阿里云云原生3 天前
告别冗长链路!Kafka × Table Bucket 实现开放表格式零 ETL 实时入湖
云原生·kafka
风吹夏回9 天前
RabbitMQ 核心术语 + Python pika 方法完整讲解
分布式·python·rabbitmq
风吹夏回9 天前
RabbitMQ 三种模式入门:HelloWorld、WorkQueue、PubSub
分布式·rabbitmq·ruby
霸道流氓气质9 天前
分布式追踪与 RequestId 传播完全指南
分布式
cheems95279 天前
[RabbitMQ高级特性] 消息确认机制:从 Ready / Unacked 到 basicAck、basicReject、basicNack 的底层拆解
分布式·rabbitmq·ruby
whaledown9 天前
Kafka 与 Java 消息队列入门:用订单场景理解核心机制
java·kafka·消息队列·springboot
枫华落尽9 天前
【Hadoop01-完全分布式运行模式】
分布式
隔壁阿布都9 天前
ShedLock 分布式定时任务锁框架介绍
spring boot·分布式
文艺倾年9 天前
【强化学习】数学推导专题,20W字总结(十五)
人工智能·分布式·大模型·强化学习·vibecoding
ACP广源盛139246256739 天前
GSV9001S@ACP#1080P 级视频处理芯片,物理 AI 普及终端的高性价比选择
大数据·人工智能·分布式·嵌入式硬件·spark