kafka 消息队列

消息队列的使用场景

同步和异步处理

流量控制

服务解耦

发布订阅

高并发缓存

概念

broker服务器

生产消费者

点对点的模型

顺序保证

ack确认机制(保存到磁盘 副本)

消息的持久化

框架

分区落在不同的broker 3个副本 只从leader中读取

同一主题不同分区 offset不同的

水平扩展:增加新的节点

分区策略:

轮询策略

随机策略

按消息键保存 key相同落在同一个分区

一个分区不支持多个消费者(同一个组)

分区分配策略:

1.RangeAssignor策略 导致消费者 分配不均匀 主题分区数可以整除消费者

2.轮询策略: 消费者订阅相同的主题

3.stickyAssignor:保持上一次分配 均匀分配 将删除的消费者分区进行轮询

相关推荐
明达智控技术34 分钟前
告别停机内卷!热插拔远程IO,解锁工控运维新范式
分布式·物联网·自动化
漂着的圆木1 小时前
MCP 2026-07-28 长任务改造:别再用 HTTP 超时判断任务失败
分布式·架构·状态模式·ai agent
数智启示录7 小时前
Apache Kafka Consumer 扩到 40 个仍不提速:Partition 上限锁死有效并行度 【Kafka合集】
数据库·经验分享·分布式·缓存·面试·kafka·apache
数智启示录7 小时前
Apache Kafka 幂等 Producer 的边界:Exactly-Once 到了 MySQL 为什么失效 【Kafka合集】
数据库·经验分享·分布式·mysql·面试·kafka·apache
数智启示录7 小时前
Apache Kafka 不只是消息队列:日志与 Offset 分离如何让事件可重放 【Kafka合集】
经验分享·分布式·面试·kafka·apache
数智启示录7 小时前
Apache Kafka 同 Key 仍会乱序:从分区 Offset 到业务可见的四道边界 【Kafka 合集】
大数据·数据库·经验分享·分布式·面试·kafka·apache
BYSJMG8 小时前
大数据毕业设计选题推荐:基于大数据的全球气温历史演变分析与可视化,用Hadoop+Spark处理
大数据·hadoop·分布式·信息可视化·spark·kmeans·课程设计
爱吃苹果的梨叔8 小时前
AI 算力监控中心怎么建?分布式坐席 + 大屏联动 + 过程回放
人工智能·分布式·python
無a伟8 小时前
RabbitMQ :与AMQP的关系、核心组件、交换机类型
分布式·rabbitmq
老周聊架构9 小时前
Flink 连接器与生态:Kafka Offset 提交修复与 MySQL Binlog 延迟指标
mysql·flink·kafka