kafka 消息队列

消息队列的使用场景

同步和异步处理

流量控制

服务解耦

发布订阅

高并发缓存

概念

broker服务器

生产消费者

点对点的模型

顺序保证

ack确认机制(保存到磁盘 副本)

消息的持久化

框架

分区落在不同的broker 3个副本 只从leader中读取

同一主题不同分区 offset不同的

水平扩展:增加新的节点

分区策略:

轮询策略

随机策略

按消息键保存 key相同落在同一个分区

一个分区不支持多个消费者(同一个组)

分区分配策略:

1.RangeAssignor策略 导致消费者 分配不均匀 主题分区数可以整除消费者

2.轮询策略: 消费者订阅相同的主题

3.stickyAssignor:保持上一次分配 均匀分配 将删除的消费者分区进行轮询

相关推荐
Alluxio17 小时前
Alluxio + OCI:为 AI 工作负载实现亚毫秒访问延迟与可扩展吞吐
运维·数据库·人工智能·分布式·缓存·ai·语言模型
阿卡好可爱1 天前
Lua 热更新不生效:改完文件线上仍是旧逻辑,package.loaded 与 upvalue 重绑定详解
数据结构·分布式·后端·架构·lua
我不会起名字3222 天前
消费回调固定 return nil:错误传播与 Kafka 位点提交的区别
后端·mongodb·kafka·go·im·故障排查
qq_452396232 天前
第十篇:《Kafka 安全加固:SASL、SSL、ACL 与多租户隔离》
安全·kafka·ssl
用户3610588626123 天前
KafkaProducer 元数据管理:send() 卡住时,它在等什么
kafka
方方洛3 天前
ray教程-28-附录G-CICD与Slurm与云上调度
人工智能·分布式·机器学习
空奈qwq3 天前
【Kafka 从入门到实战】从手写一个队列到生产级消息中间件:架构、分区、消费组、零拷贝全解析
分布式·架构·kafka
山甫aa4 天前
锁一篇搞定:乐观锁、悲观锁、CAS、数据库锁与分布式锁【从零开始的 Web 后端学习】
java·数据库·分布式·后端·学习·web
严肃小白兔5 天前
Cloudflare Durable Objects 支持自动重试:分布式调用如何避免重复执行?
分布式