kafka 消息队列

消息队列的使用场景

同步和异步处理

流量控制

服务解耦

发布订阅

高并发缓存

概念

broker服务器

生产消费者

点对点的模型

顺序保证

ack确认机制(保存到磁盘 副本)

消息的持久化

框架

分区落在不同的broker 3个副本 只从leader中读取

同一主题不同分区 offset不同的

水平扩展:增加新的节点

分区策略:

轮询策略

随机策略

按消息键保存 key相同落在同一个分区

一个分区不支持多个消费者(同一个组)

分区分配策略:

1.RangeAssignor策略 导致消费者 分配不均匀 主题分区数可以整除消费者

2.轮询策略: 消费者订阅相同的主题

3.stickyAssignor:保持上一次分配 均匀分配 将删除的消费者分区进行轮询

相关推荐
网络工程小王12 小时前
【HCIE-AI】12.deepspeed分布式并行训练进阶版
人工智能·pytorch·分布式·学习·昇腾·deepspeed
ACP广源盛1392462567315 小时前
国产算力互联IX8024@ACP#Kimi K3 开源后的端侧部署硬件架构分析
大数据·人工智能·分布式·单片机·嵌入式硬件
花生了什么事o16 小时前
分布式 ID 生成方案:从数据库自增到雪花算法
数据库·分布式·算法
java1234_小锋16 小时前
【免费】基于Spark实时电商用户行为分析与预测(Java版本+可视化大屏+Kafka+SpringBoot+Vue3) 锋哥原创出品,必属精品
java·spark·kafka·实时电商用户行为分析与预测系统
爱吃提升1 天前
python 分布式爬虫、爬虫合规与综合实战项目
分布式·爬虫·python
ZENERGY-众壹1 天前
跨品牌逆变器升级:华为锦浪德业 API 对接的 7 个坑
分布式·华为·数据归一化·光伏运维·逆变器api
薛定谔的猫19822 天前
LLaMA-Factory +DeepSpeed 分布式多卡训练实战全解
分布式·deepspeed·zero·多卡训练·多卡分布式训练
稚南城才子,乌衣巷风流2 天前
RabbitMQ 消息队列:从入门到实战
分布式·rabbitmq
AI人工智能+电脑小能手2 天前
【大白话说Java面试题 第194题】【08_Kafka篇】第10题:简述 Kafka 的 Rebalance 机制?
java·kafka·消费者组·rebalance·分布式消息队列
Database_Cool_2 天前
单机 MySQL 迁移到分布式数据库方便吗?阿里云 PolarDB-X 100% MySQL 协议兼容零改造平滑迁移
数据库·分布式·mysql