kafka发送消费核心参数与设计原理详解

核心参数详解:

发送端参数:

发送方式:默认值一般都是1:

重试参数 :

批量参数:

消费端参数:

自动提交参数:

如果是false,就是说消费完后不提交位移。也就是说比如之前消费的1-5.第N次还是消费到1-5.如果是false。那么第一次消费1-3,第二次消费4-5:默认是true:我们一般用false。因为会有消息丢失和消息重复消费的问题可能发生。那么我们就得手设置提交了:

比如我们设置了false,那么下面这个自动提交间隔参数就没用了。

同步提交和异步提交:

消费指定分区参数:

发消息的时候给分区0和1都发送消息了:

消费的时候只消费了0分区的:

消息回溯消费参数:

指定offset消费参数:

指定时间点消费参数:

这个参数:

这几个参数线上出问题的时候用得到:

心跳参数:

这个参数:

springboot整合kafka:

提交参数的配置可选项:

像这样:如果是上面配置的话 需要加上这个参数提交:

但是如果这里是batch:

就不需要手动提交,这个方法结束的时候,springboot会帮你提交:

这两个参数都是需要像上面那样在java代码里手动提交的:

原理:

进入到zk,就可以看到总控制器是broker0;这个controller节点是broker在启动的时候就创建的。谁先启动谁就是总控制器。但是是批量启动broke的话,那么就牵扯到ZK的ZAB协议选举来决定谁是总控制器了。

找的就是ISR的节点,按照这个顺序来作为新的leader

相关推荐
難釋懷1 小时前
分布式锁基本原理和实现方式对比
分布式
是垚不是土2 小时前
OpenTelemetry+Jaeger+ES:分布式链路追踪实战部署
大数据·linux·运维·分布式·elasticsearch·全文检索
hoiii1872 小时前
分布式电源选址定容的MATLAB算法实现
分布式·算法·matlab
2501_948120152 小时前
数据库分布式锁在并发控制中的应用
数据库·分布式
珠海西格电力科技3 小时前
微电网与大电网的关系:互补而非替代的能源协同逻辑
人工智能·分布式·物联网·云计算·能源
编程彩机3 小时前
互联网大厂Java面试:从消息队列到微服务架构场景解析
kafka·消息队列·分布式事务·微服务架构·java面试
Prince-Peng3 小时前
技术架构系列 - 详解Kafka
分布式·中间件·架构·kafka·零拷贝·消息中间件·填谷削峰
少许极端3 小时前
Redis入门指南(七):从零到分布式缓存-主从复制与哨兵机制
redis·分布式·缓存·主从复制·哨兵
三水不滴4 小时前
从原理、场景、解决方案深度分析Redis分布式Session
数据库·经验分享·redis·笔记·分布式·后端·性能优化