kafka

一条泥憨鱼15 小时前
java·分布式·学习·kafka
【Kafka】零基础学习教程👋 关于作者你好,这里是一条泥憨鱼 | 专注于 后端开发、AI 前沿技术与计算机基础 。 🏠 个人主页:一条泥憨鱼
96245617 小时前
java·mysql·kafka
补打一条卡,为什么要从前一天重新算:人工补录与实时重算业务复盘摘要:考勤管理员补录一条漏卡,表面上只是新增一个时间点,实际却要完成可信身份覆盖、批量原子写入、跨日重算范围计算、分析任务去重、任务落库和 Kafka 实时通知。恢复这条链路时最反直觉的发现是:补录时间为凌晨 05:12,并不意味着只重算当天;系统把分析开始时间向前扩一天,以便重新判断它究竟属于前一天夜班的下班卡,还是当天的上班卡。本文同时复盘一个常见误区:afterCommit 能防止回滚后误发消息,却不能消除数据库与 Kafka 的双写窗口。
RobinXYuan2 天前
kafka·源码阅读
【Kafka 源码手记】05 Broker 网络层与请求处理(中):Processor 事件循环与线上的字节上篇我们详细看了 Acceptor 的工作流程,也对 Processor 有了一些简单了解,最后收在安全握手:listener 的身份在 Processor 构造时变成了 ChannelBuilder,握手在事件循环里逐 poll 推进,ready() 之前业务字节一个不读。这一篇接着往下走——连接就绪之后,Processor 的七步循环怎么流转、一条连接为什么同一时刻只能有一个在途请求、线上的字节怎么被切成一帧一帧的请求、双方又怎么对表版本,以及这整件事为什么没有交给 Netty 去做。
坐吃山猪2 天前
kafka
Kafka13-自定义分区器1-走自定义分区器发送消息:走 partitionKafkaTemplate:带 key 按 key 的 hash 选分区,不带 key 随机选分区 2-代码仓库:https://gitee.com/enzoism/springboot-kafka-verify -b kafka-noauth
starzy19902 天前
分布式·kafka
Kafka请求进门口:Processor是怎么把请求读上来的摘要:上一篇讲 Processor 怎么启动、怎么把新连接注册到 Selector。但连接注册完只是第一步——真正的问题是:Producer 发过来的字节,Processor 是怎么读上来、怎么解析成一个完整 Request 的?这篇从 poll 到入队,把请求接收全链路讲透。
starzy19903 天前
大数据·kafka
Kafka网络层第一道门:Acceptor线程是怎么启动的摘要:前 23 篇一直在讲 Producer 端。从这篇开始翻到 Broker 端——Kafka 是怎么监听 9092 端口、接受 Producer 连接、把连接分发给 IO 线程的?这是整个 Broker 网络层的起点。
huaweichenai3 天前
spring boot·后端·kafka
spring boot对接kafka实现消息队列处理
你看我名字3 天前
运维·架构·kafka
Kafka 架构、消息可靠性与生产运维:从分区模型到故障治理Kafka 架构、消息可靠性与生产运维:从分区模型到故障治理本文适合云计算、平台工程和 Java/Go 后端工程师。重点不是记命令,而是理解 Kafka 如何用分区、复制和日志顺序解决大规模事件流问题。
starzy19903 天前
大数据·kafka
Kafka源码深度剖析:消息有异常是如何处理的摘要:用了这么久 KafkaProducer,你真的清楚 send() 到底什么时候抛异常、什么时候走回调?为什么有些错误业务代码永远 catch 不到?这篇从源码级别梳理 Producer 端六类异常的产生、分类、传递路径和重试决策。
starzy19903 天前
大数据·kafka
Kafka写数据入口:消息进了Broker之后交给谁摘要:网络层把 Produce 请求解析完、RequestHandler 按 apiKey 路由之后,消息真正落盘的第一站是 ReplicaManager.appendRecords。这篇进入存储层,讲清楚写数据的调用链、appendRecords 内部五步、acks 三种分支,以及 acks=all 时请求为什么不会把业务线程堵死。
螺蛳粉 螺蛳粉3 天前
物联网·zookeeper·kafka·消息队列·parcel·cdh集成·csd
CDH第七篇:CDH 集成 Kafka 实战:CSD + Parcel 组合拳,先装 ZooKeeper 是铁律目录 一、为什么 Kafka 要"外挂"进 CDH 二、集成前必懂:CSD 与 Parcel 的分工 三、4 步完成 Kafka 集成 四、小内存救命调参:Broker 堆改 256M 五、功能验证:建 Topic 收发消息 六、结语与系列预告 一、为什么 Kafka 要"外挂"进 CDH 在物联网架构案例里,海量设备上报数据先打进消息队列削峰,再落存储、进计算。Kafka 是这一层的标准选择。
Flynn Liang4 天前
flink·kafka·iot·iotdb·emqx·乱序·时序数据
物联网时序数据乱序问题全链路治理:从设备到存储的五层实战(附 Flink/Kafka/IoTDB 配置级代码)关键词:IoT、时序数据、乱序、乱序治理、Flink、Watermark、事件时间、Kafka、幂等生产者、IoTDB、顺乱序分离、迟到数据、EMQX、allowedLateness
starzy19905 天前
大数据·kafka
Kafka响应发送:字节是怎么真正写回客户端的摘要:上一篇讲了响应的准备工作——NetworkSend 注册了 OP_WRITE。这篇讲最后一公里:poll 返回可写事件后怎么写字节、一次写不完的半包怎么续传、写完之后怎么处理回调和解除背压。
阳光不锈@5 天前
kafka·rabbitmq·rocketmq·rabbit改造rocket·去除rabbitmq·rabbitmq改造
三大主流消息队列架构设计思想剖析:从 RabbitMQ 到 RocketMQ 的改造实践本博文主要分为两个方面,第一部分是介绍,包括三大MQ架构设计思想和主要组件;第二部分是实践,在实际工作遇到rabbitmq改造成rocketmq的例子。
ZealSinger6 天前
kafka·retry·boot4·升级踩坑
Boot4升后Kafka retry属性怎么改升 Boot4 后 Kafka 重试退避键 backoff.random 已移除:改写 backoff.jitter,对照 Changelog 后验收绑定与启动。
starzy19906 天前
大数据·kafka
KafkaProducer 源码深度剖析:处理粘包问题的完美方案TCP 是面向流的协议,只有字节流概念,没有"消息"边界。Producer 连续发三个请求,接收方一次 read 可能只读到第一个的一半(半包),也可能把三个全读进来(粘包),甚至是前两个完整加第三个的一半。
MrWind灬6 天前
kafka·pyqt
我给自己写了个 Kafka 桌面客户端:MrWindKafkaClient一个原生桌面窗口,基于 PySide6(Qt6)构建,Kafka 能力全部由 confluent-kafka(librdkafka)提供。
starzy19907 天前
大数据·kafka
KafkaProducer 源码深度剖析:与 Broker 建立连接前面讲网络设计时提到,Kafka 用一个 Selector 管理所有 Broker 连接。但连接不是一开始就有的——Producer 启动时不建连,第一次发消息时才触发。
我不会起名字3227 天前
kafka·消息队列·幂等·排查
Kafka 重复消费:自动提交位点与手动提交的 3 个错位我不会起名字322 · 后端 / 算法 / 数据库📘 技术栈 | 🧩 力扣 Hot100 | 🐹 Go 项目 | 🟥 Redis | 🐬 MySQL
ly76898 天前
spring·kafka·apache·并发消费·消费者重试·死信主题·位移提交
Kafka 消费者重试与死信:Spring for Apache Kafka 的边界设计假设你维护一个订单履约系统:订单服务把“订单已支付”事件写进 Kafka 主题 order-paid,履约服务订阅这个主题,收到消息后调用库存服务扣减库存、再写一条履约记录。某天库存服务因为一次发布短暂不可用,履约服务消费到的消息在扣库存时抛出异常。这时候你必须回答四个问题: