kafka

江不清丶2 小时前
数据库·kafka·linq
Kafka消息积压排查与治理:从应急处理到长期优化凌晨两点,监控告警突然响起——"消费组积压超过10万条!"这是Kafka使用者最不愿看到的场景。消息积压不仅意味着数据处理延迟,更可能导致业务受损、用户体验下降。
@土豆1 天前
分布式·kafka·kubernetes
Kafka on Kubernetes 有状态应用部署文档(KRaft 模式)适用版本:Kafka 3.9.0(KRaft 模式,无需 Zookeeper)部署方式:StatefulSet + Headless Service(贴合有状态应用特性)
斯普信专业组1 天前
分布式·kafka
Kafka集群数据迁移方案:基于多Listener配置的集群迁移实践指南#作者:张桐瑞MirrorMaker2(后文简称 MM2)在 2019 年 12 月随 Kafka 2.4.0 一起推出。顾名思义,是为了解决 Kafka 集群之间数据复制和数据同步的问题而诞生的 Kafka 官方的数据复制工具。在实际生产中,经常被用来实现 Kafka 数据的备份,迁移和灾备等目的。
蜜獾云1 天前
分布式·架构·kafka
Kafka(2)-kafka架构-基本原理上一讲解我们讲解了kafka的具备的一些特点:相比于传统的消息队列来说,kafka可以做到分布式存储,具备高可用,高性能的特点,我们这一讲主要讲解:Kafka实现高性能、高可用、分布式存储的的基本原理。主线主要从吞吐量到延时引出kafka是高吞吐量、低延时的架构;根据这个高吞吐量低延时原理从而引出kafka如果实现单机几十万并发数据写入、以及如何实现高性能数据读取;然后如何将写入的数据进行极致压缩利用磁盘效率,进而在数据写入读取,以及数据存取方式都知道的情况下,kafka如何实现分布式存储、分布式负载均衡
隔叶听风1 天前
数据库·kafka·rocketmq
RocketMQ 与 Kafka 长轮询详解Consumer 消费消息有两种基本模式:长轮询是对 Pull 模式的优化:Consumer 发起请求后,若暂无消息,Broker 不立即返回,而是挂起请求,等到有新消息或超时后再响应。既避免了频繁空轮询,又保证了消息的实时性。
IvanCodes1 天前
大数据·分布式·架构·kafka
二、Kafka核心架构与分布式存储Kafka不仅是传统的消息队列中间件,更被官方定义为新一代的分布式事件流平台。它在海量流式计算场景中占据绝对核心地位,具备以下底层物理特性:
indexsunny1 天前
java·spring boot·面试·kafka·spring security·电商·microservices
互联网大厂Java面试实录:Spring Boot与微服务在电商场景中的应用解析本文通过模拟一次互联网大厂Java开发工程师的面试过程,围绕电商场景展开,涵盖核心Java语言、Spring Boot框架、微服务架构、安全框架及消息队列等技术栈。面试官严肃提问,候选人谢飞机幽默回应,既展示了基础功底,也暴露了复杂问题的不足。文章最后详细解析每个问题的答案,帮助读者理解技术背后的业务价值。
deng-c-f1 天前
分布式·学习·kafka
Linux C/C++ 学习日记(73):Kafka(一):基本介绍注:该文用于个人学习记录和知识交流,如有不足,欢迎指点。消息+队列(MessageQueue,简称MQ)。 本质是就是个队列,FIFO先入先出,只不过队列中存放的内容是message,从而叫消 息队列。 主要用途:不同服务server、进程process、线程thread之间通信。
Chan162 天前
java·spring boot·分布式·spring·java-ee·kafka·消息队列
从生产到消费:Kafka 核心原理与实战指南摘要:本文详解 Kafka 核心架构、生产消费全流程,剖析分区、副本、Offset 管理等核心机制,及高性能、高可用的优化策略与实践方案。
yzp-2 天前
分布式·学习·kafka
Kafka 原子更新,精确一次消费 Exactly-Once --------- 学习笔记目录原子更新精确一次消费写入幂等事务消息总结Kafka 如何实现原子更新?即操作要么完全成功、要么完全失败,无中间状态。核心结论是:Kafka 本身不直接提供 “更新” 语义,但可通过原子写入 + 消费语义 + 外部协调实现业务层面的原子更新。
IvanCodes8 天前
大数据·后端·kafka
一、消息队列理论基础与Kafka架构价值解析假设我们正在开发一个核心的电商交易平台。在最原始的单体架构或早期的微服务架构中,订单微服务创建完一条新订单后,需要通过网络接口直接调用库存系统扣减商品、调用积分系统增加用户成长值,并且调用物流系统生成运单。
初次攀爬者9 天前
后端·kafka
Kafka的Rebalance基础介绍Rebalance 是 Kafka 消费者组的一种分区重分配机制,当消费者组的状态发生变化时,触发所有分区在所有消费者之间重新分配,以达到负载均衡的目的。
初次攀爬者10 天前
后端·kafka
Kafka + KRaft模式架构基础介绍适用版本:Kafka 3.3+(生产推荐)自 Kafka 2.8 起,社区引入 KRaft(Kafka Raft Metadata)模式,旨在完全移除对 ZooKeeper 的依赖。从 Kafka 3.3 开始,KRaft 成为官方推荐的生产部署模式。
初次攀爬者10 天前
后端·zookeeper·kafka
Kafka + ZooKeeper架构基础介绍ZooKeeper 是 Kafka 2.8 之前的必选协调组件,只做集群管控,不参与消息读写:Kafka 只负责:消息接收、存储、复制、消费。
初次攀爬者10 天前
spring boot·kafka·消息队列
Kafka 基础介绍Apache Kafka 是一个分布式流式平台,最初由 LinkedIn 开发,后成为 Apache 顶级项目。其核心特性包括:
DemonAvenger14 天前
性能优化·kafka·消息队列
Kafka性能调优:从参数配置到硬件选择的全方位指南在现代分布式系统中,Kafka以其高吞吐、低延迟和高可靠性的特性,成为了消息队列和流处理的首选中间件。无论是电商平台处理海量订单,还是金融系统实时分析交易数据,Kafka都扮演着数据流通的“高速公路”角色。然而,当业务规模扩大,性能瓶颈开始显现:消息堆积、延迟升高,甚至服务宕机。这些问题不仅影响用户体验,还可能直接导致业务损失。
yumgpkpm15 天前
人工智能·hadoop·elasticsearch·zookeeper·flink·kafka·cloudera
AI视频生成:Wan 2.2(阿里通义万相)在华为昇腾下的部署?AI视频生成:Wan 2.2(阿里通义万相)在华为昇腾下的部署?Wan 2.2(阿里通义万相)已在华为昇腾平台实现官方支持部署。根据 2025年7月发布的《A24b_昇腾算子注册与模型迁移》技术文档 及 昇腾社区实战案例,Wan 2.2 可通过 PyTorch NPU 插件 + 自定义算子适配 的方式,在 Atlas 系列服务器(如 Atlas 800/300I) 上高效运行。
予枫的编程笔记15 天前
java·kafka·死信队列·消息中间件·消息重试·dlq·java业务开发
【Kafka高级篇】避开Kafka原生重试坑,Java业务端自建DLQ体系,让消息不丢失、不积压做Java消息中间件开发的同学,大概率都踩过Kafka重试的坑——相较于RabbitMQ丰富的原生重试机制,Kafka的重试支持显得十分简陋,一旦消息消费失败,要么反复重试导致系统雪崩,要么直接丢弃造成数据丢失。今天就手把手教大家,在Java业务端通过自建“重试Topic”和“死信Topic”,打造一套闭环的消息异常容错体系,彻底解决Kafka消息消费的兜底难题。