技术栈
kafka
IvanCodes
1 天前
大数据
·
后端
·
kafka
一、消息队列理论基础与Kafka架构价值解析
假设我们正在开发一个核心的电商交易平台。在最原始的单体架构或早期的微服务架构中,订单微服务创建完一条新订单后,需要通过网络接口直接调用库存系统扣减商品、调用积分系统增加用户成长值,并且调用物流系统生成运单。
初次攀爬者
3 天前
后端
·
kafka
Kafka的Rebalance基础介绍
Rebalance 是 Kafka 消费者组的一种分区重分配机制,当消费者组的状态发生变化时,触发所有分区在所有消费者之间重新分配,以达到负载均衡的目的。
初次攀爬者
4 天前
后端
·
kafka
Kafka + KRaft模式架构基础介绍
适用版本:Kafka 3.3+(生产推荐)自 Kafka 2.8 起,社区引入 KRaft(Kafka Raft Metadata)模式,旨在完全移除对 ZooKeeper 的依赖。从 Kafka 3.3 开始,KRaft 成为官方推荐的生产部署模式。
初次攀爬者
4 天前
后端
·
zookeeper
·
kafka
Kafka + ZooKeeper架构基础介绍
ZooKeeper 是 Kafka 2.8 之前的必选协调组件,只做集群管控,不参与消息读写:Kafka 只负责:消息接收、存储、复制、消费。
初次攀爬者
4 天前
spring boot
·
kafka
·
消息队列
Kafka 基础介绍
Apache Kafka 是一个分布式流式平台,最初由 LinkedIn 开发,后成为 Apache 顶级项目。其核心特性包括:
DemonAvenger
8 天前
性能优化
·
kafka
·
消息队列
Kafka性能调优:从参数配置到硬件选择的全方位指南
在现代分布式系统中,Kafka以其高吞吐、低延迟和高可靠性的特性,成为了消息队列和流处理的首选中间件。无论是电商平台处理海量订单,还是金融系统实时分析交易数据,Kafka都扮演着数据流通的“高速公路”角色。然而,当业务规模扩大,性能瓶颈开始显现:消息堆积、延迟升高,甚至服务宕机。这些问题不仅影响用户体验,还可能直接导致业务损失。
yumgpkpm
9 天前
人工智能
·
hadoop
·
elasticsearch
·
zookeeper
·
flink
·
kafka
·
cloudera
AI视频生成:Wan 2.2(阿里通义万相)在华为昇腾下的部署?
AI视频生成:Wan 2.2(阿里通义万相)在华为昇腾下的部署?Wan 2.2(阿里通义万相)已在华为昇腾平台实现官方支持部署。根据 2025年7月发布的《A24b_昇腾算子注册与模型迁移》技术文档 及 昇腾社区实战案例,Wan 2.2 可通过 PyTorch NPU 插件 + 自定义算子适配 的方式,在 Atlas 系列服务器(如 Atlas 800/300I) 上高效运行。
予枫的编程笔记
9 天前
java
·
kafka
·
死信队列
·
消息中间件
·
消息重试
·
dlq
·
java业务开发
【Kafka高级篇】避开Kafka原生重试坑,Java业务端自建DLQ体系,让消息不丢失、不积压
做Java消息中间件开发的同学,大概率都踩过Kafka重试的坑——相较于RabbitMQ丰富的原生重试机制,Kafka的重试支持显得十分简陋,一旦消息消费失败,要么反复重试导致系统雪崩,要么直接丢弃造成数据丢失。今天就手把手教大家,在Java业务端通过自建“重试Topic”和“死信Topic”,打造一套闭环的消息异常容错体系,彻底解决Kafka消息消费的兜底难题。
倚肆
9 天前
docker
·
kafka
在 Windows Docker 中安装 Kafka 并映射 Windows 端口
本指南将详细介绍如何在 Windows 系统的 Docker 环境中运行 Kafka 容器(使用 KRaft 模式),并将端口和配置文件正确映射到 Windows 主机。
Sheffield
9 天前
elasticsearch
·
zookeeper
·
kafka
如果把ZooKeeper按字面意思比作动物园管理员……
刚接触分布式和微服务,最头疼的就是Zookeeper(ZK)和Kafka的关系——看了一堆官方文档,全是“Leader选举”“分布式协调”“消息队列”这样的专业术语,越看越懵。 直到我自己琢磨出一个「动物园比喻」,把ZK+Kafka的核心功能大概讲明白。
雪碧聊技术
9 天前
kafka
kafka的下载、安装、启动
目录一.kafka的下载和安装1.进入官网,下载安装包(压缩包)2.将压缩包上传到linux服务器,并进行解压
予枫的编程笔记
9 天前
kafka
·
grafana
·
prometheus
·
可观测性
·
jmx
·
kafka集群调优
·
中间件监控
【Kafka高级篇】Kafka监控不踩坑:JMX指标暴露+Prometheus+Grafana可视化全流程
在分布式系统中,Kafka作为高吞吐、高可靠的消息中间件,是业务链路的核心枢纽。但生产环境中,集群卡顿、消息积压、节点异常等问题频发,若缺乏完善的可观测性体系,排查问题如同大海捞针。本文聚焦Kafka可观测性,详解JMX指标暴露方法,手把手教你整合Prometheus+Grafana实现可视化监控,并提炼生产环境必调的核心参数,帮你快速搭建监控体系、优化集群性能,告别“盲操”烦恼。
星辰_mya
10 天前
分布式
·
kafka
消息队列遇到Producer发送慢
借助消息队列之后,咱们的消息得发出去才能开始有价值,一般用得上消息队列说明这个量已经到位了,那么、面对这么多数据量,这消息发出去如果发的特别慢,这应该怎么办呢?
AutoMQ
10 天前
kafka
一行配置让你的 Apache Kafka RTO 缩短一半
在深入讨论技术细节之前,我们需要先对齐一个核心指标:RTO (Recovery Time Objective,恢复时间目标)。
meijinmeng
10 天前
kafka
Kafka Ansible+Helm批量部署 压测 监控
一、环境部署列表1.1 AWS MSK 部署列表┌──────┬───────────┬──────────────────┬───────┬──────────────┐
lhxsir
10 天前
分布式
·
kafka
kafka数据异常记录
由于公司使用英方同步工具: Oracle --> Oracle Oracle --> Kafka MySQL -->Kafka --> Oracle 其中 第一个链路最稳定,同步到kafka的数据偶尔会出问题。
小宋1021
10 天前
java
·
前端
·
kafka
从 Kafka 告警到前端实时可见:SSE 在故障诊断平台中的一次完整落地实践
♥️作者:小宋1021 🤵♂️个人主页:小宋1021主页 ♥️坚持分析平时学习到的项目以及学习到的软件开发知识,和大家一起努力呀!!! 🎈🎈加油! 加油! 加油! 加油 🎈欢迎评论 💬点赞👍🏻 收藏 📂加关注+!
DemonAvenger
10 天前
性能优化
·
kafka
·
消息队列
深入理解Kafka分区策略:实现数据均衡分布的最佳实践
想象一条繁忙的高速公路,成千上万辆汽车(消息)正飞驰向各自的目的地。如果没有清晰的车道和交通规则,必然陷入混乱——某些路段拥堵不堪,而其他路段空空如也。在Apache Kafka中,分区(Partition)就是这些车道,一个精心设计的分区策略能确保消息顺畅流动,让系统负载均衡。无论你是构建实时分析管道还是高吞吐的物联网平台,掌握Kafka的分区策略都是释放其性能与扩展性的关键。
予枫的编程笔记
10 天前
java
·
kafka
·
高并发
·
时间轮算法
·
delayqueue
·
延迟任务
·
timingwheel
【Kafka进阶篇】Kafka延迟请求处理核心:时间轮算法拆解,比DelayQueue高效10倍
做Kafka开发或调优时,你是否有过这样的困惑:Kafka如何高效处理百万级的延迟请求(比如延迟ACK、延迟Fetch)?为什么不用JDK自带的DelayQueue?其实,Kafka内部藏着一个精巧的定时器神器——时间轮(TimingWheel)算法,它以O(1)的时间复杂度完成延迟任务的插入与删除,轻松扛住高并发场景的考验。本文就从原理到实战,带你吃透时间轮算法。