技术栈
kafka
qq_29757467
14 小时前
分布式
·
kafka
【Kafka系列·进阶第一篇】生产可靠性实战:死信队列+幂等性+集群扩容+灾备切换
大家好,在前面的入门系列中,我们完成了Kafka监控运维体系搭建,实现了集群状态可视、故障主动告警,彻底告别运维黑盒。但在真实的生产场景中,消息乱序、重复消费、死信堆积、集群瓶颈、单点故障依然是高频痛点,哪怕监控及时,没有对应的兜底和扩容方案,依然会影响业务稳定性。
请为小H留灯
17 小时前
分布式
·
kafka
·
linq
·
消费
Kafka详解及实战案例
很多技术人员刚接触Kafka时,会被各种术语绕晕。其实只要抓住"消息流转"的核心逻辑,就能快速理解。我们可以将Kafka比作一个"分布式快递仓库":
Devin~Y
20 小时前
java
·
spring boot
·
redis
·
elasticsearch
·
spring cloud
·
微服务
·
kafka
大厂内容社区面试实录:从 Spring Boot 微服务到 AI RAG 问答(附详细解析)
场景设定:面试分 3 大轮,围绕一个“内容社区 + AI 问答”的业务场景,层层深入:对话结束后,文末给出 每个问题的详细标准答案 + 场景解析,适合小白系统学习。
indexsunny
21 小时前
java
·
spring boot
·
spring cloud
·
kafka
·
flyway
·
hikaricp
·
microservices
互联网大厂Java求职面试实战:从Spring Boot到Kafka的技术问答解析
本次面试发生在一家互联网大厂,谢飞机作为面试者,面试官以严肃的态度针对Java全栈技术栈进行提问,涵盖从核心语言到微服务、消息队列等多领域技术。面试以电商场景为背景,环环相扣,逐步深入。
刘~浪地球
2 天前
分布式
·
kafka
·
linq
消息队列--Kafka 生产环境最佳实践
系列导读:本篇将深入讲解 Kafka 生产环境的部署、配置与最佳实践。✅ Kafka 架构:Broker、Topic、Partition ✅ 生产环境部署:集群规划、配置优化 ✅ 生产者实践:配置、同步/异步发送 ✅ 消费者实践:配置、手动提交 ✅ 监控运维:关键指标、监控工具
却话巴山夜雨时i
2 天前
spring boot
·
redis
·
微服务
·
kafka
·
prometheus
·
java面试
·
电商场景
互联网大厂Java面试场景:Spring Boot、微服务与Redis实战解析
面试官: 谢飞机,请简单介绍一下Spring Boot的核心功能,以及它在电商场景中的作用。谢飞机: Spring Boot嘛,它是个快速开发框架,用来创建独立的Spring应用。它在电商场景中,可以用来创建用户购物车服务,轻松集成数据库和缓存。
indexsunny
2 天前
java
·
spring boot
·
面试
·
kafka
·
mybatis
·
电商
·
技术栈
互联网大厂Java面试实战:Spring Boot、MyBatis与Kafka在电商场景中的应用
在互联网大厂的Java求职面试中,面试官与求职者谢飞机展开了一场关于电商平台技术栈的深入对话。面试涵盖了从基础框架到分布式消息队列等多个技术点,结合真实业务场景帮助求职者理解和掌握关键技术。
武子康
2 天前
大数据
·
后端
·
kafka
大数据-266 实时数仓-Canal + Kafka 实现 MySQL 数据库变更实时捕获
Canal 是阿里巴巴开源的 MySQL binlog 增量订阅与消费平台。它模拟 MySQL 的主从复制机制,通过解析 MySQL 的二进制日志(binlog),实现数据库变更的数据捕获(CDC, Change Data Capture)。
creator_Li
2 天前
笔记
·
学习
·
kafka
Kafka 全面技术笔记
Apache Kafka 是一个开源的分布式流处理平台。Kafka 提供了一套统一的高吞吐、低延迟平台,用于处理实时数据流,本质上是一个分布式的、分区的、多副本的提交日志服务(distributed, partitioned, replicated commit log service)。
青春不流名
2 天前
分布式
·
kafka
kafka 集成OAUTHBEARER认证的例子
日志格式Avro
洛豳枭薰
2 天前
分布式
·
kafka
kafka重平衡导致的消息重复消费或者消息丢失
渐进式(增量合作式)重平衡:会不会导致乱序 / 丢消息? 结论先给你:渐进式重平衡本身不会主动导致消息丢失,但在特定场景下可能引发「乱序消费」和「重复消费」;如果配置不当,也会间接造成丢消息。它的核心优势是大幅降低重平衡的停机时间,但并没有从根本上消除重平衡对语义的影响,只是把风险从「全量暂停」变成了「局部、可控」。 一、先搞懂:渐进式重平衡到底是什么? 传统的 ** 全量重平衡 **(Kafka 2.4 之前默认): 每次重平衡,所有消费者一次性撤销全部分区,全组暂停消费,等待新分配完成后再恢复。 缺点
架构师老Y
3 天前
python
·
架构
·
kafka
·
rabbitmq
·
ruby
011、消息队列应用:RabbitMQ、Kafka与Celery
上周半夜被报警叫醒,系统里堆积了十几万条未处理的消息。登录服务器一看,RabbitMQ内存占用98%,生产者还在拼命往里塞数据,消费者却全躺平了。紧急扩容后开始排查,发现某个消费者处理单条消息要30秒,而生产速率是每秒50条——典型的“消费能力跟不上生产速度”导致消息堆积。这种场景在我们后端系统里太常见了,今天就来聊聊消息队列这个“系统解耦神器”和“性能杀手”的双面角色。
talen_hx296
3 天前
笔记
·
学习
·
kafka
《kafka核心源码解读》学习笔记 Day 02
日志是日志段的容器,里面定义了很多管理日志段 的操作。总体上,该文件定义了 10 个类和对象保存了一组待写入消息的各种元数据信息。比如,这组消息中第一条消息的位移值是多少、最后一条消息的位移值是多少;再比如,这组消息中最大的消息时间戳又是多少。
lifallen
3 天前
java
·
大数据
·
分布式
·
kafka
如何保证 Kafka 的消息顺序性?
理解 Kafka 消息顺序性时最容易乱,是因为大家经常把“发送顺序、落盘顺序、消费顺序、业务处理顺序”混为一谈。 更稳妥的读法是先把链路拆开,始终带着下面几个问题去审视整个流程:
真实的菜
3 天前
kafka
Kafka 2.x vs 3.x,我为什么选择升级?
这是一个小白的学习记录 边学边练,把踩过的坑都记下来公司项目要用 Kafka,让我负责调研。拿到手一看,好家伙,2.x 和 3.x 到底选哪个?
时光追逐者
3 天前
分布式
·
kafka
·
开源
分享四款开源且实用的 Kafka 管理工具
在现代分布式架构中 Kafka 作为核心的消息流平台,其稳定性和可观测性至关重要。然而,原生命令行操作往往繁琐且缺乏直观性,给日常运维和开发工作带来了不小的挑战。今天大姚给大家分享四款开源且实用的 Kafka 管理工具,希望可以帮助到有需要的小伙伴。
Rick1993
3 天前
kafka
·
rabbitmq
·
rocketmq
rabbitmq, rocketmq, kafka这三种消息如何分别保住可靠性,顺序性,以及应用场景?
我给你整理一份面试必背、条理清晰、直接能说出口的版本,把 RabbitMQ / RocketMQ / Kafka 在可靠性、顺序性、应用场景三块讲透,不绕弯子。
☞遠航☜
3 天前
分布式
·
kafka
·
linq
kafka快速上手
kafka基础工作机制是消息发送者可以将消息发送到kafka上指定的topic,而消息消费者,可以从指定的topic上消费消息。 kafka体系中的一些概念: **消费者组:**每个消费者可以指定一个所属的消费者组,相同消费者组的消费者共同构成一个逻辑消费者组。每一个消息会被多个感兴趣的消费者组消费,但是在每一个消费者组内部,一个消息智慧被消费一次。 topic:这是一个逻辑概念,一个topic被认为是业务含义相同的一组消息。客户端都通过绑定topic来生产或者消费自己感兴趣的话题。 分区partitio
工具罗某人
3 天前
docker
·
容器
·
kafka
docker compose部署kafka集群搭建
记录 docker compose部署kafka集群搭建现在有三台服务器:172.16.10.80172.16.10.98