技术栈
kafka
刘~浪地球
13 小时前
分布式
·
kafka
·
linq
消息队列--Kafka 生产环境最佳实践
系列导读:本篇将深入讲解 Kafka 生产环境的部署、配置与最佳实践。✅ Kafka 架构:Broker、Topic、Partition ✅ 生产环境部署:集群规划、配置优化 ✅ 生产者实践:配置、同步/异步发送 ✅ 消费者实践:配置、手动提交 ✅ 监控运维:关键指标、监控工具
却话巴山夜雨时i
14 小时前
spring boot
·
redis
·
微服务
·
kafka
·
prometheus
·
java面试
·
电商场景
互联网大厂Java面试场景:Spring Boot、微服务与Redis实战解析
面试官: 谢飞机,请简单介绍一下Spring Boot的核心功能,以及它在电商场景中的作用。谢飞机: Spring Boot嘛,它是个快速开发框架,用来创建独立的Spring应用。它在电商场景中,可以用来创建用户购物车服务,轻松集成数据库和缓存。
indexsunny
15 小时前
java
·
spring boot
·
面试
·
kafka
·
mybatis
·
电商
·
技术栈
互联网大厂Java面试实战:Spring Boot、MyBatis与Kafka在电商场景中的应用
在互联网大厂的Java求职面试中,面试官与求职者谢飞机展开了一场关于电商平台技术栈的深入对话。面试涵盖了从基础框架到分布式消息队列等多个技术点,结合真实业务场景帮助求职者理解和掌握关键技术。
武子康
17 小时前
大数据
·
后端
·
kafka
大数据-266 实时数仓-Canal + Kafka 实现 MySQL 数据库变更实时捕获
Canal 是阿里巴巴开源的 MySQL binlog 增量订阅与消费平台。它模拟 MySQL 的主从复制机制,通过解析 MySQL 的二进制日志(binlog),实现数据库变更的数据捕获(CDC, Change Data Capture)。
creator_Li
17 小时前
笔记
·
学习
·
kafka
Kafka 全面技术笔记
Apache Kafka 是一个开源的分布式流处理平台。Kafka 提供了一套统一的高吞吐、低延迟平台,用于处理实时数据流,本质上是一个分布式的、分区的、多副本的提交日志服务(distributed, partitioned, replicated commit log service)。
青春不流名
18 小时前
分布式
·
kafka
kafka 集成OAUTHBEARER认证的例子
日志格式Avro
洛豳枭薰
19 小时前
分布式
·
kafka
kafka重平衡导致的消息重复消费或者消息丢失
渐进式(增量合作式)重平衡:会不会导致乱序 / 丢消息? 结论先给你:渐进式重平衡本身不会主动导致消息丢失,但在特定场景下可能引发「乱序消费」和「重复消费」;如果配置不当,也会间接造成丢消息。它的核心优势是大幅降低重平衡的停机时间,但并没有从根本上消除重平衡对语义的影响,只是把风险从「全量暂停」变成了「局部、可控」。 一、先搞懂:渐进式重平衡到底是什么? 传统的 ** 全量重平衡 **(Kafka 2.4 之前默认): 每次重平衡,所有消费者一次性撤销全部分区,全组暂停消费,等待新分配完成后再恢复。 缺点
架构师老Y
2 天前
python
·
架构
·
kafka
·
rabbitmq
·
ruby
011、消息队列应用:RabbitMQ、Kafka与Celery
上周半夜被报警叫醒,系统里堆积了十几万条未处理的消息。登录服务器一看,RabbitMQ内存占用98%,生产者还在拼命往里塞数据,消费者却全躺平了。紧急扩容后开始排查,发现某个消费者处理单条消息要30秒,而生产速率是每秒50条——典型的“消费能力跟不上生产速度”导致消息堆积。这种场景在我们后端系统里太常见了,今天就来聊聊消息队列这个“系统解耦神器”和“性能杀手”的双面角色。
talen_hx296
2 天前
笔记
·
学习
·
kafka
《kafka核心源码解读》学习笔记 Day 02
日志是日志段的容器,里面定义了很多管理日志段 的操作。总体上,该文件定义了 10 个类和对象保存了一组待写入消息的各种元数据信息。比如,这组消息中第一条消息的位移值是多少、最后一条消息的位移值是多少;再比如,这组消息中最大的消息时间戳又是多少。
lifallen
2 天前
java
·
大数据
·
分布式
·
kafka
如何保证 Kafka 的消息顺序性?
理解 Kafka 消息顺序性时最容易乱,是因为大家经常把“发送顺序、落盘顺序、消费顺序、业务处理顺序”混为一谈。 更稳妥的读法是先把链路拆开,始终带着下面几个问题去审视整个流程:
真实的菜
2 天前
kafka
Kafka 2.x vs 3.x,我为什么选择升级?
这是一个小白的学习记录 边学边练,把踩过的坑都记下来公司项目要用 Kafka,让我负责调研。拿到手一看,好家伙,2.x 和 3.x 到底选哪个?
时光追逐者
2 天前
分布式
·
kafka
·
开源
分享四款开源且实用的 Kafka 管理工具
在现代分布式架构中 Kafka 作为核心的消息流平台,其稳定性和可观测性至关重要。然而,原生命令行操作往往繁琐且缺乏直观性,给日常运维和开发工作带来了不小的挑战。今天大姚给大家分享四款开源且实用的 Kafka 管理工具,希望可以帮助到有需要的小伙伴。
Rick1993
2 天前
kafka
·
rabbitmq
·
rocketmq
rabbitmq, rocketmq, kafka这三种消息如何分别保住可靠性,顺序性,以及应用场景?
我给你整理一份面试必背、条理清晰、直接能说出口的版本,把 RabbitMQ / RocketMQ / Kafka 在可靠性、顺序性、应用场景三块讲透,不绕弯子。
☞遠航☜
2 天前
分布式
·
kafka
·
linq
kafka快速上手
kafka基础工作机制是消息发送者可以将消息发送到kafka上指定的topic,而消息消费者,可以从指定的topic上消费消息。 kafka体系中的一些概念: **消费者组:**每个消费者可以指定一个所属的消费者组,相同消费者组的消费者共同构成一个逻辑消费者组。每一个消息会被多个感兴趣的消费者组消费,但是在每一个消费者组内部,一个消息智慧被消费一次。 topic:这是一个逻辑概念,一个topic被认为是业务含义相同的一组消息。客户端都通过绑定topic来生产或者消费自己感兴趣的话题。 分区partitio
工具罗某人
2 天前
docker
·
容器
·
kafka
docker compose部署kafka集群搭建
记录 docker compose部署kafka集群搭建现在有三台服务器:172.16.10.80172.16.10.98
qq_29757467
3 天前
分布式
·
kafka
·
负载均衡
【Kafka 系列・入门第六篇】Kafka 集群部署(3 节点)+ 负载均衡配置
大家好,接续上一篇《Kafka实操进阶:Topic/Partition管理 + 消息可靠性配置》,今天我们完成Kafka集群运维的最后一环——日常故障排查与稳定性保障。 前文已完成Kafka集群的基础部署、负载均衡配置,以及日常管理操作的核心流程。但在实际生产环境中,集群难免会遇到各类突发问题(如节点宕机、配置冲突、消息积压等),唯有掌握成熟的故障排查体系,才能保障集群长期稳定运行。本文将结合3节点Kafka集群的实际场景,补充故障排查、运维规范、稳定性保障、工具实操四大核心内容,全程避开复杂原理,只讲可
浮尘笔记
3 天前
后端
·
docker
·
容器
·
kafka
·
php
Docker中安装Kafka以及基本配置和用法、踩坑记录
书接上回:《Docker从入门到实践:安装配置、常用命令与开发环境搭建》Apache Kafka 是一个分布式消息队列系统。它最初由 LinkedIn 公司开发,后来成为 Apache 顶级项目。
却话巴山夜雨时i
3 天前
spring boot
·
redis
·
flink
·
kafka
·
java面试
·
rest api
·
互联网大厂
互联网大厂Java面试实录:从Spring Boot到Kafka的技术问答
谢飞机是一名刚入行不久的程序员,今天他来到某互联网大厂参加Java开发工程师的面试。面试官是经验丰富的高级Java架构师,面试过程分为三轮技术问答,涵盖基础知识、业务场景和综合能力。
Zhu758
3 天前
docker
·
kafka
·
apache
【软件部署】用docker部署Apache Kafka 集群架构isolated模式带SSL
带SSL,增强安全创建文件compose.yaml创建目录secrets 自己生成文件或下载SSL模板文件https://github.com/apache/kafka/tree/trunk/docker/examples/fixtures/secrets