kafka

Wang's Blog3 分钟前
分布式·kafka
Kafka: Streams核心概念解析之KStream与KTable及实时WordCount实现1 ) KStream的核心特性2 ) KTable的核心特性官方示意图解析(来源):以下流程基于数据Key=1, Value="hello world" 的转换过程:
Wang's Blog15 分钟前
mysql·kafka
Kafka: Connect 实战之MySQL 数据双向同步集成方案1 ) 动态添加 Connector✅ 响应状态码 201 表示创建成功2 ) 验证数据同步1 ) 创建 Sink Connector
GeorgiaStar42 分钟前
kafka·系统架构
为什么Kafka不像MySQL与Redis那样做读写分离首先明确一下:读写分离与否没有绝对的优劣,它仅仅是一种架构设计,各自有适用的场景。为什么MySQL与Redis要搞读写分离?因为它们的Master节点太累了,无论有多少台机器,都只有一台机器对外提供读写服务,负载过重,Master本身就是单点瓶颈,不得不引入读写分离,以此来分担Master的压力,把读请求分流给 Slave。
Wang's Blog1 小时前
分布式·kafka
Kafka: 集群部署与副本机制深度解析之从伪集群搭建到生产环境实践1 ) 概述Kafka天然支持分布式架构,单节点也属于单节点集群。集群部署依赖ZooKeeper进行协调管理(如Broker注册、Leader选举)。
小兜全糖(xdqt)1 小时前
开发语言·python·kafka
python cobnfluent kafka transaction事务官网事务生产者基于 幂等生产者(idempotent producer) 运行,并在与消费者隔离级别设置为 read_committed 时,为 Apache Kafka 提供完整的 Exactly-Once Semantics(EOS)。
Wang's Blog1 小时前
分布式·kafka
Kafka: 分布式流平台入门之安装、配置关键纠正: Kafka 不是传统消息队列,而是 分布式流处理平台(Apache 官方定义)。其核心差异在于:
lhrimperial1 小时前
分布式·kafka·linq
Kafka核心技术深度解析从架构设计到底层实现,全面解析Apache Kafka的核心原理Apache Kafka是一个分布式流处理平台,最初由LinkedIn开发并于2011年开源。它被设计用于处理大规模实时数据流,具有高吞吐量、低延迟、可扩展和高可用的特性。
Wang's Blog13 小时前
分布式·kafka
Kafka: 消费者核心机制1 ) 客户端演进与定位2 ) 基础消费流程1 ) 黄金规则2 ) 负载均衡示意图手动提交最佳实践:1 ) 方案1:基础消费者服务
Wang's Blog18 小时前
分布式·https·kafka
Kafka: HTTPS证书申请集成指南1 ) 证书类型选择在云服务平台(如阿里云/腾讯云)的「SSL证书」模块,选择免费个人版证书,注意同一账户最多签发20张证书的限制。免费证书通常位于产品分类的"域名与网站" > "SSL证书"栏目。
Wang's Blog21 小时前
分布式·kafka
Kafka: 消费者高级实践之分区控制、多线程处理与 Offset 管理1 ) 问题场景:单个消费者处理多分区时效率低下,需实现分区级并行处理与独立提交机制,避免失败分区影响整体消费进度。
Lisonseekpan1 天前
java·后端·kafka·rabbitmq·rocketmq·activemq
Kafka、ActiveMQ、RabbitMQ、RocketMQ对比核心优势:选择消息队列不是寻找"最好"的,而是寻找"最适合"的:最后建议:在技术选型前,先用实际业务流量的1/10进行压力测试,监控关键指标(P99延迟、消息丢失率、系统资源使用率),数据比理论更有说服力。同时,考虑团队技术栈和经验,避免选择团队完全陌生的技术栈。
Wang's Blog1 天前
分布式·微服务·kafka
Kafka: 分布式配置动态更新之微服务总线实现1 ) 服务总线的本质与作用服务总线(Service Bus)是微服务架构中的公共通信层,为所有微服务提供统一的消息集成通道。在 NestJS 生态中,通过 @nestjs/microservices 模块集成 Kafka,实现:
我认不到你1 天前
java·spring boot·spring cloud·kafka
动态线程池+kafka自定义拒绝策略,做到任务不丢失开发环境为 jdk8 本文用到了 nacos、kafka 这两个第三方中间件,文章分为两个部分第一部分:动态线程池 (nacos 必须要,kafka 不强求)(拒绝策略为默认报错)
yumgpkpm1 天前
大数据·hadoop·分布式·hdfs·flink·kafka·cloudera
Hadoop如何用Flink支持实时数据分析需求Hadoop如何支持实时数据分析需求Cloudera CMP 7.3(Cloud Data AI Platform)通过集成流处理引擎、低延迟存储系统与实时分析工具链,构建了一套端到端的实时数据分析能力体系。尽管其核心基于 Hadoop 生态,但通过组件组合与架构优化,可有效支撑金融、电信、零售等行业的毫秒至秒级实时分析需求。
川212 天前
分布式·kafka
Kafka消息中间件(超大数据吞吐量)使用在分布式系统中,Kafka绝对是“明星组件”——日志收集、消息解耦、流式数据处理,几乎所有中大型项目都离不开它。很多同学学Kafka时,容易陷入“原理抽象看不懂,配置繁多不会选”的困境。这篇博客就从实际场景出发,先把Kafka核心原理讲明白(结合真实业务场景拆解),再聚焦实战配置分析(告诉你不同场景下该怎么配),帮你真正把Kafka学透、用会。
Wang's Blog2 天前
分布式·kafka
Kafka: 基于 NestJS 的问卷系统配置与业务实现核心目标:动态读取模板配置,支持多环境路径适配与模板激活管理。1 ) 方案1配置类结构定义关键配置说明
太阳伞下的阿呆3 天前
分布式·kafka·高并发·重入锁
kafka高吞吐持久化方案(2)文章主要针对上篇中方案3的进阶进行升级对比介绍使用 WeakHashMap + ReentrantLock 实现按 Key(如 uid_cid)自动回收的锁池(Lock Pool),适用于需要对不同 key 粒度加锁,又希望避免内存泄漏的场景。
Chasing__Dreams3 天前
分布式·kafka
kafka--基础知识点--19--消息重复acks = 1 或 -1,当消息已经写入leader或ISR中的folloer后,brocker给生产者发送确认响应后发送网络抖动或leader崩溃又崩溃重启,生产者发现没有确认响应再次发送,导致消息brocker中出现了两条重复的消息,重复发送导致。
import_random4 天前
kafka
[kafka]伪集群搭建,各个节点配置文件中listeners参数的配置各个节点的 listeners 配置必须不同,因为它们是绑定到不同的端口上的。在一台电脑上部署 Kafka 伪集群时: