kafka

(Charon)19 小时前
学习·架构·kafka
【Kafka】消息队列学习(一):为什么需要Kafka?从消息队列到整体架构在没有消息队列之前,两个系统之间最直接的通信方式通常就是:例如一个电商系统中,用户提交订单以后,需要执行:
clz131452119 小时前
分布式·flink·kafka
风险特征系统 EPC 子系统:基于 Kafka 数据源与数据集配置的 Flink 指标清洗加工风险特征系统 EPC 子系统,是用于根据后管配置的接入的 Kafka 数据源信息和数据集信息清洗加工 Flink 指标的。它承担着从原始数据接入到最终指标产出的关键链路职责,是风险特征计算体系中的重要一环。
富士康质检员张全蛋19 小时前
kafka
Kafka实战 生产阶段 消费阶段的拦截器拦截器作用在生产阶段,就是生产者发送一条消息给Kafka,Kafka收到了这样一条消息,接下来需要将这个消息带入到分区器里面进行分区,存入到指定的分区。
clz131452121 小时前
flink·kafka·linq
用 Akka Actor 模拟消费 Kafka 加工处理并发送到 Flink Out Kafka 的完整示例本文基于 Akka Actor 模型,演示如何模拟一条完整的 Kafka 消息处理流水线:从消费 Kafka 消息开始,经过加工处理,最终发送到名为 flink_out 的 Kafka 主题。示例使用 JDK 1.8 + Akka 2.5.11 + Scala 2.11,通过两个 ActorSystem 和两条 LookupEventBus 实现消息的解耦流转,完整复刻了真实项目中 DatasetServiceV2 / Planner / OutputServiceV2 的核心架构。
(Charon)21 小时前
分布式·学习·kafka
【Kafka】消息队列学习(二):Topic、Partition与Offset,消息到底存在哪里上一篇介绍 Kafka 时,可以先把整个流程理解成:例如一个系统中可能存在:订单系统产生的消息发送到:
大橙子plus2 天前
linux·运维·kafka
linux搭建kafka本文面向需要快速搭建 Kafka 开发环境的开发者。按照本文步骤操作,你可以在 10 分钟内完成 Kafka 与 Kafka UI 的部署,并立即开始消息的生产与消费调试。 拉取
letisgo52 天前
java·面试·kafka·消息队列·rocketmq
JAVA 高级进阶10篇《消息队列实战:RocketMQ/Kafka选型与“不丢不重有序“三连解》「Java高级技能提升系列」第10篇(全20篇)· 面向2026年中高级Java岗面试 · 专栏持续更新,欢迎关注
雾隐隐o2 天前
分布式·kafka
Kafka 集群搭建:从核心概念到多节点部署Kafka 集群搭建并不只是启动几个 Broker。真正决定集群能否稳定运行的,是对 Topic、Partition、副本、Leader、Controller 以及协调机制的正确理解。本文先梳理核心架构,再给出可操作的多节点部署流程,帮助你建立一套完整的 Kafka 集群认知。
凤山老林2 天前
spring boot·kafka·apache
Spring Boot 集成 Apache Kafka Streams 构建流处理应用:状态存储、窗口聚合与做实时计算,大家第一反应往往是 Flink。但如果你的场景没那么重,不想维护庞大的 Flink 集群,Kafka Streams 绝对是个被低估的利器。它直接嵌在 Java 进程里,跟 Kafka 亲儿子一样,部署起来就是个普通的 Spring Boot 应用。
小楼昨夜又东风1263 天前
kafka·rabbitmq·rocketmq
kafka、rocketmq、rabbitmq,有什么区别这三个是消息队列领域最主流的中间件,经常被拿来比较。我从几个核心维度帮你梳理清楚。消息模型运维复杂度生态与社区
Thomas21434 天前
分布式·flink·kafka
kafka 存储flink changelog两种方式和形态Upsert Kafka | Apache Flink作为数据源,upsert-kafka 连接器会生成一个变更日志流,其中每条数据记录代表一次更新或删除事件。更准确地说,数据记录中的值会被解释为对同一键的上一个值进行更新(如果存在),如果对应的键尚不存在,则更新操作会被视为插入操作。以表为例,变更日志流中的数据记录会被解释为 UPSERT(即插入/更新),因为任何具有相同键的现有行都会被覆盖。此外,空值会被特殊解释:空值记录代表“删除”操作。
禾吾5 天前
kafka
Kafka基础-安装、基础命令等📢 此文档中的命令是基于mac或者linux,windows下需要把bin/xxx.sh替换成bin/windows/xxxx.bat
cpolar技术支持5 天前
java·docker·kafka·cpolar·kafka streams
Kafka Streams 窗口统计怎么验收:本地跑订单流聚合,用 cpolar 给同事看只读结果页做窗口统计时,我最怕的不是代码报错,而是代码没报错、数字却对不上。尤其是事件时间、窗口边界和迟到数据混在一起后,只看日志很难让测试同事快速确认结果。
MZA6665 天前
java·spring boot·kafka
Spring Boot 实战:基于自定义注解 + AOP 实现 Kafka 消息无侵入异步上送在日常的微服务开发中,我们经常需要将核心接口的调用数据(如入参、返参、耗时等)异步上报到 Kafka,供下游进行数据同步、审计或数据计算。
重庆小透明5 天前
java·分布式·微服务·架构·kafka
Kafka 完全指南:从基础组件到核心原理(包含面试题)在之前我介绍了rocketmq的架构包括基本认识,现在来介绍kafka,其实不管用没用过kafka大家或多或少都知道kafka吞吐量很大,那为什么大,并且kafka的架构又是什么样的,今天我们一起来看看。
一本正经的不务正业5 天前
分布式·kafka·rocketmq
kafka与RocketMQ的不同1:kafka 与rocketMQ的零拷贝 kafka 在使用时更偏向sendFile方式, sendfile只能用来搬运数据,不能对数据进行操作。整个过程在内核态完成,不经过用户态。 rocketMq使用时更偏向Mmap方式。通过内存映射的方式,用户态通过虚拟地址,可以直接读取修改内核态数据。
johnrui5 天前
kafka
kafka4.x单机版安装部署(单节点 KRaft 模式)既然只有根分区,建议把 Kafka 安装到 /opt/kafka 或 /home/your_user/kafka 下,数据目录也放在同一分区:
面向Google编程6 天前
flink·kafka·agent
Kafka 成了 Agent 的「共享内存」,Flink 成了它的「大脑」Confluent 官方博客里举了个例子:一位客户写信来问订单到哪了,客服 Agent 查了账户,看到状态是「已发货」,就回了句安抚的话。
醉颜凉6 天前
分布式·架构·kafka·ar
Kafka ISR与AR深度解析:副本同步机制核心概念关键词:Kafka、ISR、AR、副本同步、Leader选举、高可用、数据一致性在Kafka的分布式架构中,副本机制是保证高可用和数据一致性的基石。而**ISR(In-Sync Replicas)和AR(Assigned Replicas)**则是理解副本同步机制的两个核心概念。
2601_962295997 天前
python·spark·kafka·情感分析·大规模处理
Spark 和 Kafka 实现 Python 大规模情感分析用 Spark 和 Kafka 实现 大规模情感分析引言:为什么你的笔记本电脑在处理几百万条数据时会“崩溃”?