kafka

程序员天天困17 小时前
大数据·后端·kafka
Kafka 接入 AI 的三条路线:MCP 提案、会话记忆与实时上下文大家好,我是程序员天天困。翻 Kafka 4.3 发布公告时我愣了一下:致谢名单里写着 Claude、Claude Sonnet 4.6 和 Copilot。一个消息队列的版本发布,贡献者里混进了 AI。不过 Kafka 接入 AI 真正值得聊的,不是让 AI 帮你写 Kafka 代码,而是给 AI 系统补上三类能力:操作 Kafka、记住上下文、实时处理数据。
hey you~2 天前
kafka·消息队列·rocketmq·系统集成·云客服·多渠道接入·接口对接
云客服多渠道统一接入,消息队列技术实现方案摘要:云客服多渠道统一接入的消息队列实现方案,核心是"统一接入层 + 消息中间件 + 消费者处理层"三层架构。接入层将网页、APP、小程序、邮件、社交媒体等渠道消息标准化后投递至消息队列,处理层按业务类型消费,实现渠道解耦、削峰填谷与异步处理。本文给出架构分层、消息队列选型对比、Topic 与分区设计、接口对接规范、性能指标测算(附文档级出处)、可靠性保障、压测数据框架与监控排查方案,面向技术负责人提供可落地的工程实现参考。
雾隐隐o2 天前
kafka
Kafka 消费者消息丢失:Offset 原理与解决方案Kafka 消费者“丢消息”的根源,通常不是 Broker 把数据弄丢了,而是消费进度提交得过早:业务尚未处理成功,offset 却已经推进。本文从 Partition 与 Offset 的关系讲起,再结合 Spring Kafka 演示自动提交、手动确认及其适用边界。
clz13145213 天前
分布式·kafka·linq
Kafka 日消 10 亿场景:用 ConcurrentLinkedQueue 实现高性能批量消费缓冲针对日消 10 亿级别(峰值 3-5 万 TPS)的 Kafka 消费场景,使用 ConcurrentLinkedQueue(CLQ)替代 LinkedBlockingQueue 的核心目的是消除入队时的锁竞争。但 CLQ 是纯无锁非阻塞队列,没有原生的 drainTo 方法,因此“批量 Drain”需要自行实现。
(Charon)4 天前
学习·架构·kafka
【Kafka】消息队列学习(一):为什么需要Kafka?从消息队列到整体架构在没有消息队列之前,两个系统之间最直接的通信方式通常就是:例如一个电商系统中,用户提交订单以后,需要执行:
clz13145214 天前
分布式·flink·kafka
风险特征系统 EPC 子系统:基于 Kafka 数据源与数据集配置的 Flink 指标清洗加工风险特征系统 EPC 子系统,是用于根据后管配置的接入的 Kafka 数据源信息和数据集信息清洗加工 Flink 指标的。它承担着从原始数据接入到最终指标产出的关键链路职责,是风险特征计算体系中的重要一环。
富士康质检员张全蛋4 天前
kafka
Kafka实战 生产阶段 消费阶段的拦截器拦截器作用在生产阶段,就是生产者发送一条消息给Kafka,Kafka收到了这样一条消息,接下来需要将这个消息带入到分区器里面进行分区,存入到指定的分区。
clz13145214 天前
flink·kafka·linq
用 Akka Actor 模拟消费 Kafka 加工处理并发送到 Flink Out Kafka 的完整示例本文基于 Akka Actor 模型,演示如何模拟一条完整的 Kafka 消息处理流水线:从消费 Kafka 消息开始,经过加工处理,最终发送到名为 flink_out 的 Kafka 主题。示例使用 JDK 1.8 + Akka 2.5.11 + Scala 2.11,通过两个 ActorSystem 和两条 LookupEventBus 实现消息的解耦流转,完整复刻了真实项目中 DatasetServiceV2 / Planner / OutputServiceV2 的核心架构。
(Charon)4 天前
分布式·学习·kafka
【Kafka】消息队列学习(二):Topic、Partition与Offset,消息到底存在哪里上一篇介绍 Kafka 时,可以先把整个流程理解成:例如一个系统中可能存在:订单系统产生的消息发送到:
大橙子plus5 天前
linux·运维·kafka
linux搭建kafka本文面向需要快速搭建 Kafka 开发环境的开发者。按照本文步骤操作,你可以在 10 分钟内完成 Kafka 与 Kafka UI 的部署,并立即开始消息的生产与消费调试。 拉取
letisgo55 天前
java·面试·kafka·消息队列·rocketmq
JAVA 高级进阶10篇《消息队列实战:RocketMQ/Kafka选型与“不丢不重有序“三连解》「Java高级技能提升系列」第10篇(全20篇)· 面向2026年中高级Java岗面试 · 专栏持续更新,欢迎关注
雾隐隐o5 天前
分布式·kafka
Kafka 集群搭建:从核心概念到多节点部署Kafka 集群搭建并不只是启动几个 Broker。真正决定集群能否稳定运行的,是对 Topic、Partition、副本、Leader、Controller 以及协调机制的正确理解。本文先梳理核心架构,再给出可操作的多节点部署流程,帮助你建立一套完整的 Kafka 集群认知。
凤山老林5 天前
spring boot·kafka·apache
Spring Boot 集成 Apache Kafka Streams 构建流处理应用:状态存储、窗口聚合与做实时计算,大家第一反应往往是 Flink。但如果你的场景没那么重,不想维护庞大的 Flink 集群,Kafka Streams 绝对是个被低估的利器。它直接嵌在 Java 进程里,跟 Kafka 亲儿子一样,部署起来就是个普通的 Spring Boot 应用。
小楼昨夜又东风1266 天前
kafka·rabbitmq·rocketmq
kafka、rocketmq、rabbitmq,有什么区别这三个是消息队列领域最主流的中间件,经常被拿来比较。我从几个核心维度帮你梳理清楚。消息模型运维复杂度生态与社区
Thomas21437 天前
分布式·flink·kafka
kafka 存储flink changelog两种方式和形态Upsert Kafka | Apache Flink作为数据源,upsert-kafka 连接器会生成一个变更日志流,其中每条数据记录代表一次更新或删除事件。更准确地说,数据记录中的值会被解释为对同一键的上一个值进行更新(如果存在),如果对应的键尚不存在,则更新操作会被视为插入操作。以表为例,变更日志流中的数据记录会被解释为 UPSERT(即插入/更新),因为任何具有相同键的现有行都会被覆盖。此外,空值会被特殊解释:空值记录代表“删除”操作。
禾吾8 天前
kafka
Kafka基础-安装、基础命令等📢 此文档中的命令是基于mac或者linux,windows下需要把bin/xxx.sh替换成bin/windows/xxxx.bat
cpolar技术支持8 天前
java·docker·kafka·cpolar·kafka streams
Kafka Streams 窗口统计怎么验收:本地跑订单流聚合,用 cpolar 给同事看只读结果页做窗口统计时,我最怕的不是代码报错,而是代码没报错、数字却对不上。尤其是事件时间、窗口边界和迟到数据混在一起后,只看日志很难让测试同事快速确认结果。
MZA6668 天前
java·spring boot·kafka
Spring Boot 实战:基于自定义注解 + AOP 实现 Kafka 消息无侵入异步上送在日常的微服务开发中,我们经常需要将核心接口的调用数据(如入参、返参、耗时等)异步上报到 Kafka,供下游进行数据同步、审计或数据计算。
重庆小透明8 天前
java·分布式·微服务·架构·kafka
Kafka 完全指南:从基础组件到核心原理(包含面试题)在之前我介绍了rocketmq的架构包括基本认识,现在来介绍kafka,其实不管用没用过kafka大家或多或少都知道kafka吞吐量很大,那为什么大,并且kafka的架构又是什么样的,今天我们一起来看看。