kafka

我不会起名字32211 小时前
后端·mongodb·kafka·go·im·故障排查
消费回调固定 return nil:错误传播与 Kafka 位点提交的区别我不会起名字322 · 后端 / 算法 / 数据库📘 技术栈 | 🧩 力扣 Hot100 | 🐹 Go 项目 | 🟥 Redis | 🐬 MySQL
qq_4523962318 小时前
安全·kafka·ssl
第十篇:《Kafka 安全加固:SASL、SSL、ACL 与多租户隔离》标签:Kafka | SASL | SSL | ACL | 多租户 | SCRAM | 配额 | 安全 适合人群:要把“裸奔”的 Kafka 集群接入认证授权、或正在做多租户隔离的工程师 阅读收益:搞清楚 SSL 握手失败最高发的坑、SASL 机制怎么选、ACL Authorizer 在 KRaft 下换成了谁、以及配额“按 Broker 算”对多租户意味着什么
用户3610588626122 天前
kafka
KafkaProducer 元数据管理:send() 卡住时,它在等什么摘要:上一篇讲了 KafkaProducer 构造器不发任何网络请求。这篇拆 waitOnMetadata 真实源码——第一次 send() 为什么卡 60 秒,ProducerMetadata 怎么从只记 bootstrap 地址到知道每个分区 leader,以及 STABLE / NEED_UPDATE / IN_FLIGHT 三态状态机。基于 kafka-clients 3.9。
空奈qwq2 天前
分布式·架构·kafka
【Kafka 从入门到实战】从手写一个队列到生产级消息中间件:架构、分区、消费组、零拷贝全解析面试官问"Kafka 为什么快",你只会答"零拷贝"?这篇从手写队列开始,一层层讲透 Kafka 的架构与设计。 含完整可运行 Python 代码(建 Topic / 生产者 / 消费者)+ 踩坑记录 + 高频面试题。
用户3610588626124 天前
kafka
深度拆解 Kafka 源码:Producer 构造器装配了哪些核心组件摘要:一行 new KafkaProducer(props) 背后,是配置校验、序列化器/分区器/拦截器装配、32MB 发送缓冲、事务管理器与一条 Sender 守护线程的完整启动,却没有发起任何一次网络请求。本文基于 kafka-clients 3.9.x 源码,逐段拆解初始化全过程,并给出生产环境排查清单。
知识搬运临时工5 天前
后端·kafka
Kafka 发 1 GiB 数据,用户态 CPU 只花 0.016 秒,总耗时反而慢了 11%先说结论再解释:用 FileChannel.transferTo 把 1 GiB 缓存文件发出去,用户态 CPU 从 0.093 秒掉到 0.016 秒,降到六分之一。但墙钟时间从 0.60 秒变成 0.67 秒,慢了 11%。
一条泥憨鱼6 天前
java·后端·kafka·消息队列·rabbitmq
【消息队列】ACK确认了什么:消息队列可靠投递的完整链路👋 关于作者你好,这里是一条泥憨鱼 | 专注于 后端开发、AI 前沿技术与计算机基础 。🏠 个人主页:一条泥憨鱼
斯普信专业组6 天前
kafka·流程图
Kafka 消费者 poll() 流程与原理详解Kafka 消费者采用 Pull(拉取)模式,由消费者主动向 Broker 拉取消息,而不是由 Broker 主动推送。
ly76896 天前
分布式·kafka·linq·apache camel·幂等消费者·重试副作用·去重边界
幂等消费者与重试副作用:Kafka 端点接入时的去重边界假设你所在团队有一个存量订单库,业务部门希望把 Kafka 中不断流入的“订单变更事件”同步到旧系统的客户积分表里。Kafka 主题里同一条事件可能不止出现一次:生产者发送超时后重发、消费者处理完但提交位点前进程崩溃、再均衡后分区被重新分配,都会让同一业务事件再次进入你的处理逻辑。你要完成的任务不是“把 Kafka 教程再读一遍”,而是:让这条 Camel 路由在重复投递时只产生一次业务效果,并且能说清楚哪些重复它能挡住、哪些挡不住。
9624567 天前
中间件·kafka·activemq
容器 RUNNING,为什么中间件仍不可用?ActiveMQ 与 Kafka/ZooKeeper 恢复实录一套分阶段启动工具在基础设施就绪检查中反复超时。SSH 可连接,Docker 能响应,容器也显示 RUNNING,但 ActiveMQ 的 61616 与两个 Kafka broker 的 9092 未开放。排查最终落到了两个不同层面:ActiveMQ 的 KahaDB 恢复位置问题,以及 Kafka 启动失败与 ZooKeeper 从节点视图不一致。
斯普信专业组7 天前
分布式·zookeeper·kafka
Kafka 3.9.1 三节点集群部署方案(ZooKeeper 模式)本文采用 ZooKeeper 模式部署 Kafka 三节点集群:集群元数据(Topic、分区、副本分配、ACL、controller 归属)存放在独立 ZooKeeper 集群的 znode 下。
皮皮林5517 天前
kafka
Kafka 怎么保证消费只消费一次的?先说结论:Kafka 默认只能保证 At Least Once(至少一次,不丢但可能重复),“只消费一次”需要开发者在消费端做额外设计。
茶海棠8 天前
hadoop·zookeeper·kafka·hbase
Hadoop+zookeeper+HBase+Kafka集群搭建全流程本文档仅用于流程参考。 如有错误请联系我进行修改。 行文比较粗糙,还请见谅。 请善用AI进行辅助。简述大概流程: 首先创建第一台虚拟机,然后搭建单机伪分布式Hadoop,并使用自带的wordcount进行验证。 然后修改为1主2从分布式集群,逐步引入zookeeper、HBase、Kafka,最后使用自动化脚本进行快速启动集群、停止集群、重启集群、查看集群状态。
后台模板学习8 天前
kafka·rabbitmq·linq
Kafka 与 RabbitMQ 在用户认证与权限管理场景在现代分布式系统中,消息队列技术已成为处理异步通信、解耦服务组件和保障高并发能力的重要基础设施。特别是在用户认证与权限管理这一场景中,消息队列的可靠性、性能及扩展性对系统整体稳定性有着直接影响。
真上帝的左手8 天前
分布式·中间件·kafka
12. 消息队列-Kafka进阶每个 Java 开发者心里都有个"Kafka 情结":一听就高大上,一用就心里没底。它就像一家口碑两极分化的快递公司——配置得当,包裹一个不落、飞快送达;配置一错,丢件、重派、乱序三连击,能把你的线上系统折腾到半夜。
千里达景区票务系统9 天前
kafka·消息队列·rabbitmq·rocketmq
消息队列选型对比:RabbitMQ vs RocketMQ vs Kafka做后端开发的,几乎没有不用消息队列的。解耦、异步、削峰,这三大作用谁都知道。但真到了选型的时候,到底选哪个?RabbitMQ、RocketMQ还是Kafka?
Sayai9 天前
大数据·运维·分布式·flink·kafka·消息队列·高可用
Kafka 跨数据中心日志同步实战:MirrorMaker 2 选型对比 + Flink 中继任务落地(双中心互备与消费者组隔离避坑)做日志平台迟早会遇到一个需求:两个数据中心(或两地三中心的"两地")都要有全量日志。监管审计要求容灾侧数据完整、故障切换时查询不中断、或者干脆是"总行一套、灾备一套"的硬性架构约束——这时候单中心自产自销的 Kafka + Elasticsearch 就不够用了,跨中心的日志同步必须安排上。
jianjinwssy9 天前
人工智能·docker·kafka
从零设计一个 Agent 安全沙箱:Docker 隔离、三级风控与 Kafka 审计Agent 不仅可以生成文本,还可以调用 Shell 工具完成文件处理、项目构建和脚本执行。例如:但如果直接在宿主机执行模型生成的命令,可能出现误删除、凭证泄露、资源耗尽等问题:
一条泥憨鱼10 天前
java·分布式·学习·kafka
【Kafka】零基础学习教程👋 关于作者你好,这里是一条泥憨鱼 | 专注于 后端开发、AI 前沿技术与计算机基础 。 🏠 个人主页:一条泥憨鱼