kafka

阿里云云原生7 小时前
kafka
深入解析存算分离 Kafka:如何实现从 Topic 到 Iceberg Table 的原生入湖?作者:费红健本文整理自 Apache 2026 技术分享《实时湖仓管道:分离式 Kafka 中的原生入湖与内嵌计算》。
骇客野人2 天前
spring boot·kafka·linq
SpringBoot 接入 Kafka 完整实操步骤SpringBoot2.x:推荐 spring-boot-starter-kafka;SpringBoot3.x 直接使用 spring-kafka(starter 已移除),不用写版本,父工程自动管理兼容版本
Sayai2 天前
分布式·zookeeper·kafka
Kafka 集群开启 SASL 认证实战(二):外置 ZooKeeper 之 kafka 与 zk 间认证很多场景下 Kafka broker 对内网客户端可以不加认证,但 kafka 与 ZooKeeper 之间的通道必须锁——zk 里存着 broker 元数据和消费者位移,谁都能连上去 rmr / 一键清空。本篇讲外置 ZooKeeper 场景下只做 kafka↔zk 间 SASL 认证的最小配置,不动 broker 对客户端的协议,业务应用零改造。配置在 ZooKeeper 3.6.3 + Kafka 2.5.1 生产集群验证通过。
Sayai2 天前
分布式·zookeeper·kafka
Kafka 集群开启 SASL 认证实战(一):内置 ZooKeeper 场景,JAAS 配置全流程Kafka 集群开启 SASL 认证实战(一):内置 ZooKeeper 场景,JAAS 配置全流程# Kafka 集群开启 SASL 认证实战(一):内置 ZooKeeper 场景,JAAS 配置全流程
Sayai2 天前
zookeeper·kafka·linq
Kafka 集群开启 SASL 认证实战(三):外置 ZooKeeper 完整版,quorum 认证 + ACL 访问控制本系列终章。前两篇分别解决了"内置 zk 全套认证"和"外置 zk 只锁通道"两个场景,这一篇把安全等级拉满:kafka↔zk 认证 + zk ACL 白名单 + kafka 客户端认证三层一起上,做到 zk 连不上、kafka 进不去、topic 动不了。配置在 ZooKeeper 3.6.3 + Kafka 2.5.1 生产集群完整验证。
海兰2 天前
分布式·kafka·linq
【Kafka进阶6】顺序消费深度解析Kafka 的顺序保证建立在 分区(Partition) 这一核心概念之上。消费者组生产者Topic: ORDER_TOPIC
2601_960906722 天前
人工智能·kafka·时序数据库·etcd·tdengine
Anthropic把Claude Code 2.1.236及以上版本的Fable 5会话新智元报道Claude一夜变笨,全网吵翻了!就在昨天,开发者argofowl花了整整一个下午,差点把Claude Code翻了个底朝天。
xiamo@moment2 天前
运维·kafka
kafka学习笔记-概念总集判断分区数不足的核心信号是消费者持续Lag、Broker CPU/网络长期超70%或消费者大量闲置;分区数建议设为Broker数量的整数倍(通常23倍),单Broker分区总数控制在100200个(上限4000);扩充分区数无需删除原Topic,直接在线增加即可。
あ-4 天前
kafka
kafka broker迁移此脚本可实现旧 Broker 1~5 → 新 Broker 6~9 的健康分区批量迁移,真正支持中断恢复,可以按 10/20 个 Partition 一批执行,直到旧 Broker 的 ReplicaCount 全部降到 0
海兰4 天前
docker·kafka·apache
【 Kafka进阶5】使用 Docker 部署 Apache Kafka 集群完全指南从单节点快速尝鲜到生产级隔离模式集群,一文打通容器化 Kafka 部署全链路。传统的 Kafka 部署需要手动配置 JVM、ZooKeeper(或 KRaft 控制器)以及复杂的网络调优。使用 Docker 后:
海兰5 天前
zookeeper·kafka·apache
【Kafka进阶4】KRaft 完全指南:Apache Kafka 摆脱 ZooKeeper 的架构KRaft(Kafka Raft Metadata Mode)是 Apache Kafka 自 2.8.0 引入、3.x 正式推荐生产使用的元数据管理新模式。它彻底移除了对 ZooKeeper 的依赖,将集群协调、元数据存储和共识算法全部内置,让 Kafka 成为一个真正自包含的分布式系统。
海兰6 天前
分布式·架构·kafka
【 Kafka进阶3】Apache Kafka 分布式事件流平台:架构原理与微服务解耦机制简要分析从订单履约出发,揭示传统同步调用下服务间链路复杂度呈 O(N²) 指数增长的“耦合之痛”,分析基于事件总线的发布‑订阅模式如何将复杂度优雅地降至 O(N)。
小白一枚136 天前
大数据·运维·elk·kafka·个人开发
[学习笔记]Kafka 篇:从原理到实战的一站式指南目标读者:你会用 Kafka,但说不清它为什么快;你懂点原理,但一动手部署就卡壳;或者你对 Kafka 一知半解,想要一张完整的地图。
阿里云云原生6 天前
云原生·kafka
还在给 AI “喂冷饭”?8.28 上海沙龙:带你跨越 AI 实时上下文鸿沟你的 AI Agent,是不是还在用昨天的数据做今天的决策?AI 应用从 Demo 走向生产,最容易被忽视的瓶颈不是模型本身,而是数据底座。如何在保障高性能、高可用的同时实现弹性扩展与成本可控?当上下文仍依赖 T+1 批处理供给,模型读到的永远是上一批次状态——如何为 AI 持续注入实时数据流,让决策始终基于最新业务事实?
海兰7 天前
学习·kafka·linq
【Kafka学习4】六大核心 APIKafka 的 API 分层清晰,既适合构建简单的消息队列,也能支撑复杂的实时计算。下图展示了它们与 Kafka 集群的交互关系:
NJCloud7 天前
linux·运维·分布式·elk·kafka
ELK企业级日志分析平台(四)——基于 ELFK + Kafka 的日志采集与传输平台部署实践E(Elasticsearch)、L(Logstash)、F(FIlebeat)、K(Kibana)流程示意图:
海兰8 天前
学习·kafka·apache
【Kafka学习3】Apache Kafka 本地部署环境快速入门指南首先,下载最新版本的 Kafka 并解压https://www.apache.org/dyn/closer.cgi?path=/kafka/4.3.1/kafka_2.13-4.3.1.tgz。
渣渣盟8 天前
flink·kafka·linq
Flink + Kafka 数据写入实战:从API调用到端到端一致性精讲在实时数据管道中,Apache Flink + Apache Kafka 的组合已成为事实标准。然而,很多开发者在将Flink处理后的结果数据写入Kafka时,常常面临两个灵魂拷问:
海兰8 天前
学习·kafka·apache
【Kafka学习2】Apache Kafka 典型应用场景过去,很多系统使用 ActiveMQ、RabbitMQ 等传统消息代理来解耦生产者和消费者,缓冲突发流量。但这些系统在大规模、高吞吐场景下往往力不从心,扩展性和容错能力有限。
heimeiyingwang8 天前
架构·kafka·rabbitmq
【架构实战】消息队列选型与异步架构设计:从Kafka到RabbitMQ,一次聊透昨天聊了分布式事务,有一个关键话题一直没展开:异步通信。微服务架构里,服务之间的调用有两种形态:同步和异步。同步调用(A调用B,等B返回)是主流,但很多场景下它是性能杀手:用户下单后要调用库存服务、支付服务、积分服务、物流服务——如果每个都同步等响应,用户点一次下单要等3秒,这还没算任何一个服务慢导致的整体超时。