kafka

原神启动111 小时前
分布式·kafka
Kafka详解提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档1.1 Kafka定义 Kafka(传统)分布式的基于发布/订阅模式的消息队列(Message Queue),应用于大数据实时处理领域。 (发布/订阅:消息的发布者不会将消息直接发布给特定的订阅者,而是将发布的消息分为不同的类别,订阅者只接收感兴趣的消息。)
一只懒鱼a15 小时前
运维·容器·kafka
搭建kafka集群(安装包 + docker方式)PS : 本地SpringBoot服务连接kafka集群的时候需要把advertised.listeners的内网IP改成公网IP
青春不流名16 小时前
分布式·kafka·ssl
如何在Kafka中使用SSL/TLS证书认证在 Kafka 中配置 SSL/TLS 证书认证(核心是双向认证,客户端验证 broker、broker 验证客户端)需完成证书准备、Broker 配置、客户端配置三大核心步骤,以下是详细实操指南(基于 Kafka 2.8+,JKS 格式证书)。
青春不流名16 小时前
kafka
Kafka 的认证机制Kafka 的认证机制主要围绕客户端与 broker、broker 与 broker、broker 与 Controller、工具类(如 kafka-console-producer)与 broker 之间的身份验证展开,官方及社区主流支持的认证方式可分为六大类,涵盖从简单的用户名密码到强安全的证书认证,以下是详细说明:
hanyi_qwe16 小时前
分布式·zookeeper·kafka
ZooKeeper+Kafka目录一、Zookeeper1.1 Zookeeper 概述1.2 Zookeeper 工作机制1.3 ZooKeeper 特点
BullSmall18 小时前
分布式·安全·kafka
Kafka 安全加固实践指南(可直接落地)Kafka 作为分布式消息队列,核心安全风险集中在 未授权访问、数据传输泄露、权限滥用、元数据泄露 等场景。以下从 网络隔离、认证授权、数据加密、配置加固、日志审计、运维管理 6 大维度,提供可直接执行的加固方案,含配置示例和操作步骤。
Chasing__Dreams20 小时前
数据库·分布式·kafka
kafka--基础知识点--6.4--LSO个人理解,可能有误,仅供参考LSO: LastStableOffset,分区中第一个未完成事务的起始偏移量,或如果没有未完成事务则为HW。
Query*1 天前
分布式·kafka
分布式消息队列kafka【五】—— kafka海量日志收集实战Beats主要用于收集日志,比如Fliebeat底层时使用golang语言实现,我们服务中打印的日志都可以通过Fliebeat抓取出来,直接转储到kafka,然后通过logstash对日志进行过滤。最后logstash将过滤后的数据存储到elasticsearch,通过kibana展示。
lang201509281 天前
分布式·缓存·kafka
Kafka元数据缓存机制深度解析Apache Kafka 中 MetadataCache ,用于在每个 Broker 节点 上缓存集群的元数据(如主题、分区、副本、Leader 信息、存活 Broker 列表等)。理解这个类的关键在于:
qq_343247031 天前
数据库·分布式·kafka
单机版认证kafka1 解压kafka_standAlone_2.13.tartar -zxvf kafka_standAlone_2.13.tar -C ./
pingzhuyan1 天前
spring boot·微服务·kafka
微服务: springboot整合kafka实现消息的简单收发(上)===> 传送门: 分布式必备服务配置上文主要介绍了如何使用docker安装使用kafka,以及遇到问题如何排查
lang201509282 天前
分布式·kafka·linq
Kafka高可用:延迟请求处理揭秘这段代码是 Kafka 处理 Producer 请求(ProduceRequest) 的核心逻辑之一,特别是在 acks = -1(或 all) 的场景下——即 Producer 要求 所有 ISR 副本都成功写入后才返回成功。
lang201509282 天前
分布式·kafka·linq
Kafka副本同步机制核心解析Apache Kafka 中 ReplicaFetcherThread 是 Kafka Follower 副本从 Leader 拉取消息的核心线程类。理解它对掌握 Kafka 的副本同步机制(Replication)至关重要。
要开心吖ZSH2 天前
java·kafka·交互
应用集成平台-系统之间的桥梁-思路分享想象一下:医院里有挂号处、诊室、药房三个地方。传统方式:你要先去挂号处拿号 → 自己找诊室 → 自己找药房(容易迷路)
lang201509282 天前
分布式·kafka·linq
深入解析Kafka核心:Partition类源码揭秘Apache Kafka 源码中 Partition 类是 Kafka 副本管理(Replication)和日志同步机制的核心,负责维护一个分区(TopicPartition)的所有状态,包括:
Query*2 天前
分布式·kafka
分布式消息队列kafka【六】—— kafka整合数据同步神器canal适用场景:比如mysql中按照哈希的算法分库分表的存储了订单数据,未来可能按照某个维度(比如:城市)作查询,此时就需要遍历所有的数据库和表去查询,比较麻烦。此时就可以采用数据同步的方案,比如按照相同城市的数据存储一张表或者一个elasticsearch索引。
Cat God 0072 天前
分布式·kafka·linq
Kafka单机搭建(二)要将 Kafka(KRaft 模式)以 systemd 服务(system 模式) 方式运行,可以创建一个 systemd unit 文件,实现开机自启、日志管理、自动重启等功能。以下是详细步骤:
yumgpkpm2 天前
大数据·人工智能·hadoop·华为·spark·kafka·cloudera
AI大模型手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析AI大模型手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析建议由CDH迁移到CMP 7.13 平台(类Cloudera CDP,如华为鲲鹏 ARM 版)可以做到无缝切换平缓迁移
yumgpkpm2 天前
人工智能·hive·zookeeper·flink·spark·kafka·开源
(简略)AI 大模型 手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析(简略)AI大模型手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析
Cat God 0072 天前
分布式·kafka
Kafka单机搭建(一)Kafka 是一个分布式流处理平台,常用于构建实时数据管道和流式应用。下面是在Linux上搭建单机Apache Kafka 的基本步骤。