技术栈
kafka
原神启动1
11 小时前
分布式
·
kafka
Kafka详解
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档1.1 Kafka定义 Kafka(传统)分布式的基于发布/订阅模式的消息队列(Message Queue),应用于大数据实时处理领域。 (发布/订阅:消息的发布者不会将消息直接发布给特定的订阅者,而是将发布的消息分为不同的类别,订阅者只接收感兴趣的消息。)
一只懒鱼a
15 小时前
运维
·
容器
·
kafka
搭建kafka集群(安装包 + docker方式)
PS : 本地SpringBoot服务连接kafka集群的时候需要把advertised.listeners的内网IP改成公网IP
青春不流名
16 小时前
分布式
·
kafka
·
ssl
如何在Kafka中使用SSL/TLS证书认证
在 Kafka 中配置 SSL/TLS 证书认证(核心是双向认证,客户端验证 broker、broker 验证客户端)需完成证书准备、Broker 配置、客户端配置三大核心步骤,以下是详细实操指南(基于 Kafka 2.8+,JKS 格式证书)。
青春不流名
16 小时前
kafka
Kafka 的认证机制
Kafka 的认证机制主要围绕客户端与 broker、broker 与 broker、broker 与 Controller、工具类(如 kafka-console-producer)与 broker 之间的身份验证展开,官方及社区主流支持的认证方式可分为六大类,涵盖从简单的用户名密码到强安全的证书认证,以下是详细说明:
hanyi_qwe
16 小时前
分布式
·
zookeeper
·
kafka
ZooKeeper+Kafka
目录一、Zookeeper1.1 Zookeeper 概述1.2 Zookeeper 工作机制1.3 ZooKeeper 特点
BullSmall
18 小时前
分布式
·
安全
·
kafka
Kafka 安全加固实践指南(可直接落地)
Kafka 作为分布式消息队列,核心安全风险集中在 未授权访问、数据传输泄露、权限滥用、元数据泄露 等场景。以下从 网络隔离、认证授权、数据加密、配置加固、日志审计、运维管理 6 大维度,提供可直接执行的加固方案,含配置示例和操作步骤。
Chasing__Dreams
20 小时前
数据库
·
分布式
·
kafka
kafka--基础知识点--6.4--LSO
个人理解,可能有误,仅供参考LSO: LastStableOffset,分区中第一个未完成事务的起始偏移量,或如果没有未完成事务则为HW。
Query*
1 天前
分布式
·
kafka
分布式消息队列kafka【五】—— kafka海量日志收集实战
Beats主要用于收集日志,比如Fliebeat底层时使用golang语言实现,我们服务中打印的日志都可以通过Fliebeat抓取出来,直接转储到kafka,然后通过logstash对日志进行过滤。最后logstash将过滤后的数据存储到elasticsearch,通过kibana展示。
lang20150928
1 天前
分布式
·
缓存
·
kafka
Kafka元数据缓存机制深度解析
Apache Kafka 中 MetadataCache ,用于在每个 Broker 节点 上缓存集群的元数据(如主题、分区、副本、Leader 信息、存活 Broker 列表等)。理解这个类的关键在于:
qq_34324703
1 天前
数据库
·
分布式
·
kafka
单机版认证kafka
1 解压kafka_standAlone_2.13.tartar -zxvf kafka_standAlone_2.13.tar -C ./
pingzhuyan
1 天前
spring boot
·
微服务
·
kafka
微服务: springboot整合kafka实现消息的简单收发(上)
===> 传送门: 分布式必备服务配置上文主要介绍了如何使用docker安装使用kafka,以及遇到问题如何排查
lang20150928
2 天前
分布式
·
kafka
·
linq
Kafka高可用:延迟请求处理揭秘
这段代码是 Kafka 处理 Producer 请求(ProduceRequest) 的核心逻辑之一,特别是在 acks = -1(或 all) 的场景下——即 Producer 要求 所有 ISR 副本都成功写入后才返回成功。
lang20150928
2 天前
分布式
·
kafka
·
linq
Kafka副本同步机制核心解析
Apache Kafka 中 ReplicaFetcherThread 是 Kafka Follower 副本从 Leader 拉取消息的核心线程类。理解它对掌握 Kafka 的副本同步机制(Replication)至关重要。
要开心吖ZSH
2 天前
java
·
kafka
·
交互
应用集成平台-系统之间的桥梁-思路分享
想象一下:医院里有挂号处、诊室、药房三个地方。传统方式:你要先去挂号处拿号 → 自己找诊室 → 自己找药房(容易迷路)
lang20150928
2 天前
分布式
·
kafka
·
linq
深入解析Kafka核心:Partition类源码揭秘
Apache Kafka 源码中 Partition 类是 Kafka 副本管理(Replication)和日志同步机制的核心,负责维护一个分区(TopicPartition)的所有状态,包括:
Query*
2 天前
分布式
·
kafka
分布式消息队列kafka【六】—— kafka整合数据同步神器canal
适用场景:比如mysql中按照哈希的算法分库分表的存储了订单数据,未来可能按照某个维度(比如:城市)作查询,此时就需要遍历所有的数据库和表去查询,比较麻烦。此时就可以采用数据同步的方案,比如按照相同城市的数据存储一张表或者一个elasticsearch索引。
Cat God 007
2 天前
分布式
·
kafka
·
linq
Kafka单机搭建(二)
要将 Kafka(KRaft 模式)以 systemd 服务(system 模式) 方式运行,可以创建一个 systemd unit 文件,实现开机自启、日志管理、自动重启等功能。以下是详细步骤:
yumgpkpm
2 天前
大数据
·
人工智能
·
hadoop
·
华为
·
spark
·
kafka
·
cloudera
AI大模型手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析
AI大模型手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析建议由CDH迁移到CMP 7.13 平台(类Cloudera CDP,如华为鲲鹏 ARM 版)可以做到无缝切换平缓迁移
yumgpkpm
2 天前
人工智能
·
hive
·
zookeeper
·
flink
·
spark
·
kafka
·
开源
(简略)AI 大模型 手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析
(简略)AI大模型手机的“简单替换陷阱”与Hadoop、Cloudera CDP 7大数据底座的关系探析
Cat God 007
2 天前
分布式
·
kafka
Kafka单机搭建(一)
Kafka 是一个分布式流处理平台,常用于构建实时数据管道和流式应用。下面是在Linux上搭建单机Apache Kafka 的基本步骤。