kafka介绍

Apache Kafka 是一个分布式流处理平台,通常用作消息中间件。它提供了消息持久化、高吞吐量、分区和复制等功能。以下是 Kafka 的一些关键特性:

1.发布/订阅架构:Kafka 允许生产者发布消息到主题(topics),消费者订阅这些主题来获取消息。

2.分区:Kafka 将主题进一步分割成多个分区,每个分区都是一个有序的、不可变的消息列表,存储在集群中。

3.偏移量管理:消费者控制他们消费消息的位置(偏移量),可以选择从哪里开始消费。

4.持久性:Kafka 将消息持久化到磁盘,即使集群宕机也不会丢失数据。

5.可扩展性:Kafka 集群可以在需要时增加更多节点,以增加容量和冗余。

6.实时数据流处理:Kafka 可以用来构建实时数据流处理应用。

7.数据集成:Kafka 广泛用于日志聚合和数据流处理,作为不同系统间的集成层。

8.容错性:Kafka 的设计允许集群中的节点失败而不影响整个系统。

Kafka 的主要用途是处理实时数据流和构建实时数据流处理系统,它的设计理念与传统的消息队列不同,更注重于大数据和实时处理。

相关推荐
Advancer-21 小时前
消息发送失败处理与 DLQ 补偿流程
java·spring boot·kafka
Devin~Y21 小时前
互联网大厂Java面试实录:Spring Boot、Kafka、Redis一致性与Spring AI RAG(小Y的翻车现场)
java·spring boot·redis·kafka·mybatis·hibernate·jpa
麦兜和小可的舅舅21 小时前
ClickHouse实时分布式集群设计方案选择探究
c++·分布式·clickhouse·kafka
小马爱打代码21 小时前
Kafka 运维与高并发实战:20个核心命令详解
运维·kafka
小钻风33661 天前
Kafka 零基础实操命令大全
分布式·kafka
OpsEye2 天前
线上Kafka积压后,我是怎么处理的
运维·kafka·监控
r-t-H2 天前
从零开始搭建CDH-第十四章
spark·kafka·centos·cloudera
敲个大西瓜2 天前
kafka为什么分区不能那么多
kafka
Devin~Y2 天前
大厂Java面试实录:Spring Boot/Cloud、Redis+Kafka、JVM调优与RAG/Agent(Spring AI)三轮递进问答
java·jvm·spring boot·redis·spring cloud·kafka·rag
小钻风33663 天前
ZooKeeper + Kafka 集群搭建实战记录
分布式·zookeeper·kafka