《深入理解kafka-核心设计与实践原理》

本文是对于**《深入理解kafka-核心设计与实践原理》**的笔记和提纲整理

主要用于复习和知识点快速复习

第一章:概念

链接:《深入理解kafka-核心设计与实践原理》第一章:概念

第一章:概念

  • 1.1\] 基本概念 * \[1.1.1\] 基本角色与概念 * \[1.1.2\] 其他概念(AR、ISR、OSR、HW、LEO)

第二章:生产者

链接:《深入理解kafka-核心设计与实践原理》第二章:生产者

第二章:生产者

  • 2.1\] api使用 * \[2.1.1\] 生产者:KafkaProducer * \[2.1.2\] 消息体:ProducerRecord * \[2.1.3\] 序列化器:Serializer * \[2.1.4\] 分区器:Partitioner * \[2.1.5\] 拦截器:Interceptor

    • 2.2.1\] 整体架构

  • 2.3\] 重要的生产者参数 * \[2.3.1\] acks * \[2.3.2\] max.request.size * \[2.3.3\] retries和retry.backoff.ms * \[2.3.4\] 其他参数

第三章:消费者

链接:《深入理解kafka-核心设计与实践原理》第三章:消费者

第三章:消费者

  • 3.1\] 消费者与消费组 * \[3.1.1\] 消费者(Consumer) * \[3.1.2\] 消费组(Consumer Group) * \[3.1.3\] 消息投递模式

    • 3.2.1\] 必要的配置参数

    • 3.2.3\] 反序列化

    • 3.2.5\] 位移提交 * \[3.2.5.1\] offset * \[3.2.5.2\] 消费后的提交方式:自动提交/手动提交

    • 3.2.7\] 指定位移消费

    • 3.2.9\] 消费者拦截器

  • 3.3\] 重要的消费者参数

第四章:主题和分区

链接:《深入理解kafka-核心设计与实践原理》第四章:主题和分区

第四章:主题和分区

  • 4.1\] 主题管理 * \[4.1.1\] 创建主题

  • 4.3\] 分区管理 * \[4.3.1\] 优先副本的选举 * \[4.3.2\] 分区重分配(Partition Reassignment) * \[4.3.3\] 复制限流 * \[4.3.4\] 修改副本因子

补充:一些实际问题的理解

链接:《深入理解kafka》对于实际问题的理解

Q1:消息可靠性(不重不漏)

  • 1.1 如何保证消息不丢
  • 1.2 如何保证消息不重

Q2:积压/消费能力

  • 2.1 线上积压排查思路
  • 2.2 增加消费能力
相关推荐
Wang's Blog12 分钟前
Kafka: HTTPS证书申请集成指南
分布式·https·kafka
Wang's Blog3 小时前
Kafka: 消费者高级实践之分区控制、多线程处理与 Offset 管理
分布式·kafka
Lisonseekpan6 小时前
Kafka、ActiveMQ、RabbitMQ、RocketMQ对比
java·后端·kafka·rabbitmq·rocketmq·activemq
Wang's Blog7 小时前
Kafka: 分布式配置动态更新之微服务总线实现
分布式·微服务·kafka
我认不到你7 小时前
动态线程池+kafka自定义拒绝策略,做到任务不丢失
java·spring boot·spring cloud·kafka
yumgpkpm7 小时前
Hadoop如何用Flink支持实时数据分析需求
大数据·hadoop·分布式·hdfs·flink·kafka·cloudera
川211 天前
Kafka消息中间件(超大数据吞吐量)使用
分布式·kafka
Wang's Blog1 天前
Kafka: 基于 NestJS 的问卷系统配置与业务实现
分布式·kafka
太阳伞下的阿呆2 天前
kafka高吞吐持久化方案(2)
分布式·kafka·高并发·重入锁
Chasing__Dreams2 天前
kafka--基础知识点--19--消息重复
分布式·kafka