Kafka基础概念

MQ消息中间件

1)总览:

消息中间件


这里我们主要学习的是kafka的基础概念

具体参考黑马头条:https://www.bilibili.com/video/BV1Qs4y1v7x4/?spm_id_from=333.337.search-card.all.click

2)消息中间件对比



3)Kafka介绍



Kafka的安装和配置

安装Kafka之前必须先安装zookeeper

入门:

生产者发送消息

  1. 引入依赖,之后开始编写生成者类ProducerQuickstart
  2. 设置kafka的配置信息
  3. 创建生产者对象
  4. 发送消息
  5. 关闭消息通道

消费者接受消息

**注意:**要制定消费者组 比如这里的group2

  1. 配置kafka的配置信息
  2. 创建消费者对象
  3. 订阅主题
  4. 获取消息

1000ms 等于 每秒去拉取

案例:要求一对一

多个消费者订阅同一个主题,只能有一个消费者收到消息





案例:要求一对多


消费者在不同的组下 并且订阅的是同一个主题即可

分区机制

分区可以理解为存储topic文件的文件夹,发送消息的时候可以给topic制定不同的分区,然topic数据存储在不同的分区下,并且是不同的机器下.

为什么要这样设计?

假如数据量大都存储在一个台服务器上容易崩.这样可以处理更多的数据,不受单台服务器的限制,可以不受限的处理更多的数据


  • 分区策略

  • 偏移量

每一个分区下面都有一个连续自增的数值,去标记消息存储的位置

高可用设计方案

1.集群

kafka集群都是由多个Broker去组成,集群中有一台服务器挂了,其他broker可以对外提供服务的,一个kafka集群是由多个Broker组成

2.备份机制



不同业务选择保证一致性还是可用性

4)生产者-消息发送类型

同步


同步发送消息回存在什么问题?

数据量大的时候消耗时间比较长

异步


5)生产者-参数配置



ack确认者机制

ack配置,消息确认机制


重试机制


消息压缩

默认情况下,消息发送时不会被压缩


6)消费者-消息有序性


消息有序性


如果想要顺序的去处理那么就要在创建topic 的时候只提供一个分区就行.同一个分区下是可以保证顺序的

7)消费者-提交和偏移量

偏移量会记录消息的位置:每一个分区下面都有一个连续自增的数值,去标记消息存储的位置



及时再均衡也可能会出现问题


这都是自动提交偏移量造成的

  • 偏移量提交方式

自动提交,手动提交

同步提交:缺点产生方法的阻塞

异步提交:缺点 没有重试 ,如果同时存在多个异步提交进行重试可能会导致位移的覆盖

同步异步组合提交

如果异步提交产生错误之后我们再用同步的方式去提交偏移量

8)SpringBoot集成kafka收发消息

  • 引入依赖修改配置

重试次数 序列化器

传递消息为对象






相关推荐
小马爱打代码35 分钟前
SpringBoot原生实现分布式MapReduce计算
spring boot·分布式·mapreduce
南客先生1 小时前
互联网大厂Java面试:RocketMQ、RabbitMQ与Kafka的深度解析
java·面试·kafka·rabbitmq·rocketmq·消息中间件
悻运1 小时前
如何配置Spark
大数据·分布式·spark
懒惰的橘猫1 小时前
Spark集群搭建之Yarn模式
大数据·分布式·spark
2401_824256861 小时前
Spark-Streaming
大数据·分布式·spark
知其_所以然3 小时前
如何使用@KafkaListener实现从nacos中动态获取监听的topic
kafka
淋一遍下雨天3 小时前
Spark-Streaming核心编程
大数据·kafka
爱吃泡芙的小白白6 小时前
爬虫学习——使用HTTP服务代理、redis使用、通过Scrapy实现分布式爬取
redis·分布式·爬虫·http代理·学习记录
樟小叶_公众号同名6 小时前
Kafka运维经验
后端·kafka
小名叫咸菜8 小时前
flume整合Kafka和spark-streaming核心编程
kafka·flume