学习kafka

一个存放消息的组件
生产者, 消费者, broker三部分

消息队列的两种模式

*生产者和消费者(消费者主动拉取信息,然后删除)

*发布订阅()

kafka基础架构 *一个topic有多个partition(副本(信息非全量),有分leader和follower)

*消费者组(只消费leader的)(一个分区一个消费者处理)

*zookeeper()

安装

修改broker id

修改ZK地址

修改数据存放路径

生产者原理

流程:数据------缓存------集群

数据量先写道缓存 到达指定批次数量(batch) (默认16K),或等待时间(linger)(默认0秒)就发送

*可以异步发送

*可以异步发送回调

*同步发送

分区 *1有指定的-指定partution

*2有key的-根据key和toipc的partition数取余,

*3啥没有的-粘性分区(随机,批次满了或时间到在随机下一个)

怎么提高吞吐量

*加大批次(batch)(默认16K)

*等待时间(linger)(默认0

*压缩

*修改缓冲区大小(默认32M)

幂等性 :(无论发送多少次,都只保存一条)

去重性(最多一次)配置acks

可靠性(最少一次)

有序性(开启幂等性,或者设置单分区)

架构

消费者

broker
broker

topic

partition分区

可靠性(副本(leader,folloer))

生产者和消费者只对leader操

一个分区只有一个消费者

消费者

zookeeper
broker.ids

leader

辅助选举

生产者API

*send()异步发送

*可以回调可以实现同步

*批量发送设置(batch) (默认16K),或等待时间(linger)默认0

*配置acks

(acks=0或者1)最多一次(去重)

(acks=-1或者retries>0)最少一次(可靠)

消费者API可以自动提交者手动提交(单条或者批量提交)

支持事务y

隔离级别读未提交,读提交

相关推荐
千忧散10 小时前
Unity Socket学习笔记 (三)TCP&UDP
笔记·学习·unity·c#
今天只学一颗糖10 小时前
Linux学习笔记--触摸屏驱动
笔记·学习
半路程序员11 小时前
Go语言学习(四)
开发语言·学习·golang
蒙奇D索大12 小时前
【C语言加油站】C语言文件操作详解:从“流”的概念到文件的打开与关闭
c语言·开发语言·笔记·学习·改行学it
数据库生产实战12 小时前
Oracle LOB使用入门和简单使用,提供学习用的测试用例!
数据库·学习·oracle
爱喝水的鱼丶13 小时前
SAP-ABAP:SAP中的用户确认对话框:深入理解与实践POPUP_TO_CONFIRM
运维·开发语言·学习·sap·abap
lingggggaaaa13 小时前
小迪安全学习笔记(一百零二讲)—— 漏扫项目篇&PoC开发&Yaml语法&插件一键生成&匹配结果&交互提取
笔记·学习·安全·网络安全·交互
里昆13 小时前
【COMSOL】结构力学仿真(压缩弹性体)案例心得
学习
weixin_4454766814 小时前
从“用框架”到“控系统”———架构通用能力(模块边界、分层设计、缓存策略、事务一致性、分布式思维)
分布式·缓存·架构
Mr.wangh14 小时前
Redis作为分布式锁
数据库·redis·分布式