【大数据学习 | kafka高级部分】kafka的优化参数整理

1. 优化参数

参数 解释
buffer.memory RecordAccumulator 缓冲区总大小,默认 32m
batch.size 默认 16k,sender线程拉取数据大小
linger.ms sender线程拉取数据等待时长
acks 确认应答 0 1 -1
max.in.flight.requests.per.connection 没有ack返回时候可以发送几次数据
retries producer失败重试次数
enable.idempotence 启幂等性,默认 true
compression.type 生产者发送的所有数据的压缩方式
auto.leader.rebalance.enable leader是否自动切换
leader.imbalance.per.broker.percentage leader均衡比10%
leader.imbalance.check.interval.seconds leader均衡检测时间五分钟
log.segment.bytes segment大小
log.index.interval.bytes 每4k生成一个索引数据,写入一次文件
log.cleanup.policy 日志删除方式
log.retention.hours 数据保存时长
enable.auto.commit 自动提交
auto.commit.interval.ms 提交间隔
auto.offset.reset 初始化消费位置
offsets.topic.num.partitions __consumer_offsets分区数量
session.timeout.ms 消费者断开超时时间
max.poll.records 消费者拉取条数
fetch.max.bytes 消费者拉取大小
partition.assignment.strategy 消费者分区分配策略

2. 数据吞吐量和数据重复问题

数据在消费的时候可能会遇见数据堆积,无法及时消费计算的问题

这个时候可以适当的调节broker的数量和partition的数量,让多个机器帮助进行处理可提高吞吐量,并且分区越多消费者就可以适当增多,让消费速度得到很大的提升

适当增加每次拉取的大小也会增加消费速度。

java 复制代码
max.poll.records  消费者拉取条数 
fetch.max.bytes  消费者拉取大小

kafka数据稳定性保证。

首先从producer出发

ack = 0 or ack = 1 会出现数据丢失问题

ack = -1 会出现数据重复问题

开始幂等性可以进行单分区去重

保证一批次数据稳定性可以开启事物

消费者部分如果是自动提交偏移量会出现重复消费问题,手动保存偏移量就不会出现这个问题

相关推荐
wuyk55511 小时前
Spider-第16讲-线程池与竞态问题
大数据·爬虫·python·elasticsearch·搜索引擎
Decay__14 小时前
SQLServer 运维自动化平台 —— PowerShell + SQL Agent 作业:部署、监控、巡检、告警、工单闭环一体化
运维·数据库·sql·mysql·架构
星恒随风14 小时前
MySQL 从零入门(十):MVCC、Undo Log 与 Read View 详解——InnoDB 如何实现事务隔离?
linux·数据库·笔记·sql·mysql
数字新视界15 小时前
全国产化动环监控平台在机房智能化管理中的应用探索
大数据·人工智能·数据中心·机房管理·模块化机房
goehou15 小时前
Kafka 的默认配置适合演示,不适合生产
kafka·消息队列·幂等·ai agent
TDengine (老段)16 小时前
TDengine IDMP 预测、异常检测与数据插补
大数据·数据库·人工智能·时序数据库·tdengine·涛思数据·idmp
aiotto资源分享18 小时前
Python 写 JSON 文件,程序中途退出会留下什么?
java·python·json·jsondecodeerror
OxYGC18 小时前
[Web3] 智能合约 13: 项目实战⑤ DappLink Oracle
oracle·web3·智能合约
字节跳动数据平台19 小时前
火山引擎 VeKnow 落地指南(上):从选场景到知识治理
大数据
Decay__20 小时前
附 - 02・SQLServer 分库分表与中间件 —— 原生分区表、横向分库实践与联邦查询
运维·数据库·sql·mysql·架构