Kafka常见参数

参数名 含义 默认值 解释
max.request.size 生产端:最大请求字节大小 1MB 如果生产请求消息体大小大于该值,客户端生产时会报错
max.poll.records 消费端:一次poll()请求最大拉取消息条数 500条 如果单条消息处理时间长,需要减少该参数值,反之增加
fetch.min.bytes 消费端:一次poll()请求最小返回字节大小 1 增加该值可以提高吞吐量,同时也会产生一定延迟
fetch.max.bytes 消费端:一次poll()请求最大返回字节大小 50MB 注意:若在第一个非空分区中拉取的第一条消息大于该值,消息仍会被返回
fetch.max.wait.ms 消费端:返回消息大小不满足fetch.min.bytes时最长等待时间 500ms 与fetch.min.bytes参数共同作用
batch.size linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 16KB 如果期望提高吞吐量,可以增加至 100000--200000;如果期望低生产时延,则建议使用默认值;
linger.ms linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 0 如果希望提高吞吐量,可以增加至 10--100;如果期望低生产时延,则建议使用默认值
message.max.bytes 服务端配置,控制服务端接受可的最大生产批次消息大小 1MB 如果生产请求消息体大小大于该值,服务端会返回错误响应;如果开启了消息压缩,则校验压缩后消息体大小
max.partition.fetch.bytes 消费端:一次poll()请求每个分区最大返回字节大小 1MB
相关推荐
小白学大数据1 小时前
Scrapy 分布式爬虫:大规模采集汽车之家电车评论
开发语言·分布式·爬虫·scrapy
仗剑_走天涯2 小时前
hadoop reduce阶段 对象重用问题
大数据·hadoop·分布式
电磁脑机3 小时前
无总线场同步:意识本质、AGI困境与脑机革命的核心理论重构
分布式·神经网络·架构·信号处理·agi
半桶水专家3 小时前
kafka数据删除策略详解
分布式·kafka
一个有温度的技术博主3 小时前
Lua语法进阶:函数封装与条件控制的艺术
redis·分布式·缓存·lua
无心水3 小时前
2、5分钟上手|PyPDF2 快速提取PDF文本
java·linux·分布式·后端·python·架构·pdf
Jackyzhe3 小时前
从零学习Kafka:位移与高水位
分布式·学习·kafka
roman_日积跬步-终至千里3 小时前
【系统架构师-案例题-分布式数据缓存架构】22年下(3)分布式仓储货物管理系统
分布式·缓存·系统架构
鬼先生_sir4 小时前
SpringCloud-Stream + RocketMQ/Kafka
spring cloud·kafka·rocketmq·stream
indexsunny4 小时前
互联网大厂Java面试实战:从Spring Boot到微服务架构的技术问答
java·spring boot·redis·微服务·面试·kafka·spring security