Kafka常见参数

参数名 含义 默认值 解释
max.request.size 生产端:最大请求字节大小 1MB 如果生产请求消息体大小大于该值,客户端生产时会报错
max.poll.records 消费端:一次poll()请求最大拉取消息条数 500条 如果单条消息处理时间长,需要减少该参数值,反之增加
fetch.min.bytes 消费端:一次poll()请求最小返回字节大小 1 增加该值可以提高吞吐量,同时也会产生一定延迟
fetch.max.bytes 消费端:一次poll()请求最大返回字节大小 50MB 注意:若在第一个非空分区中拉取的第一条消息大于该值,消息仍会被返回
fetch.max.wait.ms 消费端:返回消息大小不满足fetch.min.bytes时最长等待时间 500ms 与fetch.min.bytes参数共同作用
batch.size linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 16KB 如果期望提高吞吐量,可以增加至 100000--200000;如果期望低生产时延,则建议使用默认值;
linger.ms linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 0 如果希望提高吞吐量,可以增加至 10--100;如果期望低生产时延,则建议使用默认值
message.max.bytes 服务端配置,控制服务端接受可的最大生产批次消息大小 1MB 如果生产请求消息体大小大于该值,服务端会返回错误响应;如果开启了消息压缩,则校验压缩后消息体大小
max.partition.fetch.bytes 消费端:一次poll()请求每个分区最大返回字节大小 1MB
相关推荐
回家路上绕了弯2 小时前
大表优化实战指南:从千万到亿级数据的性能蜕变
分布式·后端
杀死那个蝈坦3 小时前
MyBatis-Plus 使用指南
java·kafka·tomcat·mybatis—plus
CrazyClaz3 小时前
分布式事务专题5
分布式·分布式事务
灯下夜无眠4 小时前
spark集群文件分发问题
大数据·分布式·spark
少许极端5 小时前
Redis入门指南:从零到分布式缓存-string类型
redis·分布式·缓存
Macbethad6 小时前
WPF工业设备诊断管理程序技术方案
大数据·hadoop·分布式
Thomas21437 小时前
pyspark3.5给paimon1.2的表打tag报错 spark_catalog is not a ProcedureCatalog
大数据·分布式·spark
稚辉君.MCA_P8_Java7 小时前
Gemini永久会员 Hadoop分布式计算框架MapReduce
大数据·hadoop·分布式·架构·mapreduce
CrazyClaz7 小时前
分布式事务专题4
分布式·分布式事务
程序员小胖8 小时前
每天一道面试题之架构篇|异步确保型事务——消息队列驱动的分布式事务解决方案
分布式·面试