Kafka常见参数

参数名 含义 默认值 解释
max.request.size 生产端:最大请求字节大小 1MB 如果生产请求消息体大小大于该值,客户端生产时会报错
max.poll.records 消费端:一次poll()请求最大拉取消息条数 500条 如果单条消息处理时间长,需要减少该参数值,反之增加
fetch.min.bytes 消费端:一次poll()请求最小返回字节大小 1 增加该值可以提高吞吐量,同时也会产生一定延迟
fetch.max.bytes 消费端:一次poll()请求最大返回字节大小 50MB 注意:若在第一个非空分区中拉取的第一条消息大于该值,消息仍会被返回
fetch.max.wait.ms 消费端:返回消息大小不满足fetch.min.bytes时最长等待时间 500ms 与fetch.min.bytes参数共同作用
batch.size linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 16KB 如果期望提高吞吐量,可以增加至 100000--200000;如果期望低生产时延,则建议使用默认值;
linger.ms linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 0 如果希望提高吞吐量,可以增加至 10--100;如果期望低生产时延,则建议使用默认值
message.max.bytes 服务端配置,控制服务端接受可的最大生产批次消息大小 1MB 如果生产请求消息体大小大于该值,服务端会返回错误响应;如果开启了消息压缩,则校验压缩后消息体大小
max.partition.fetch.bytes 消费端:一次poll()请求每个分区最大返回字节大小 1MB
相关推荐
一个尚在学习的计算机小白2 分钟前
RabbitMQ
分布式·rabbitmq
奥尔特星云大使27 分钟前
MySQL分布式架构:MyCat详解
数据库·分布式·mysql·mycat·高可用
安当加密4 小时前
智能合约在分布式密钥管理系统中的应用
分布式·智能合约
失散134 小时前
分布式专题——41 RocketMQ集群高级特性
java·分布式·架构·rocketmq
失散134 小时前
分布式专题——42 MQ常见问题梳理
java·分布式·架构
安当加密4 小时前
基于区块链的分布式密钥管理系统:构建去中心化、高可信的密码基础设施
分布式·去中心化·区块链
亿牛云爬虫专家4 小时前
优化分布式采集的数据同步:一致性、去重与冲突解决的那些坑与招
分布式·爬虫·数据采集·爬虫代理·代理ip·数据同步·房地产
心随雨下7 小时前
Redis中Geospatial 实际应用指南
数据库·redis·分布式·缓存
想你依然心痛9 小时前
Spark大数据分析与实战笔记(第六章 Kafka分布式发布订阅消息系统-01)
笔记·分布式·spark
故事很腻i9 小时前
安装kafka-2.5.1
分布式·kafka