Kafka常见参数

参数名 含义 默认值 解释
max.request.size 生产端:最大请求字节大小 1MB 如果生产请求消息体大小大于该值,客户端生产时会报错
max.poll.records 消费端:一次poll()请求最大拉取消息条数 500条 如果单条消息处理时间长,需要减少该参数值,反之增加
fetch.min.bytes 消费端:一次poll()请求最小返回字节大小 1 增加该值可以提高吞吐量,同时也会产生一定延迟
fetch.max.bytes 消费端:一次poll()请求最大返回字节大小 50MB 注意:若在第一个非空分区中拉取的第一条消息大于该值,消息仍会被返回
fetch.max.wait.ms 消费端:返回消息大小不满足fetch.min.bytes时最长等待时间 500ms 与fetch.min.bytes参数共同作用
batch.size linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 16KB 如果期望提高吞吐量,可以增加至 100000--200000;如果期望低生产时延,则建议使用默认值;
linger.ms linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 0 如果希望提高吞吐量,可以增加至 10--100;如果期望低生产时延,则建议使用默认值
message.max.bytes 服务端配置,控制服务端接受可的最大生产批次消息大小 1MB 如果生产请求消息体大小大于该值,服务端会返回错误响应;如果开启了消息压缩,则校验压缩后消息体大小
max.partition.fetch.bytes 消费端:一次poll()请求每个分区最大返回字节大小 1MB
相关推荐
小北方城市网5 小时前
分布式锁实战指南:从选型到落地,避开 90% 的坑
java·数据库·redis·分布式·python·缓存
范桂飓7 小时前
大模型分布式训练框架 Megatron-LM
人工智能·分布式
oMcLin10 小时前
如何在Debian 11上通过配置MySQL 8.0的分布式架构,提升跨区域数据同步的效率与延迟?
分布式·mysql·debian
一条咸鱼_SaltyFish11 小时前
[Day15] 若依框架二次开发改造记录:定制化之旅 contract-security-ruoyi
java·大数据·经验分享·分布式·微服务·架构·ai编程
IT 行者13 小时前
Spring Security 7 OAuth2 授权码分布式存储之Redis存储方案
redis·分布式·spring
潇凝子潇13 小时前
kafka之监控告警
分布式·kafka
Light6014 小时前
从“报告”到“能力”——构建智能化、可审计的数据治理闭环——领码 SPARK 数据质量平台白皮书
大数据·分布式·spark
maozexijr14 小时前
RabbitMQ Exchange Headers类型存在的意义?
分布式·rabbitmq
还在忙碌的吴小二14 小时前
XXL-SSO 分布式单点登录框架
分布式
独自破碎E14 小时前
RabbitMQ的消息确认机制是怎么工作的?
分布式·rabbitmq