Kafka常见参数

参数名 含义 默认值 解释
max.request.size 生产端:最大请求字节大小 1MB 如果生产请求消息体大小大于该值,客户端生产时会报错
max.poll.records 消费端:一次poll()请求最大拉取消息条数 500条 如果单条消息处理时间长,需要减少该参数值,反之增加
fetch.min.bytes 消费端:一次poll()请求最小返回字节大小 1 增加该值可以提高吞吐量,同时也会产生一定延迟
fetch.max.bytes 消费端:一次poll()请求最大返回字节大小 50MB 注意:若在第一个非空分区中拉取的第一条消息大于该值,消息仍会被返回
fetch.max.wait.ms 消费端:返回消息大小不满足fetch.min.bytes时最长等待时间 500ms 与fetch.min.bytes参数共同作用
batch.size linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 16KB 如果期望提高吞吐量,可以增加至 100000--200000;如果期望低生产时延,则建议使用默认值;
linger.ms linear.msbatch.size共同控制消息异步发送频率;当batch大小达到batch.size或满足linger.ms时间间隔时,消息 0 如果希望提高吞吐量,可以增加至 10--100;如果期望低生产时延,则建议使用默认值
message.max.bytes 服务端配置,控制服务端接受可的最大生产批次消息大小 1MB 如果生产请求消息体大小大于该值,服务端会返回错误响应;如果开启了消息压缩,则校验压缩后消息体大小
max.partition.fetch.bytes 消费端:一次poll()请求每个分区最大返回字节大小 1MB
相关推荐
熙客19 分钟前
Elasticsearch:分布式搜索引擎数据库
分布式·elasticsearch·搜索引擎
Hello.Reader2 小时前
Spark RDD 编程从驱动程序到共享变量、Shuffle 与持久化
大数据·分布式·spark
陈果然DeepVersion4 小时前
Java大厂面试真题:Spring Boot+微服务+AI智能客服三轮技术拷问实录(四)
spring boot·redis·微服务·kafka·spring security·智能客服·java面试
小鹿学程序5 小时前
搭建hadoop集群
大数据·hadoop·分布式
web3.08889995 小时前
淘宝(全量)商品详情 API 的分布式请求调用实践
分布式
lijun_xiao20095 小时前
SpringCloud+RabbitMQ+Docker+Redis+搜索+分布式-学习笔记-1
分布式·spring cloud·rabbitmq
二宝1526 小时前
黑马商城day8-ES01
分布式·微服务·架构
shepherd1266 小时前
破局延时任务(下):Spring Boot + DelayQueue 优雅实现分布式延时队列(实战篇)
java·spring boot·分布式
昊衡科技7 小时前
在多阶段松弛实验中使用分布式光纤传感量化局部和非局部岩石变形
分布式·分布式光纤传感·ofdr
陈果然DeepVersion8 小时前
Java大厂面试真题:Spring Boot+Kafka+AI智能客服场景全流程解析(七)
java·人工智能·spring boot·微服务·kafka·面试题·rag