美团二面:KAFKA能保证顺序读顺序写吗?

文章内容收录到个人网站,方便阅读hardyfish.top/

Kafka 只能保证分区内的顺序写、顺序读,跨分区不保证全局顺序。

写入顺序(Producer → Broker)

一个 Partition 内,日志是顺序追加,消息写入顺序 = Offset 顺序。

想要应用侧严格不乱序(尤其发生重试时),建议:

  • 同一键路由到同一分区 :给 key,让相同 key 的数据被同一分区顺序写。
  • 开启幂等enable.idempotence=true(Kafka ≥0.11),避免重试导致乱序/重复。

版本较老或要求最稳妥:

  • max.in.flight.requests.per.connection=1(牺牲吞吐换绝对有序重试)。
  • acks=all + 合理 min.insync.replicas,保证复制一致性下的顺序可见。

多个生产者同时写同一分区 时,以到达 Broker 的顺序为准,应用层不要指望跨 Producer 的原始发送顺序。

消费顺序(Broker → Consumer)

同一分区 在同一消费组内只分配给一个消费者实例 ,按 Offset 递增拉取与提交 → 读取顺序与写入顺序一致

会被你自己搞乱的场景:

  • 同一分区内并发处理 (多线程池乱序完成)→ 若需要强顺序,单线程处理该分区或做排队/按序确认。
  • 先提交后处理 或批量乱序确认 → 坚持处理完成再提交(或用事务性消费-生产)。

跨分区要全局顺序怎么办?

尽量单分区(牺牲并行度换全局顺序)。

或者同一业务 Key 单分区,只要求同 Key 有序。

真要全局序:在消息里带全局序号/时间戳,消费端按序归并,或引入外部顺序服务/单点序列化关口(吞吐会下降)。

快速配置(有序优先)

properties 复制代码
# producer
enable.idempotence=true
acks=all
# 老版本或极致有序
# max.in.flight.requests.per.connection=1

# 发送到同一分区(示例)
partitioner.class=org.apache.kafka.clients.producer.internals.DefaultPartitioner
# 确保 key 一致
producer.send(new ProducerRecord<>(topic, key, value));
相关推荐
侠客行03176 小时前
Mybatis连接池实现及池化模式
java·mybatis·源码阅读
蛇皮划水怪6 小时前
深入浅出LangChain4J
java·langchain·llm
Victor3566 小时前
https://editor.csdn.net/md/?articleId=139321571&spm=1011.2415.3001.9698
后端
Victor3566 小时前
Hibernate(89)如何在压力测试中使用Hibernate?
后端
灰子学技术8 小时前
go response.Body.close()导致连接异常处理
开发语言·后端·golang
老毛肚8 小时前
MyBatis体系结构与工作原理 上篇
java·mybatis
风流倜傥唐伯虎8 小时前
Spring Boot Jar包生产级启停脚本
java·运维·spring boot
Yvonne爱编码9 小时前
JAVA数据结构 DAY6-栈和队列
java·开发语言·数据结构·python
Re.不晚9 小时前
JAVA进阶之路——无奖问答挑战1
java·开发语言
你这个代码我看不懂9 小时前
@ConditionalOnProperty不直接使用松绑定规则
java·开发语言