kafka-事务

1. 事务的5个API

java 复制代码
// 1初始化事务
void initTransactions();

// 2开启事务
void beginTransaction() throws ProducerFencedException;

// 3在事务内提交已经消费的偏移量(主要用于消费者)
void sendOffsetsToTransaction(Map<TopicPartition, OffsetAndMetadata> offsets,
                              String consumerGroupId) throws ProducerFencedException;

// 4提交事务
void commitTransaction() throws ProducerFencedException;

// 5放弃事务(类似于回滚事务的操作)
void abortTransaction() throws ProducerFencedException;

2. 幂等性和事务性的关系

事务属性实现前提是幂等性,即在配置事务属性transaction id时,必须还得配置幂等性;但是幂等性是可以独立使用的,不需要依赖事务属性。

  1. 幂等性引入了Porducer ID
  2. 事务属性引入了Transaction Id属性。

使用场景

  1. enable.idempotence = true,transactional.id不设置:只支持幂等性。
  2. enable.idempotence = true,transactional.id设置:支持事务属性和幂等性
  3. enable.idempotence = false,transactional.id不设置:没有事务属性和幂等性的kafka
  4. enable.idempotence = false,transactional.id设置:无法获取到PID,此时会报错

3. 参考

kafka幂等生产者及事务_51CTO博客_kafka事务

相关推荐
苏格拉没有底_coder4 小时前
Redis+Kafka实现动态延时任务
数据库·redis·kafka
春马与夏9 小时前
Flink读取Kafka写入Paimon
大数据·flink·kafka
steven~~~9 小时前
服务器-客户端下kafka的消息处理流程
运维·服务器·kafka
guygg8811 小时前
Docker环境安装Kafka、Flink、ClickHouse镜像
docker·flink·kafka
Spring-wind1 天前
【kafka】rebalance机制详解
分布式·kafka
TCChzp1 天前
Kafka入门-监控与可视化
分布式·kafka
计算机毕设定制辅导-无忧学长1 天前
微服务架构中的 Kafka:异步通信与服务解耦(二)
微服务·架构·kafka
计算机毕设定制辅导-无忧学长1 天前
Kafka 消息模式实战:从简单队列到流处理(一)
分布式·kafka
vivo互联网技术1 天前
vivo Pulsar 万亿级消息处理实践(2)-从0到1建设 Pulsar 指标监控链路
大数据·kafka·消息队列·pulsar