Kafka 无消息丢失最佳实战

  1. 不要使用 producer.send(msg),而要使用 producer.send(msg, callback)。记住,一
    定要使用带有回调通知的 send 方法。
  2. 设置 acks = all。acks 是 Producer 的一个参数,代表了你对"已提交"消息的定义。
    如果设置成 all,则表明所有副本 Broker 都要接收到消息,该消息才算是"已提交"。
    这是最高等级的"已提交"定义。
  3. 设置 retries 为一个较大的值。这里的 retries 同样是 Producer 的参数,对应前面提到
    的 Producer 自动重试。当出现网络的瞬时抖动时,消息发送可能会失败,此时配置了 retries > 0 的 Producer 能够自动重试消息发送,避免消息丢失。
  4. 设置 unclean.leader.election.enable = false。这是 Broker 端的参数,它控制的是哪
    些 Broker 有资格竞选分区的 Leader。如果一个 Broker 落后原先的 Leader 太多,那么
    它一旦成为新的 Leader,必然会造成消息的丢失。故一般都要将该参数设置成 false,
    即不允许这种情况的发生。
  5. 设置 replication.factor >= 3。这也是 Broker 端的参数。其实这里想表述的是,最好将
    消息多保存几份,毕竟目前防止消息丢失的主要机制就是冗余。
  6. 设置 min.insync.replicas > 1。这依然是 Broker 端参数,控制的是消息至少要被写入
    到多少个副本才算是"已提交"。设置成大于 1 可以提升消息持久性。在实际环境中千
    万不要使用默认值 1。
  7. 确保 replication.factor > min.insync.replicas。如果两者相等,那么只要有一个副本挂
    机,整个分区就无法正常工作了。我们不仅要改善消息的持久性,防止数据丢失,还要
    在不降低可用性的基础上完成。推荐设置成 replication.factor = min.insync.replicas +
    1。
  8. 确保消息消费完成再提交。Consumer 端有个参数 enable.auto.commit,最好把它设
    置成 false,并采用手动提交位移的方式。就像前面说的,这对于单 Consumer 多线程
    处理的场景而言是至关重要的。

系列阅读

  1. 设计模式与技术组件
  2. 电商系统的分布式事务调优
  3. 如何设计安全的开放接口
相关推荐
liulilittle1 小时前
C++ TAP(基于任务的异步编程模式)
服务器·开发语言·网络·c++·分布式·任务·tap
码字的字节1 小时前
ZooKeeper在Hadoop中的协同应用:从NameNode选主到分布式锁实现
hadoop·分布式·zookeeper·分布式锁
武子康3 小时前
Java-80 深入浅出 RPC Dubbo 动态服务降级:从雪崩防护到配置中心秒级生效
java·分布式·后端·spring·微服务·rpc·dubbo
itLaity8 小时前
基于Kafka实现简单的延时队列
spring boot·分布式·kafka
qq_529835358 小时前
Zookeeper的简单了解
分布式·zookeeper·云原生
smileNicky9 小时前
RabbitMQ有多少种Exchange?
分布式·rabbitmq
你我约定有三9 小时前
RabbitMQ--消息丢失问题及解决
java·开发语言·分布式·后端·rabbitmq·ruby
Java初学者小白10 小时前
秋招Day19 - 分布式 - 分布式事务
java·分布式
程序员小羊!11 小时前
Zookeeper 3.6.3【详细技术讲解】整
分布式·zookeeper·云原生
是2的10次方啊13 小时前
微信公众号阅读量为什么会不一致?一文读懂分布式系统的那些事儿
分布式