kafka 只对“已提交”的消息做有限度的持久化保证。
避免消息丢失
生产者
- 不要使用
producer.send(msg)，而要使用producer.send(msg, callback)。一定要使用带有回调通知的 send 方法。 - 设置
acks = all。acks是 Producer 的一个参数，代表了你对“已提交”消息的定义。如果设置成 all，则表明所有副本 Broker 都要接收到消息，该消息才算是“已提交”。这是最高等级的“已提交”定义。 - 设置
retries为一个较大的值。当出现网络的瞬时抖动时，消息发送可能会失败，此时配置了retries > 0的 Producer 能够自动重试消息发送，避免消息丢失。
broker
- 设置
unclean.leader.election.enable = false。如果一个 Broker 落后原先的 Leader 太多，那么它一旦成为新的 Leader，必然会造成消息的丢失。故一般设置成 false。 - 设置
replication.factor >= 3。防止消息丢失的主要机制就是冗余，最好将消息多保存几份。 - 设置
min.insync.replicas > 1。消息至少要被写入到多少个副本才算是“已提交”。设置成大于 1 可以提升消息持久性。在实际环境中千万不要使用默认值 1。 - 确保
replication.factor > min.insync.replicas。如果两者相等，那么只要有一个副本挂机，整个分区就无法正常工作了。推荐设置成replication.factor = min.insync.replicas + 1。
消费者
- 确保消息消费完成再提交。Consumer 端有个参数
enable.auto.commit，最好把它设置成false，并采用手动提交位移的方式。对于单 Consumer 多线程处理的场景而言是至关重要的
