kafka 可靠性配置,幂等性,精确性问题(只发一次)问题
2022-08-29 10:03:13 0 举报
AI智能生成
kafka 幂等性问题
作者其他创作
大纲/内容
0:At Most Once 语义 producer不等待broker的ack,这一操作提供了一个最低的延迟,broker一接收到还没有写入磁盘就已经返回,当broker故障时有可能丢失数据
1: producer等待broker的ack,partition的leader落盘成功后返回ack,如果在follower同步成功之前leader故障,那么将会丢失数据
-1 all):At Least Once 语义 有可能重复 producer等待broker的ack,partition的leader和follower全部落盘成功后才返回ack。但是如果在follower同步完成后,broker发送ack之前,leader发生故障,那么会造成数据重复
ack模式
At Least Once + 幂等性 = Exactly Once
但是 PID 重启就会变化,同时不同的 Partition 也具有不同主键,所以幂等性无法保证跨分区跨会话的 Exactly Once
幂等性
建立在ACK为all的基础上,想办法如何去重
ExactlyOnce语义 精准发送一次
kafka幂等性
收藏
0 条评论
回复 删除
下一页