kafka消费者会出现的一些问题和解决办法

1.消费者位移提交失败导致数据一直重复消费   原因:kafka的consumer消费数据时首先会从broker里读取一批消息数据进行处理,处理完成后再提交offset。而我们项目中的consumer消费能力比较低,导致取出的一批数据在session.timeout.ms时间内没有处理完成,自动提交offset失败,然后kafka会重新分配partition给消费者,消费者又重新消费之前的一批数据
相关文章
相关标签/搜索