Flink Task重启之后重复消费Kafka消息问题解决

我的项目是从Kafka消费消息,计算之后发送到elasticsearch存储。 现象:每次重启Flink Task,都会往elasticsearch发送已经计算过的数据。比如本来elasticsearch有3条记录,在不往Kafka生产新消息的情况下,重新启动Flink Task之后有6条,再重启是9条,说明数据重复。 初步怀疑是因为重复消费Kafka的消息,可能是offset没有提交。于是在Fl
相关文章
相关标签/搜索