若是你在使用Kafka来分发消息,在数据处理的过程当中可能会出现处理程序出异常或者是其它的错误,会形成数据丢失或不一致。这个时候你也许会想要经过kafka把数据重新处理一遍,咱们知道kafka默认会在磁盘上保存到7天的数据,你只须要把kafka的某个topic的consumer的offset设置为某个值或者是最小值,就能够使该consumer从你设置的那个点开始消费。html
用下面命令能够查询到topic:DynamicRange broker:SparkMaster:9092的offset的最小值:spa
$ /opt/cloudera/parcels/KAFKA/bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list SparkMaster:9092 —topic DynamicRange --time -2
输出code
DynamicRange:0:1288
查询offset的最大值:htm
$ /opt/cloudera/parcels/KAFKA/bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list SparkMaster:9092 —topic DynamicRange --time -1
输出blog
DynamicRange:0:7885
从上面的输出能够看出topic:DynamicRange只有一个partition:0 offset范围为:[1288,7885]get
启动zookeeper clientkafka
$ /opt/cloudera/parcels/CDH/lib/zookeeper/bin/zkCli.sh
经过下面命令设置consumer group:DynamicRangeGroup topic:DynamicRange partition:0的offset为1288:it
set /consumers/DynamicRangeGroup/offsets/DynamicRange/0 1288
注意若是你的kafka设置了zookeeper root,好比为/kafka,那么命令应该改成:io
set /kafka/consumers/DynamicRangeGroup/offsets/DynamicRange/0 1288
重启相关的应用程序,就能够从设置的offset开始读数据了。 ast