1、RabbitMQapi
1）生产者弄丢了数据网络
生产者将数据发送到rabbitmq的时候，可能由于网络问题致使数据就在半路给搞丢了。异步
1.能够选择用rabbitmq提供的事务功能，在生产者发送数据以前开启rabbitmq事务（channel.txSelect），而后发送消息，若是消息没有成功被rabbitmq接收到，那么生产者会收到异常报错，此时就能够回滚事务（channel.txRollback），而后重试发送消息；若是收到了消息，那么能够提交事务（channel.txCommit）。可是问题是，开始rabbitmq事务机制，基本上吞吐量会下来，由于太耗性能。post
2.（推荐）能够开启confirm模式，在生产者那里设置开启confirm模式以后，你每次写的消息都会分配一个惟一的id，而后若是写入了rabbitmq中，rabbitmq会给你回传一个ack消息，告诉你说这个消息ok了。若是rabbitmq没能处理这个消息，会回调你一个nack接口，告诉你这个消息接收失败，你能够重试。并且你能够结合这个机制本身在内存里维护每一个消息id的状态，若是超过必定时间还没接收到这个消息的回调，那么你能够重发。性能
事务机制和cnofirm机制最大的不一样在于，事务机制是同步的，你提交一个事务以后会阻塞在那儿，可是confirm机制是异步的，你发送个消息以后就能够发送下一个消息，而后那个消息rabbitmq接收了以后会异步回调你一个接口通知你这个消息接收到了。blog
因此通常在生产者这块避免数据丢失，都是用confirm机制的。接口
2）rabbitmq弄丢了数据rabbitmq
为了防止rabbitmq本身弄丢了数据，这个你必须开启rabbitmq的持久化，就是消息写入以后会持久化到磁盘，哪怕是rabbitmq本身挂了，恢复以后会自动读取以前存储的数据，通常数据不会丢。除非极其罕见的是，rabbitmq还没持久化，本身就挂了，可能致使少许数据会丢失的，可是这个几率较小。进程
设置持久化有两个步骤，第一个是建立queue的时候将其设置为持久化的，这样就能够保证rabbitmq持久化queue的元数据，可是不会持久化queue里的数据；第二个是发送消息的时候将消息的deliveryMode设置为2，就是将消息设置为持久化的，此时rabbitmq就会将消息持久化到磁盘上去。必需要同时设置这两个持久化才行，rabbitmq哪怕是挂了，再次重启，也会从磁盘上重启恢复queue，恢复这个queue里的数据。事务
并且持久化能够跟生产者那边的confirm机制配合起来，只有消息被持久化到磁盘以后，才会通知生产者ack了，因此哪怕是在持久化到磁盘以前，rabbitmq挂了，数据丢了，生产者收不到ack，你也是能够本身重发的。
若生产者那边的confirm机制未开启的状况下，哪怕是你给rabbitmq开启了持久化机制，也有一种可能，就是这个消息写到了rabbitmq中，可是还没来得及持久化到磁盘上，结果不巧，此时rabbitmq挂了，就会致使内存里的一点点数据会丢失。
3）消费端弄丢了数据
主要是由于你消费的时候，刚消费到，还没处理，结果进程挂了，好比重启了，那么就尴尬了，rabbitmq认为你都消费了，这数据就丢了。
这个时候得用rabbitmq提供的ack机制，简单来讲，就是你关闭rabbitmq自动ack，能够经过一个api来调用就行，而后每次你本身代码里确保处理完的时候，再程序里ack一把。这样的话，若是你还没处理完，不就没有ack？那rabbitmq就认为你还没处理完，这个时候rabbitmq会把这个消费分配给别的consumer去处理，消息是不会丢的。
2、Kafka
1）消费者弄丢了数据
惟一可能致使消费者弄丢数据的状况，就是说，你那个消费到了这个消息，而后消费者那边自动提交了offset，让kafka觉得你已经消费好了这个消息，其实你刚准备处理这个消息，你还没处理，你本身就挂了，此时这条消息就丢咯。
你们都知道kafka会自动提交offset，那么只要关闭自动提交offset，在处理完以后本身手动提交offset，就能够保证数据不会丢。可是此时确实仍是会重复消费，好比你刚处理完，还没提交offset，结果本身挂了，此时确定会重复消费一次，本身保证幂等性就行了。
2）Kafka弄丢了数据
比较常见的一个场景，就是kafka某个broker宕机，而后从新选举partiton的leader时。你们想一想，要是此时其余的follower恰好还有些数据没有同步，结果此时leader挂了，而后选举某个follower成leader以后，他不就少了一些数据？这就丢了一些数据啊。
因此此时通常是要求起码设置以下4个参数：
1.给这个topic设置replication.factor参数：这个值必须大于1，要求每一个partition必须有至少2个副本
2.在kafka服务端设置min.insync.replicas参数：这个值必须大于1，这个是要求一个leader至少感知到有至少一个follower还跟本身保持联系，没掉队，这样才能确保leader挂了还有一个follower吧
3.在producer端设置acks=all：这个是要求每条数据，必须是写入全部replica以后，才能认为是写成功了
4.在producer端设置retries=MAX（很大很大很大的一个值，无限次重试的意思）：这个是要求一旦写入失败，就无限重试，卡在这里了
生产环境就按照上述要求配置的，这样配置以后，至少在kafka broker端就能够保证在leader所在broker发生故障，进行leader切换时，数据不会丢失
3）生产者弄丢了数据
按照上述的思路设置了ack=all，必定不会丢，要求是，你的leader接收到消息，全部的follower都同步到了消息以后，才认为本次写成功了。若是没知足这个条件，生产者会自动不断的重试，重试无限次。