基于Flink的日志采集

目前基于ELK架构的日志系统，通过filebeat收集上来的日志都会发送到同一个kafka topic中，然后再由Logstash消费处理写入Elasticsearch中，这种方式导致该topic包含所有业务日志，那么各个业务去做实时统计分析就会造成重复消费，使得流量成本的浪费；对于离线分析的日志来源是通过在应用服务端定时上传的方式，对于日志量比较大的业务，一方面上传时会对应用服务器造成比较大的压

>>阅读原文<<