Logstash 简单记录

Logstash 是一种强大的数据处理工具,它可实现数据传输,格式处理,格式输出,还有强大的插件功能,经常使用于日志处理。redis

Logstash工做的三个阶段:mongodb

   1.input数据输入端,能够接收来自任何地方的源数据。 file,redis,beat(接收来自Filebeat的事件)缓存

   2.filter数据中转层,主要进行格式处理,数据类型转换,数据过滤,字段添加,修改等elasticsearch

       grok:经过正则解析和结构化任何文本,grok是当前logstash最好的方式对非结构化日志数据解析成结构化和可查询化工具

3.output是logstash工做的最后一个阶段,负责将数据输出到指定位置,兼容大多数应用性能

   elasticsearch:发送数据到elasticsearch,便于查询,分析,绘图。大数据

   file:将事件数据写到磁盘文件上spa

   mongodb:将事件数据发送至高性能NoSQL mongodb,便于永久存储,查询,分析,大数据分片。插件

   redis:将数据发送至redis-server,经常使用于中间层暂时缓存日志

相关文章
相关标签/搜索