Logstash 参考指南(使用Filebeat Modules)

使用Filebeat Modules

Filebeat附带预构建的模块,这些模块包含收集、解析、充实和可视化各类日志文件格式数据所需的配置,每一个Filebeat模块由一个或多个文件集组成,这些文件集包含摄取节点管道、Elasticsearch模板、Filebeat勘探者配置和Kibana仪表盘。html

Filebeat模块是一个很好的入门方法,可是你可能会发现摄取管道没法提供你所需的处理能力,若是是这样,你须要使用Logstash。nginx

使用Logstash而不是摄取节点

Logstash提供了一个摄取管道转换工具,帮助你将摄取管道定义迁移到Logstash的configs,可是,该工具目前不支持摄取节点可用的全部处理器。web

你能够按照本节中的步骤构建和运行Logstash配置,这些配置解析Filebeat模块收集的数据,而后你就能够在Kibana中使用与Filebeat相同的仪表盘来可视化你的数据。segmentfault

建立并启动Logstash管道

  1. 建立一个Logstash管道配置,从Beats输入读取并解析事件,有关详细示例,请参阅配置示例
  2. 启动Logstash,并传入解析日志的管道配置文件,例如:
    bin/logstash -f mypipeline.conf
    当Logstash运行并监听来自Beats的输入时,你将看到如下消息:浏览器

    [2017-10-13T00:01:15,413][INFO ][logstash.inputs.beats    ] Beats inputs: Starting input listener {:address=>"127.0.0.1:5044"}
    [2017-10-13T00:01:15,443][INFO ][logstash.pipeline        ] Pipeline: started {"pipeline.id"=>"main"}

Logstash管道如今能够接收来自Filebeat的事件,接下来,设置并运行Filebeat。elasticsearch

设置并运行Filebeat

  1. 若是你尚未设置Filebeat索引模板和示例Kibana仪表盘,那么如今运行Filebeat setup命令来完成此任务:
    ./filebeat -e setup
    -e标志是可选的,并将输出发送到标准error,而不是syslog。

    这个一次性设置步骤须要链接Elasticsearch和Kibana,由于Filebeat须要在Elasticsearch中建立索引模板,并将样例仪表盘加载到Kibana。
    加载完模板和仪表盘以后,你会看到消息INFO Kibana dashboards successfully loaded. Loaded dashboardside

  2. 配置Filebeat将日志行发送到Logstash,为此,在filebeat.yml配置文件中,禁用Elasticsearch输出,并启用Logstash输出,例如:工具

    #output.elasticsearch:
      #hosts: ["localhost:9200"]
    output.logstash:
      hosts: ["localhost:5044"]
  3. 运行modules enable命令以启用你想要运行的模块,例如:
    ./filebeat modules enable nginx
    你能够经过在Filebeat modules.d目录下编辑配置文件来进一步配置模块,例如,若是日志文件不在模块指望的位置,你能够设置var.paths选项。
  4. 启动Filebeat,例如,要在前台启动Filebeat,请使用:
    ./filebeat -eui

    根据安装Filebeat的方式,在尝试运行Filebeat模块时,可能会看到与文件全部权或权限相关的错误,若是遇到与文件全部权或权限相关的错误,请参阅Beats平台参考资料中的 配置文件全部权和权限

    有关更多信息,请参阅启动Filebeat日志

可视化数据

要在Kibana中可视化数据,能够经过将浏览器指向端口5601来启动Kibana web界面,例如:http://127.0.0.1:5601

相关文章
相关标签/搜索