日志分析工具ELK(一)

时间  2019-11-10
标签 日志 分析 工具 elk 繁體版
原文   原文链接

1、ELK介绍

1.1 elasticsearch

1.1.1 elasticsearch介绍

ElasticSearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基于RESTful web接口。Elasticsearch是用Java开发的，并做为Apache许可条款下的开放源码发布，是第二流行的企业搜索引擎。设计用于云计算中，可以达到实时搜索，稳定，可靠，快速，安装使用方便。java

1.1.2 elasticsearch几个重要术语

  • Ÿ   NRT

elasticsearch是一个近似实时的搜索平台，从索引文档到可搜索有些延迟，一般为1秒。node

  • Ÿ   集群

集群就是一个或多个节点存储数据，其中一个节点为主节点，这个主节点是能够经过选举产生的，并提供跨节点的联合索引和搜索的功能。集群有一个惟一性标示的名字，默认是elasticsearch，集群名字很重要，每一个节点是基于集群名字加入到其集群中的。所以，确保在不一样环境中使用不一样的集群名字。一个集群能够只有一个节点。强烈建议在配置elasticsearch时，配置成集群模式。linux

  • Ÿ   节点

节点就是一台单一的服务器，是集群的一部分，存储数据并参与集群的索引和搜索功能。像集群同样，节点也是经过名字来标识，默认是在节点启动时随机分配的字符名。固然啦，你能够本身定义。该名字也蛮重要的，在集群中用于识别服务器对应的节点。
节点能够经过指定集群名字来加入到集群中。默认状况下，每一个节点被设置成加入到elasticsearch集群。若是启动了多个节点，假设能自动发现对方，他们将会自动组建一个名为elasticsearch的集群。nginx

  • Ÿ   索引

索引是有几分类似属性的一系列文档的集合。如nginx日志索引、syslog索引等等。索引是由名字标识，名字必须所有小写。这个名字用来进行索引、搜索、更新和删除文档的操做。
索引相对于关系型数据库的库。git

  • Ÿ   类型

在一个索引中，能够定义一个或多个类型。类型是一个逻辑类别仍是分区彻底取决于你。一般状况下，一个类型被定于成具备一组共同字段的文档。如ttlsa运维生成时间全部的数据存入在一个单一的名为logstash-ttlsa的索引中，同时，定义了用户数据类型，帖子数据类型和评论类型。
类型相对于关系型数据库的表。github

  • Ÿ   文档

文档是信息的基本单元，能够被索引的。文档是以JSON格式表现的。
在类型中，能够根据需求存储多个文档。
虽然一个文档在物理上位于一个索引，实际上一个文档必须在一个索引内被索引和分配一个类型。
文档相对于关系型数据库的列。web

分片和副本数据库

在实际状况下，索引存储的数据可能超过单个节点的硬件限制。如一个十亿文档需1TB空间可能不适合存储在单个节点的磁盘上，或者从单个节点搜索请求太慢了。为了解决这个问题，elasticsearch提供将索引分红多个分片的功能。当在建立索引时，能够定义想要分片的数量。每个分片就是一个全功能的独立的索引，能够位于集群中任何节点上。
分片的两个最主要缘由：
a、水平分割扩展，增大存储量
b、分布式并行跨分片操做，提升性能和吞吐量
分布式分片的机制和搜索请求的文档如何汇总彻底是有elasticsearch控制的，这些对用户而言是透明的。
网络问题等等其它问题能够在任什么时候候不期而至，为了健壮性，强烈建议要有一个故障切换机制，不管何种故障以防止分片或者节点不可用。
为此，elasticsearch让咱们将索引分片复制一份或多份，称之为分片副本或副本。
副本也有两个最主要缘由：
高可用性，以应对分片或者节点故障。出于这个缘由，分片副本要在不一样的节点上。
提供性能，增大吞吐量，搜索能够并行在全部副本上执行。
总之，每个索引能够被分红多个分片。索引也能够有0个或多个副本。复制后，每一个索引都有主分片(母分片)和复制分片(复制于母分片)。分片和副本数量能够在每一个索引被建立时定义。索引建立后，能够在任什么时候候动态的更改副本数量，可是，不能改变分片数。
默认状况下，elasticsearch为每一个索引分片5个主分片和1个副本，这就意味着集群至少须要2个节点。索引将会有5个主分片和5个副本(1个完整副本)，每一个索引总共有10个分片。
每一个elasticsearch分片是一个Lucene索引。一个单个Lucene索引有最大的文档数LUCENE-5843, 文档数限制为2147483519(MAX_VALUE – 128)。 可经过_cat/shards来监控分片大小。bootstrap

1.2 logstash

1.2.1 logstash 介绍

LogStash由JRuby语言编写，基于消息（message-based）的简单架构，并运行在Java虚拟机（JVM）上。不一样于分离的代理端（agent）或主机端（server），LogStash可配置单一的代理端（agent）与其它开源软件结合，以实现不一样的功能。vim

1.2.2 logStash的四大组件

Ÿ   Shipper：发送事件（events）至LogStash；一般，远程代理端（agent）只须要运行这个组件便可；

Ÿ   Broker and Indexer：接收并索引化事件；

Ÿ   Search and Storage：容许对事件进行搜索和存储；

Ÿ   Web Interface：基于Web的展现界面
正是因为以上组件在LogStash架构中可独立部署，才提供了更好的集群扩展性。

1.2.2 LogStash主机分类

  • Ÿ   代理主机（agent host）：做为事件的传递者（shipper），将各类日志数据发送至中心主机；只需运行Logstash 代理（agent）程序；
  • Ÿ   中心主机（central host）：可运行包括中间转发器（Broker）、索引器（Indexer）、搜索和存储器（Search and Storage）、Web界面端（Web Interface）在内的各个组件，以实现对日志数据的接收、处理和存储。

1.3 kibana

Kibana 也是一个开源和免费的工具，他能够帮助您汇总、分析和搜索重要数据日志并提供友好的web界面。他能够为 Logstash 和 ElasticSearch 提供的日志分析的 Web 界面

2、使用ELK必要性（解决运维痛点）

  • Ÿ   开发人员不能登陆线上服务器查看详细日志
  • Ÿ   各个系统都有日志，日至数据分散难以查找
  • Ÿ   日志数据量大，查询速度慢，或者数据不够实时

3、elk部署之环境准备

3.1 机器准备

准备两台机器，如下是其中一台作为master的机器

[root@linux-node1 ~]# cat /etc/redhat-release 
CentOS Linux release 7.0.1406 (Core) 
[root@linux-node1 ~]# uname -a
Linux linux-node1.example.com 3.10.0-123.el7.x86_64 #1 SMP Mon Jun 30 12:09:22 UTC 2014 x86_64 x86_64 x86_64 GNU/Linux
[root@linux-node1 ~]# tail -2 /etc/hosts
192.168.230.128 linux-node1 linux-node1.example.com
192.168.230.129 linux-node2 linux-node2.example.com
[root@linux-node1 ~]# ifconfig eth0|awk -F '[ :]+' 'NR==2{print $3}'
192.168.230.128
[root@linux-node1~]# systemctl stop firewalld
[root@linux-node1~]# getenforce 0
Disabled
[root@linux-node1~ /]#  systemctl disable firewalld.service

时间同步

echo "#time sync by zsq at $(date +%F)" >> /var/spool/cron/root
echo "*/5 * * * * /usr/sbin/ntpdate time.nist.gov &>/dev/null" >>/var/spool/cron/root

重启crond

/sbin/service crond restart

理想实践是给2G内存,我这里给1.5G,elasticsearch作集群还须要一台相同的配置

[root@linux-node1 ~]# free -m
             total       used       free     shared    buffers     cached
Mem:146751894880142

最佳实践cpu给2颗

[root@linux-node1 ~]# cat /proc/cpuinfo |grep"physical id"|sort|uniq|wc -l
2

须要有java环境

[root@linux-node1 ~]# yum -y install java
[root@linux-node1 ~]# java -version
openjdk version "1.8.0_111"
OpenJDK Runtime Environment (build 1.8.0_111-b15)
OpenJDK 64-Bit Server VM (build 25.111-b15, mixed mode)

配置epel yum源

下载并安装EPEL

wget http://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm
 rpm -ivh epel-release-latest-7.noarch.rpm

3.3 elk准备环境

3.3.1 elasticsearch安装

下载并安装GPG key

[root@linux-node2 ~]# rpm --import https://packages.elastic.co/GPG-KEY-elasticsearch

添加yum仓库

[root@linux-node1 ~]# vim /etc/yum.repos.d/elasticsearch.repo
[elasticsearch-2.x]
name=Elasticsearch repository for 2.x packages
baseurl=http://packages.elastic.co/elasticsearch/2.x/centos
gpgcheck=1
gpgkey=http://packages.elastic.co/GPG-KEY-elasticsearch
enabled=1

安装elasticsearch

yum install -y elasticsearch

安装太慢直接用rpm包

root@linux-node1 ~]# rpm -ivh elasticsearch-2.4.3.rpm
Preparing...                          ################################# [100%]
Creating elasticsearch group... OK
Creating elasticsearch user... OK
Updating / installing...
   1:elasticsearch-2.4.3-1            ################################# [100%]
### NOT starting on installation, please execute the following statements to configure elasticsearch service to start automatically using systemd
 sudo systemctl daemon-reload
 sudo systemctl enable elasticsearch.service
### You can start elasticsearch service by executing
sudo systemctl start elasticsearch.service

再执行开机启动

systemctl daemon-reload
systemctl enable elasticsearch.service

启动

systemctl start elasticsearch.service

4、管理配置elasticsearch

4.1 管理linux-node1的elasticsearch

修改elasticsearch配置文件，并受权

[root@linux-node1 ~]#  grep -n '^[a-Z]' /etc/elasticsearch/elasticsearch.yml
17:cluster.name: check-cluster  #集群节点
23:node.name: linux-node1   #节点名字
33:path.data: /data/es-data  #数据路径
37:path.logs: /var/log/elasticsearch/ #自身log
43:bootstrap.memory_lock: true #是否锁定内存
54:network.host: 0.0.0.0 #默认是全部网段
58:http.port: 9200 #端口

[root@linux-node1 ~]# mkdir -p /data/es-data
[root@linux-node1 ~]# chown elasticsearch.elasticsearch /data/es-data/

启动elasticsearch 

[root@linux-node1 ~]# systemctl start elasticsearch

检查

[root@linux-node1 ~]# netstat -ntpl|grep 9200
tcp6       0      0 :::9200                 :::*                    LISTEN      2042/java

访问:

 

4.2 Elasticsearch插件

1.安装Elasticsearch集群管理插件

[root@linux-node1 ~]# /usr/share/elasticsearch/bin/plugin install mobz/elasticsearch-head

-> Installing mobz/elasticsearch-head...

Trying https://github.com/mobz/elasticsearch-head/archive/master.zip ...

Downloading ..........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................DONE

Verifying https://github.com/mobz/elasticsearch-head/archive/master.zip checksums if available ...

NOTE: Unable to verify checksum for downloaded plugin (unable to find .sha1 or .md5 file to verify)

Installed head into /usr/share/elasticsearch/plugins/head

 

访问head集群插件:http://ES_IP:9200/_plugin/head/

 

写点数据, 写一个/index-demo/test的索引，方法post，点击提交请求

{
 "user": "oldboy",
 "mesg": "hello world"
}

 

get提交id，id就是右边提示的_id信息，查询到_soure里的内容

 

若是删除用delete删除

部署第二台，集群部署

[root@linux-node2 /]# java -version
openjdk version "1.8.0_111"
OpenJDK Runtime Environment (build 1.8.0_111-b15)
OpenJDK 64-Bit Server VM (build 25.111-b15, mixed mode)
[root@linux-node2 /]# rz -E
rz waiting to receive.
[root@linux-node2 /]# rpm -ivh elasticsearch-2.4.3.rpm 
warning: elasticsearch-2.4.3.rpm: Header V4 RSA/SHA1 Signature, key ID d88e42b4: NOKEY
Preparing...                          ################################# [100%]
Creating elasticsearch group... OK
Creating elasticsearch user... OK
Updating / installing...
   1:elasticsearch-2.4.3-1            ################################# [100%]
### NOT starting on installation, please execute the following statements to configure elasticsearch service to start automatically using systemd
 sudo systemctl daemon-reload
 sudo systemctl enable elasticsearch.service
### You can start elasticsearch service by executing
 sudo systemctl start elasticsearch.service
[root@linux-node2 /]# systemctl daemon-reload
[root@linux-node2 /]#  systemctl enable elasticsearch.service
Created symlink from /etc/systemd/system/multi-user.target.wants/elasticsearch.service to /usr/lib/systemd/system/elasticsearch.service.
[root@linux-node2 /]# systemctl start elasticsearch.service
[root@linux-node2 /]# netstat -ntpl|grep "9200"
tcp6       0      0 127.0.0.1:9200          :::*                    LISTEN      2546/java           
tcp6       0      0 ::1:9200                :::*                    LISTEN      2546/java  

[root@linux-node2 data]# grep -n '^[a-Z]' /etc/elasticsearch/elasticsearch.yml
17:cluster.name: check-cluster
23:node.name: linux-node2
33:path.data: /data/es-data
37:path.logs: /var/log/elasticsearch/
43:bootstrap.memory_lock: true
54:network.host: 0.0.0.0
58:http.port: 9200

[root@linux-node2 ~]# mkdir -p /data/es-data
[root@linux-node2 ~]# chown elasticsearch.elasticsearch /data/es-data/

启动elasticsearch 

[root@linux-node2 ~]# systemctl start elasticsearch

检查

[root@linux-node2 ~]# netstat -ntpl|grep 9200
tcp6       0      0 :::9200                 :::*                    LISTEN      2042/java

浏览器访问

 

查看日志，/etc/security/limits.conf,配置文件须要追加内容# allow user 'elasticsearch' mlockall

下的两行

[2017-01-03 20:56:02,486][WARN ][bootstrap                ] These can be adjusted by modifying /etc/security/limits.conf, for example: 
    # allow user 'elasticsearch' mlockall
    elasticsearch soft memlock unlimited
    elasticsearch hard memlock unlimited

浏览器下访问，点击概览，已经有一台集群节点，要稍微等会，添加另一台

经过组播进行通讯，会经过cluster进行查找，若是没法经过组播查询，修改为单播便可，配置文件中指定，图中的有*号表明主节点

# Pass an initial list of hosts to perform discovery when new node is started:
# The default list of hosts is ["127.0.0.1", "[::1]"]
discovery.zen.ping.unicast.hosts: ["192.168.230.128", "192.168.230.129"]#把同一集群的节点添加到这里，方便它们互相认识

 

在浏览器中查看分片信息，一个索引默认被分红了5个分片，每份数据被分红了五个分片（能够调节分片数量），外围带绿色框的为主分片，不带框的为副本分片，主分片丢失，副本分片会复制一份成为主分片，起到了高可用的做用，主副分片也可使用负载均衡加快查询速度，可是若是主副本分片都丢失，则索引就是完全丢失。

4.3.安装kopf监控插件

[root@linux-node1 /]# /usr/share/elasticsearch/bin/plugin install lmenezes/elasticsearch-kopf

访问kopf监控插件:http://ES_IP:9200/_plugin/kopf

从下图能够看出节点的负载，cpu适应状况，java对内存的使用（heap usage），磁盘使用，启动时间

 

另外一个监控插件bigdesk很强大，可是bigdesk目前还不支持2.1!！！安装bigdesk的方法以下

/usr/share/elasticsearch/bin/plugin install lukas-vlcek/bigdesk

4.4.node间组播通讯和分片

当第一个节点启动，它会组播发现其余节点，发现集群名字同样的时候，就会自动加入集群。随便一个节点都是能够链接的，并非主节点才能够链接，链接的节点起到的做用只是汇总信息展现

 

最初能够自定义设置分片的个数，分片一旦设置好，就不能够改变。主分片和副本分片都丢失，数据即丢失，没法恢复，能够将无用索引删除。有些老索引或者不经常使用的索引须要按期删除，不然会致使es资源剩余有限，占用磁盘大，搜索慢等。若是暂时不想删除有些索引，能够在插件中关闭索引，就不会占用内存了。

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程