ElasticSearch入门篇Ⅰ --- ES核心知识归纳

时间 2019-11-09

标签 elasticsearch 入门核心知识归纳栏目日志分析繁體版

原文原文链接

C01.什么是Elasticsearch

1.什么是搜索

垂直搜索(站内搜索)java

互联网的搜索:电商网站，招聘网站，各类appnode
IT系统的搜索:OA软件，办公自动化软件，会议管理，员工管理，后台管理系算法

2.若是用数据库作搜索会怎么样

数据库在作某些搜索(模糊搜索)时，效率会不好，是不太靠谱的。数据库

3. 什么是全文检索?

数据库搜索的弊端:数据库里有100万条数据，模糊匹配要扫描100万次，每次扫描都要匹配文本全部字符，还没法拆解开来检索。json

全文检索:会将100万条数据拆分开来，创建倒排索引，搜索的时也许第一次就能够搜素到对应的数据，多是100次，1000次，上述过程就叫全文检索。api

Lucene:就是一个jar包，里面包含各类创建倒排索引，以及搜索的代码，包括各类算法。咱们Java开发时，引入lucene的jar进行开发就能够了。使用lucene，咱们能够去将已有的数据创建索引，lucene会在本地磁盘上面给咱们组织索引的数据结构。服务器

lucene的弊端:数据量大，一台机器难以放下，须要多台机器，可用性，可维护性差。restful

4.什么是Elasticsearch

自动维护数据的分布到多个节点的索引的创建，还有搜索请求分不到多个节点执行数据结构
自动维护数据的冗余副本，保证说一些机器宕机了，不会丢失任何的数据app
分装了更多的高级功能，以给咱们提供更多高级的支持，让咱们快速地开发应用，开发更复杂的应用，复杂的搜素功能，聚合分析的功能。

C02.Elasticsearch的功能、适用场景

1.Elasticsearch的功能

分布式搜索引擎和数据分析引擎

搜索:百度，网站站内搜索，It系统检索

数据分析: 电商网站，最近7天牙膏销量排行较前有哪些；新闻网站，最近一个月访问量排行前十的有哪些
全文检索:结构化检索，数据分析

结构化检索:我想搜索的商品分类为日化用品的有哪些: select* from prod where cate_id = '日化用品'

全文检索:想搜索商品名称包含牙膏的商品: select * from prod where prod_name like "%牙膏%"

数据分析: 分析一下每个商品分类有多少商品，select cate_id,count(*) from prod group by cate_id
对海量数据近实时处理

分布式: ES能够自动将海量数据分散到多台服务器上存储和检索

海量数据的处理:分布式之后，就能够采用大量服务器去检索和存储数据。

近实时:在秒级别对数据进行搜索和分析。

与海量数据/分布式相反:lucene，单机应用，只能在单台服务器上用，最多只能处理单台服务器的数据

2.ES的适用场景

维基百科,全文检索，高亮，搜索推荐
电商网站，检索商品
新闻网站，用户行为日志(点赞，评论)，数据分析
论坛网站，全文检索，搜索问题和答案
Github，搜索代码和项目
日志数据分析，logstash采集日志，ES进行复杂的数据分析(ELK技术，elasticsearch+logstash+kibana)
商品价格监控网站，用户设定某商品的价格阈值，低于阈值时，发送通知给用户。
BI系统，商业智能，ES执行数据分析和挖掘
站内搜索(电商，招聘，门户)，IT搜索(OA,CRM,ERP)等

3.ES的特色

能够做为大型分布式集群的技术，处理PB级的数据，服务大公司，也能够运行在单机上
ES不是什么新技术，主要是将全文检索，数据分析以及分布式技术合并在了一块儿
对用户而言，开箱即用，较为简单
数据库的功能面对不少领域是不够用的，好比全文检索，同义词处理，相关度排名，复杂数据分析，海量数据近实时处理。ES能够做为传统数据库的不错，提供数据库不足的功能。

C03.Elasticsearch的核心概念

1.lucene和ES

lucene，最早进，最强大的搜索库，基于lucene开发，很是复杂，api复杂，须要深刻原理。

ES基于lucene，隐藏其复杂性，提供简单易用的restful接口，java api接口。

分布式的文档存储引擎
分布式的搜索引擎和分析引擎
分布式，支持PB级数据

2.ES的核心概念

1.Near Realtime(NRT): 近实时，从写入数据到ES到能够被搜索到大概有1秒延迟，基于ES执行搜索和分析能够达到秒级
2.Cluster: 集群，包含多个节点，每一个节点属于哪一个集群是经过一个配置(集群名称，默认是elasticsearch)来决定的，对于中小型应用来讲，刚开始一个集群就一个节点很正常。
3.Node: 节点，集群中的一个节点，节点也有一个名称(默认是随机)，节点名称很重要(在执行运维管理操做的时候)，默认节点会去加入一个名称为"elasticsearch"的集群，若是直接启动一堆节点，那么他们会自动组成一个elasticsearch集群，固然一个节点也能够组成一个es集群
4.Document: 文档。es中的最小单元，一个document能够是客户的一条数据，一条商品数据，订单数据，一般用JSON数据结构表示，每一个index下的type中，均可以存储多个doucument，一个document里面有多个field，每一个field就是一个数据字段
Index: 索引,包含一堆有类似结构的文档数据，好比一个商品索引，订单索引，索引有一个名称。一个index包含多个document,好比创建了一个商品索引，product index，里面可能就存放了全部商品的数据。
Type:类型，每一个索引里面均可以有一个或多个type，type是index的一个逻辑数据分类，一个type下的document，都有相同的field(有例外),好比博客系统，有一个索引，能够定义用户数据的type，博客数据的type
shard: 单台机器没法存储大量数据，es能够将一个索引中的数据切分为多个shard，分布在多台服务器上存储。有了shard就能够横向扩展，存储更多数据，让数据搜索和分析等操做分布到多台服务器上执行，提升吞吐量和性能。

PS:index会被拆分为多个shard，每一个shard会存放这个index的部分数据，这些shard分布在多台服务器上分布执行，提高吞吐量与性能。
replica: 任何一个服务器随时可能故障或宕机，此时shard可能就会丢失，所以能够为每一个shard建立多个replica，replica能够在shard故障时随时提供服务，保证数据不丢失，多个replica还能够提升吞吐量和性能。primary shard(建索引是一次设置，不能修改，默认5个)，replica shard(随时修改，默认1个)，默认每一个索引10个shard，5个primary shard，5个replica shard，最小高可用配置，是两台服务器。

PS: shard其实叫primary shard，replica叫replica shard，其实都shard

replica的好处:

1).提高了高可用性，一个shard宕机，数据不丢，服务继续提供

2).提高了搜索这类请求的吞吐量和性能

C04.ES与Kibana的安装与使用

安装JDK，至少Java1.8以上
下载解压ES安装包
启动ES(使用终端命令行工具启动，bin目录下的elasticsearch)
检查ES是否启动成功(默认是localhost 9200端口)
修改集群名称：elasticsearch.yml
下载和解压缩Kibana安装包，使用里面的开发界面，操做es，是学习es的主要界面入口
启动kibana(默认localhost:5601)

C05.电商网站商品管理(一):CRUD基础操做

1.document数据格式

应用系统的数据结构都是面向对象的，复杂的
对象数据存储到数据库中，只能拆解开来，变为扁平的多张表，每次查询返回原对象的格式，至关麻烦
ES是面向文档的，文档中存储的数据结构，与面向对象的数据结构是同样的，基于这种文档数据结构，es能够提供复杂的索引，全文检索，分析聚合等功能
ES的document用json数据格式来表达

2.电商网站商品管理案例背景介绍

有一个电商网站，须要为其基于ES构建一个后台系统，提供如下功能：

对商品信息进行CRUD（增删改查）操做
执行简单的结构化查询
能够执行简单的全文检索，以及复杂的phrase（短语）检索
对于全文检索的结果，能够进行高亮显示
对数据进行简单的聚合分析

3.简单的集群管理

一、快速检查集群的健康情况

es提供了一套api，叫作cat api，能够查看es中各类各样的数据

GET /_cat/health?v

如何快速了解集群的健康情况？green、yellow、red？

green：每一个索引的primary shard和replica shard都是active状态的 yellow：每一个索引的primary shard都是active状态的，可是部分replica shard不是active状态，处于不可用的状态 red：不是全部索引的primary shard都是active状态的，部分索引有数据丢失了

为何如今会处于一个yellow状态？

咱们如今就一个笔记本电脑，就启动了一个es进程，至关于就只有一个node。如今es中有一个index，就是kibana本身内置创建的index。因为默认的配置是给每一个index分配5个primary shard和5个replica shard，并且primary shard和replica shard不能在同一台机器上（为了容错）。如今kibana本身创建的index是1个primary shard和1个replica shard。当前就一个node，因此只有1个primary shard被分配了和启动了，可是一个replica shard没有第二台机器去启动。

作一个小实验：此时只要启动第二个es进程，就会在es集群中有2个node，而后那1个replica shard就会自动分配过去，而后cluster status就会变成green状态。
二、快速查看集群中有哪些索引

GET /_cat/indices?v
三、简单的索引操做

建立索引：PUT /test_index?pretty

删除索引：DELETE /test_index?pretty

4.商品的CRUD操做

1.新增商品：新增文档，创建索引

语法: PUT /index/type/id

{
  "json数据"
}

示例:

PUT /ecommerce/product/1
{
    "name" : "gaolujie yagao",
    "desc" :  "gaoxiao meibai",
    "price" :  30,
    "producer" :      "gaolujie producer",
    "tags": [ "meibai", "fangzhu" ]
}

Return:

{
  "_index": "ecommerce",  
  "_type": "product",
  "_id": "1",
  "_version": 1,
  "result": "created",
  "_shards": {
    "total": 2,
    "successful": 1,
    "failed": 0
  },
  "created": true
}

PS:ES会自动创建index和type，不须要提早建立，并且es默认会对document每一个field都创建倒排索引，让其能够被搜索

2.查询商品：检索文档

语法: GET /index/type/id

GET /ecommerce/product/1

3.修改商品：替换文档

PUT /ecommerce/product/1
{
    "name" : "jiaqiangban gaolujie yagao",
    "desc" :  "gaoxiao meibai",
    "price" :  30,
    "producer" :      "gaolujie producer",
    "tags": [ "meibai", "fangzhu" ]
}

PS:替换方式有一个很差，即便必须带上全部的field，才能去进行信息的修改

4.修改商品：更新文档

POST /ecommerce/product/1/_update
{
  "doc": {
    "name": "jiaqiangban gaolujie yagao"
  }
}

5.删除商品：删除文档

DELETE /ecommerce/product/1

C06.电商网站商品管理(二):多种搜索方式

*搜索所有商品: GET /ecommerce/product/search

took: 耗费了几毫秒 timed_out: 是否超时，这里是没有 shards: 数据拆成了5个分片，因此对于搜索请求，会打到全部的primary shard（或者是它的某个replica shard也能够） hits.total: 查询结果的数量，3个document hits.max_score: score的含义，就是document对于一个search的相关度的匹配分数，越相关，就越匹配，分数也高 hits.hits: 包含了匹配搜索的document的详细数据

1. query string search

query string search的由来，由于search参数都是以http请求的query string来附带的

搜索商品名称中包含yagao的商品，并且按照售价降序排序：GET /ecommerce/product/_search?q=name:yagao&sort=price:desc

PS: 适用于临时的在命令行使用一些工具，好比curl，快速的发出请求，来检索想要的信息；可是若是查询请求很复杂，是很难去构建的,在生产环境中，几乎不多使用query string search

2. query DSL

DSL: Domain Specified Language，特定领域的语言 http request body: 请求体，能够用json的格式来构建查询语法，比较方便，能够构建各类复杂的语法，比query string search确定强大多了

查询全部的商品

GET /ecommerce/product/_search
{
  "query": { "match_all": {} }
}

查询名称包含yagao的商品，同时按照价格降序排序

GET /ecommerce/product/_search
{
    "query" : {
        "match" : {
            "name" : "yagao"
        }
    },
    "sort": [
        { "price": "desc" }
    ]
}

分页查询商品，总共3条商品，假设每页就显示1条商品，如今显示第2页，因此就查出来第2个商品

GET /ecommerce/product/_search
{
  "query": { "match_all": {} },
  "from": 1,
  "size": 1
}

指定要查询出来商品的名称和价格就能够

GET /ecommerce/product/search
{
  "query": { "match_all": {} },
  "source": ["name", "price"]
}

PS: 更加适合生产环境的使用，能够构建复杂的查询

3. query filter

搜索商品名称包含yagao，并且售价大于25元的商品

GET /ecommerce/product/_search
{
    "query" : {
        "bool" : {
            "must" : {
                "match" : {
                    "name" : "yagao" 
                }
            },
            "filter" : {
                "range" : {
                    "price" : { "gt" : 25 } 
                }
            }
        }
    }
}

4. full-text search（全文检索）

全文检索会将输入的搜索串拆解开来，去倒排索引里面去一一匹配，只要能匹配上任意一个拆解后的单词，就能够做为结果返回。

GET /ecommerce/product/_search
{
    "query" : {
        "match" : {
            "producer" : "yagao producer"
        }
    }
}

Result:

{
  "took": 4,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 4,
    "max_score": 0.70293105, //最高分,匹配度最高的那个
    "hits": [
      {
        "_index": "ecommerce",
        "_type": "product",
        "_id": "4",
        "_score": 0.70293105,
        "_source": {
          "name": "special yagao",
          "desc": "special meibai",
          "price": 50,
          "producer": "special yagao producer",
          "tags": [
            "meibai"
          ]
        }
      },
      {
        "_index": "ecommerce",
        "_type": "product",
        "_id": "1",
        "_score": 0.25811607,
        "_source": {
          "name": "gaolujie yagao",
          "desc": "gaoxiao meibai",
          "price": 30,
          "producer": "gaolujie producer",
          "tags": [
            "meibai",
            "fangzhu"
          ]
        }
      },
      {
        "_index": "ecommerce",
        "_type": "product",
        "_id": "3",
        "_score": 0.25811607,
        "_source": {
          "name": "zhonghua yagao",
          "desc": "caoben zhiwu",
          "price": 40,
          "producer": "zhonghua producer",
          "tags": [
            "qingxin"
          ]
        }
      },
      {
        "_index": "ecommerce",
        "_type": "product",
        "_id": "2",
        "_score": 0.1805489,
        "_source": {
          "name": "jiajieshi yagao",
          "desc": "youxiao fangzhu",
          "price": 25,
          "producer": "jiajieshi producer",
          "tags": [
            "fangzhu"
          ]
        }
      }
    ]
  }
}

5. phrase search (短语搜索)

跟全文检索相对应，相反，phrase search，要求输入的搜索串，必须在指定的字段文本中，彻底包含如出一辙的，才能够算匹配，才能做为结果返回。

GET /ecommerce/product/_search
{
    "query" : {
        "match_phrase" : {
            "producer" : "yagao producer"
        }
    }
}

Return:

{
  "took": 11,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": 0.70293105,
    "hits": [
      {
        "_index": "ecommerce",
        "_type": "product",
        "_id": "4",
        "_score": 0.70293105,
        "_source": {
          "name": "special yagao",
          "desc": "special meibai",
          "price": 50,
          "producer": "special yagao producer",
          "tags": [
            "meibai"
          ]
        }
      }
    ]
  }
}

6.highlight search（高亮搜索结果）

GET /ecommerce/product/_search
{
    "query" : {
        "match" : {
            "producer" : "producer"
        }
    },
    "highlight": {
        "fields" : {
            "producer" : {}
        }
    }
}

C07. 电商网站商品管理(三): 聚合分析

1.计算每一个tag下的商品数量:

GET /ecommerce/product/_search
{
  "aggs": {
    "group_by_tags": {
      "terms": { "field": "tags" } 
    }
  }
}

将文本field的fielddata属性设置为true:

PUT /ecommerce/_mapping/product
{
  "properties": {
    "tags": {
      "type": "text",
      "fielddata": true
    }
  }
}

GET /ecommerce/product/_search
{
  "size": 0,
  "aggs": {
    "all_tags": {
      "terms": { "field": "tags" }
    }
  }
}
{
  "took": 20,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 4,
    "max_score": 0,
    "hits": []
  },
  "aggregations": {
    "group_by_tags": {
      "doc_count_error_upper_bound": 0,
      "sum_other_doc_count": 0,
      "buckets": [
        {
          "key": "fangzhu",
          "doc_count": 2
        },
        {
          "key": "meibai",
          "doc_count": 2
        },
        {
          "key": "qingxin",
          "doc_count": 1
        }
      ]
    }
  }
}

2.对名称中包含yagao的商品，计算每一个tag下的商品数量

GET /ecommerce/product/_search
{
  "size": 0,
  "query": {
    "match": {
      "name": "yagao"
    }
  },
  "aggs": {
    "all_tags": {
      "terms": {
        "field": "tags"
      }
    }
  }
}

3.计算每一个tag下的商品的平均价格，而且按照平均价格降序排序

GET /ecommerce/product/_search
{
    "size": 0,
    "aggs" : {
        "group_by_tags" : {
            "terms" : { "field" : "tags" },
            "aggs" : {
                "avg_price" : {
                    "avg" : { "field" : "price" }
                }
            }
        }
    }
}

Result:

{
  "took": 8,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 4,
    "max_score": 0,
    "hits": []
  },
  "aggregations": {
    "group_by_tags": {
      "doc_count_error_upper_bound": 0,
      "sum_other_doc_count": 0,
      "buckets": [
        {
          "key": "fangzhu",
          "doc_count": 2,
          "avg_price": {
            "value": 27.5
          }
        },
        {
          "key": "meibai",
          "doc_count": 2,
          "avg_price": {
            "value": 40
          }
        },
        {
          "key": "qingxin",
          "doc_count": 1,
          "avg_price": {
            "value": 40
          }
        }
      ]
    }
  }
}

4.计算每一个tag下的商品的平均价格，而且按照平均价格降序排序

GET /ecommerce/product/_search
{
    "size": 0,
    "aggs" : {
        "all_tags" : {
            "terms" : { "field" : "tags", "order": { "avg_price": "desc" } },
            "aggs" : {
                "avg_price" : {
                    "avg" : { "field" : "price" }
                }
            }
        }
    }
}

5.按照指定的价格范围区间进行分组，而后在每组内再按照tag进行分组，最后再计算每组的平均价格

GET /ecommerce/product/_search
{
  "size": 0,
  "aggs": {
    "group_by_price": {
      "range": {
        "field": "price",
        "ranges": [
          {
            "from": 0,
            "to": 20
          },
          {
            "from": 20,
            "to": 40
          },
          {
            "from": 40,
            "to": 50
          }
        ]
      },
      "aggs": {
        "group_by_tags": {
          "terms": {
            "field": "tags"
          },
          "aggs": {
            "average_price": {
              "avg": {
                "field": "price"
              }
            }
          }
        }
      }
    }
  }
}