Elasticsearch学习笔记

时间  2019-11-11
标签 elasticsearch 学习 笔记 栏目 日志分析 繁體版
原文   原文链接

概念

Elasticsearch 是一个开源的搜索引擎，创建在一个全文搜索引擎库 Apache Lucene™ 基础之上。 然而，Elasticsearch 不单单是 Lucene，而且也不单单只是一个全文搜索引擎。 它能够被下面这样准确的形容：html

  • 一个分布式的实时文档存储，每一个字段 能够被索引与搜索
  • 一个分布式实时分析搜索引擎
  • 能胜任上百个服务节点的扩展，并支持 PB 级别的结构化或者非结构化数据

来自 https://www.elastic.co/guide/cn/elasticsearch/guide/current/intro.htmljava

index、type、document （索引、类型、文档） Index 里面单条的记录称为 Document（文档）。许多条 Document 构成了一个 Index。 文档使用json格式表示：sql

curl -X PUT 'localhost:9200/megacorp/employee/1' -d '
{
    "first_name" : "John",
    "last_name" :  "Smith",
    "age" :        25,
    "about" :      "I love to go rock climbing",
    "interests": [ "sports", "music" ]
}'

说明： megacorp：索引名称 employee：类型名称 1：特定雇员的IDshell

安装

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.5.1.zip

unzip elasticsearch-5.5.1.zip

cd elasticsearch-5.5.1/

./bin/elasticsearch

注意：不能使用root运行es；而且elasticsearch-5.5.1 这个目录全部者不是root。数据库

curl localhost:9200

请求9200端口，获得json对象，包含当前节点的相关信息则为安装成功。

索引操做

新增索引

curl -X PUT 'localhost:9200/user'

服务端返回json：
{"acknowledged":true,"shards_acknowledged":true}

查询索引

curl -X GET 'localhost:9200/user?pretty=true'
# pretty=true 表示结果以易读的形式展现出来

服务端返回json：
	{
	  "user" : {
	    "aliases" : { },
	    "mappings" : { },
	    "settings" : {
	      "index" : {
	        "creation_date" : "1516421830842",
	        "number_of_shards" : "5",
	        "number_of_replicas" : "1",
	        "uuid" : "tY2XLVTmTGCkCe4Y9cw_0w",
	        "version" : {
	          "created" : "5050199"
	        },
	        "provided_name" : "user"
	      }
	    }
	  }
}

返回当前节点的全部Indexjson

curl -X GET 'http://localhost:9200/_cat/indices?v'

返回当前节点的全部Index

删除索引

curl -X DELETE 'localhost:9200/user'

服务端返回json：
{"acknowledged":true}

文档操做

新增文档

curl -X PUT 'localhost:9200/user/admin_user/1' -d '
{
  "userName": "张三",
  "title": "工程师",
  "desc": "数据库管理"
} '

在user索引在新建类型为admin_user的文档，1是这个文档的id。第一个admin_user有三个属性：user、title、desc。 新增文档也能够不指定ID，这里的ID不必定要数字。不指定ID时要用POST请求。bootstrap

新增文档不指定ID：vim

curl -X POST 'localhost:9200/user/admin_user/?pretty=true' -d ' 
		{
		 "userName" : "李四",
		 "title" : "工程师",
		 "desc" : "网络管理"
		} '

返回：_id 就是随机的字符串。
		{
		  "_index" : "user",
		  "_type" : "admin_user",
		  "_id" : "AWESLcupvcrWFMesxEQY",
		  "_version" : 1,
		  "result" : "created",
		  "_shards" : {
		    "total" : 2,
		    "successful" : 1,
		    "failed" : 0
		  },
		  "created" : true
		}

更新文档也是用put，删除用DELETE。网络

查询文档

curl -X GET 'localhost:9200/user/admin_user/1?pretty=true'
结果：
		{
		  "_index" : "user",
		  "_type" : "admin_user",
		  "_id" : "1",
		  "_version" : 1,
		  "found" : true,
		  "_source" : {
		    "userName" : "张三",
		    "title" : "工程师",
		    "desc" : "数据库管理"
		  }
		}
		
"found"：true 表示查询成功。

查询全部结果：数据结构

curl -X GET localhost:9200/user/admin_user/_search?pretty=true
结果：
		{
		  "took" : 75,
		  "timed_out" : false,
		  "_shards" : {
		    "total" : 5,
		    "successful" : 5,
		    "failed" : 0
		  },
		  "hits" : {
		    "total" : 2,
		    "max_score" : 1.0,
		    "hits" : [
		      {
		        "_index" : "user",
		        "_type" : "admin_user",
		        "_id" : "1",
		        "_score" : 1.0,
		        "_source" : {
		          "userName" : "张三",
		          "title" : "工程师",
		          "desc" : "数据库管理"
		        }
		      },
		      {
		        "_index" : "user",
		        "_type" : "admin_user",
		        "_id" : "AWESLcupvcrWFMesxEQY",
		        "_score" : 1.0,
		        "_source" : {
		          "userName" : "李四",
		          "title" : "工程师",
		          "desc" : "网络管理"
		        }
		      }
		    ]
		  }
		}
一个搜索默认返回10条结果。

match查询

以上的查询是带ID查询，返回全部文档，还有一种就是自定义查询，本身封装查询参数，实现全文搜索。Match查询主要是模糊匹配，不只能返回结果，并且对结果还有类似度的断定。

Match参数设置

查询用户名为张三的文档：
	
curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
	"query":{"match":{"userName":"张三"}}
	} ' 
结果：
	{
	  "took" : 6,
	  "timed_out" : false,
	  "_shards" : {
	    "total" : 5,
	    "successful" : 5,
	    "failed" : 0
	  },
	  "hits" : {
	    "total" : 1,
	    "max_score" : 1.7600523,
	    "hits" : [
	      {
	        "_index" : "user",
	        "_type" : "admin_user",
	        "_id" : "1",
	        "_score" : 1.7600523,
	        "_source" : {
	          "userName" : "张三",
	          "title" : "工程师",
	          "desc" : "数据库管理"
	        }
	      }
	    ]
	  }
	}

上面提到，一次查询默认返回10条记录，这里能够设置查询结果的条数。

curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
	"query":{"match":{"userName":"三"}},
	"size": 12
	} '

用了这种match方式去匹配查询，结果中有个_score这个属性，也就是类似度的参数（相关性得分）。

模糊匹配

这里match不能匹配多个字段。匹配多个字段要使用multi_match

[match] query doesn't support multiple fields, found [userName]and[title]
curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
	"query":{
		"multi_match":{
			"query":"张三", 
			"fields": ["userName","title"]
			}
		   }
	} '

去匹配userName字段和title字段，匹配关键字就是 张三。

bool查询

Bool查询至关于sql中的 OR AND NOT。 同一个字段用空格隔开表示 OR 。查询只会匹配当前字段，且多个关键词都会匹配。

curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
	"query":{"match":{"userName":"三 四"}}
} '

这里的查询会去匹配userName中有 三 和 四的记录。

bool查询也能够查询多个字段

curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
      "query": {
        "bool": {
          "must": [
          { "match": { "userName": "三" } },
          { "match": { "title": "师" } }
        ]
    }
  }
}'

结果：

结果

Bool查询中的关键字有：

  • must 全部的语句都 必须（must） 匹配，与 AND 等价。
  • must_not 全部的语句都 不能（must not） 匹配，与 NOT 等价。
  • should 至少有一个语句要匹配，与 OR 等价。

bool查询也能够多个条件嵌套使用：

curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
	  "query": {
	    "bool": {
	      "must":[
	        { "match": { "desc": "管理" } }
	      ],
		   "should":[
		      {"match" : {"title":"师"}} , 
		      {"match": { "userName": "三" }}
		  ]
	    }
	  }
	}'

这样匹配的结果中desc字段中必定有 '管理'，要么title中有' 师 '，要么userName中有' 三 '。

Range查询

在本实例中user索引的类型是admin_user，字段都为字符类型，须要再加一个数字类型的字段，相同的索引下能够有不一样类型的数据结构，也就是type能够不惟一。能够直接插入新的文档：

curl -X POST 'localhost:9200/user/admin_user/?pretty=true' -d ' 
	{
	 "userName" : "李四",
	 "title" : "工程师",
	 "desc" : "网络管理",
	 "age" : 27
	} '

插入成功

range 查询找出那些落在指定区间内的数字或者时间：

curl -X GET 'localhost:9200/user/admin_user/_search?pretty=ture' -d '
	{
	"query":{
		"range":{
		            "age" : { "gte":20, "lt":30 }
	     }
	  }
	}'

查询age在20到30之间的记录。

age在20到30之间

Range操做符以下：

  • gt：大于
  • gte：大于等于
  • lt：小于
  • lte：小于等于

term查询

term 查询被用于精确值匹配。在match查询中，会对输入值进行分词，而后再去匹配。term查询则没有分词这个过程，输入值是什么就去匹配什么。

curl -X GET 'localhost:9200/user/admin_user/_search?pretty=true' -d'
	{
	"query":{"term":{"desc":"网络,管理"}},
	"size": 12
	} '

结果什么都匹配不到：

结果

更多搜索方式：https://www.elastic.co/guide/cn/elasticsearch/guide/current/_more_complicated_searches.html

注意，若是没有先建立 Index（这个例子是user），直接执行上面的命令，ES 也不会报错，而是直接生成指定的 Index。因此，不要写错 Index 的名称。

安装ES遇到的一些问题

failed ; error = ' Cannot allocate memory (errno=12)'

警告

vim jvm.options
# change to 512m
-Xms512m
-Xms512m

can not run elasticsearch as root

报错

root 用户不能执行，须要建立其余用户运行。

groupadd elsearch
useradd elsearch -g elsearch
passwd elsearch

main ERROR Could not register mbeans java.security.AccessControlException:access denied

切换到普通用户出现的问题 

切换到普通用户出现的问题  须要把elasticSearch目录的全部者改变成当前用户：（-R 递归该目录下的全部文件） sudo chown -R elsearch:elsearch elasticSearch

ERROR:[1] bootstrap check failed

报错

修改 config/elasticsearch.yml以后没法启动

切换到root用户， vi /etc/security/limits.conf  添加以下内容:

* soft nofile 65536
* hard nofile 131072
* soft nproc 2048
* hard nproc 4096

此文件修改后须要从新登陆用户，才会生效

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程