干货 | Elasticsearch 集群健康值红色终极解决方案

题记
Elasticsearch当清理缓存（ echo 3 > /proc/sys/vm/drop_caches ）的时候，出现
以下集群健康值：red，红色预警状态，同时部分分片都成为灰色。

查看Elasticsearch启动日志会发现以下：
集群服务超时链接的状况。

bserver: timeout notification from cluster service. timeout setting [1m], time since start [1m]

该问题排查耗时很长，问题已经解决。
特将问题排查及解决方案详尽的整理出来。

一、集群状态解读

head插件会以不一样的颜色显示。

1）、绿色——最健康的状态，表明全部的主分片和副本分片均可用；
2）、黄色——全部的主分片可用，可是部分副本分片不可用；
3）、红色——部分主分片不可用。（此时执行查询部分数据仍然能够查到，遇到这种状况，仍是赶快解决比较好。）

参考官网：http://t.cn/RltLEpN（部分中文集群健康状态博文资料翻译的不够精确，以官网为准）

若是集群状态为红色， Head插件显示：集群健康值red 。则说明：至少一个主分片分配失败。

这将致使一些数据以及索引的某些部分再也不可用。

尽管如此， ElasticSearch仍是容许咱们执行查询，至因而通知用户查询结果可能不完整仍是挂起查询，则由应用构建者来决定。

二、什么是unassigned 分片？
一句话解释：未分配的分片。
启动ES的时候，经过Head插件不停刷新，你会发现集群分片会呈现紫色、灰色、最终绿色的状态。

三、为何会出现 unassigned 分片？
若是不能分配分片，例如，您已经为集群中的节点数过度分配了副本分片的数量，则分片将保持UNASSIGNED状态。
其错误码为：ALLOCATION_FAILED。

你能够经过以下指令，查看集群中不一样节点、不一样索引的状态。

GET _cat/shards?h=index,shard,prirep,state,unassigned.reason

四、出现unassigned 分片后的症状？
head插件查看会：Elasticsearch启动N长时候后，某一个或几个分片仍持续为灰色。

五、unassigned 分片问题可能的缘由？

1）INDEX_CREATED：因为建立索引的API致使未分配。

2）CLUSTER_RECOVERED ：因为彻底集群恢复致使未分配。

3）INDEX_REOPENED ：因为打开open或关闭close一个索引致使未分配。

4）DANGLING_INDEX_IMPORTED ：因为导入dangling索引的结果致使未分配。

5）NEW_INDEX_RESTORED ：因为恢复到新索引致使未分配。

6）EXISTING_INDEX_RESTORED ：因为恢复到已关闭的索引致使未分配。

7）REPLICA_ADDED：因为显式添加副本分片致使未分配。

8）ALLOCATION_FAILED ：因为分片分配失败致使未分配。

9）NODE_LEFT ：因为承载该分片的节点离开集群致使未分配。

10）REINITIALIZED ：因为当分片从开始移动到初始化时致使未分配（例如，使用影子shadow副本分片）。

11）REROUTE_CANCELLED ：做为显式取消从新路由命令的结果取消分配。

12）REALLOCATED_REPLICA ：肯定更好的副本位置被标定使用，致使现有的副本分配被取消，出现未分配。

六、集群状态红色如何排查？
症状：集群健康值红色;
日志：集群服务链接超时；
可能缘由：集群中部分节点的主分片未分配。
接下来的解决方案主要围绕：使主分片unsigned 分片完成再分配展开。

七、如何Fixed unassigned 分片问题？
方案一：极端状况——这个分片数据已经不可用，直接删除该分片。
ES中没有直接删除分片的接口，除非整个节点数据已再也不使用，删除节点。

curl -XDELETE ‘localhost:9200/index_name/’

方案二：集群中节点数量>=集群中全部索引的最大副本数量 +１。
N> = R + 1
其中：
N——集群中节点的数目；
R——集群中全部索引的最大副本数目。
知识点：

当节点加入和离开集群时，主节点会自动从新分配分片，以确保分片的多个副本不会分配给同一个节点。

换句话说，主节点不会将主分片分配给与其副本相同的节点，也不会将同一分片的两个副本分配给同一个节点。
若是没有足够的节点相应地分配分片，则分片可能会处于未分配状态。
因为个人集群就一个节点，即Ｎ＝１；因此Ｒ＝０，才能知足公式。

问题就转嫁为：
１）添加节点处理，即Ｎ增大；
２）删除副本分片，即R置为0。
R置为0的方式，能够经过以下命令行实现：

curl -XPUT "http://localhost:9200/_settings" -d'
{ "number_of_replicas" : 0 } '

方案三：allocate从新分配分片。
若是方案二仍然未解决，能够考虑从新分配分片。

可能的缘由：

1）节点在从新启动时可能遇到问题。正常状况下，当一个节点恢复与群集的链接时，它会将有关其分片的信息转发给主节点，而后主节点将这分片从“未分配”转换为“已分配/已启动”。

2）当因为某种缘由（例如节点的存储已被损坏）致使该进程失败时，分片可能保持未分配状态。

在这种状况下，您必须决定如何继续：尝试让原始节点恢复并从新加入集群（而且不要强制分配主分片）；

或者强制使用Reroute API分配分片并从新索引缺乏的数据原始数据源或备份。
若是您决定分配未分配的主分片，请确保将“allow_primary”：“true”标志添加到请求中。

ES5.X使用脚本以下：

NODE="YOUR NODE NAME"IFS=$'\n'for line in
$(curl -s 'localhost:9200/_cat/shards' |
fgrep UNASSIGNED);
do
INDEX=$(echo $line | (awk '{print $1}'))
SHARD=$(echo $line | (awk '{print $2}'))

curl -XPOST 'localhost:9200/_cluster/reroute' -d '{
"commands": [
{
" allocate_replica ": {
"index": "'$INDEX'",
"shard": '$SHARD',
"node": "'$NODE'",
"allow_primary": true
}
}
]
}'done

ES2.X及早期版本，将 allocate_replica改成 allocate，其余不变。

脚本解读：
步骤1：定位 UNASSIGNED 的节点和分片。

curl -s 'localhost:9200/_cat/shards' |
fgrep UNASSIGNED

步骤2：经过 allocate_replica 将 UNASSIGNED的分片从新分配。

八、核心知识点
1）路由
原理很简单，把每一个用户的数据都索引到一个独立分片中，在查询时只查询那个用户的分片。这时就须要使用路由。
使用路由优点：路由是优化集群的一个很强大的机制。
它能让咱们根据应用程序的逻辑来部署文档, 从而能够用更少的资源构建更快速的查询。

2）在索引过程当中使用路由
咱们能够经过路由来控制 ElasticSearch 将文档发送到哪一个分片。
路由参数值可有可无，能够取任何值。重要的是在将不一样文档放到同一个分片上时, 须要使用相同的值。

3）指定路由查询
路由容许用户构建更有效率的查询，当咱们只须要从索引的一个特定子集中获取数据时, 为何非要把查询发送到全部的节点呢?

指定路由查询举例:

curl -XGET 'localhost:9200/documents/_search?pretty&q=:&routing=A'

4）集群再路由reroute
reroute命令容许显式地执行包含特定命令的集群从新路由分配。

例如，分片能够从一个节点移动到另外一个节点，能够取消分配，或者能够在特定节点上显式分配未分配的分片。

5）allocate分配原理
分配unassigned的分片到一个节点。

将未分配的分片分配给节点。接受索引和分片的索引名称和分片号，以及将分片分配给它的节点。。
它还接受allow_primary标志来明确指定容许显式分配主分片（可能致使数据丢失）。

九、小结
1）该问题的排查累计超过6个小时，最终找到解决方案。以前几近没有思路，想放弃，但咬牙最终解决。

2) 切记，第一手资料很重要！
Elasticsearch出现问题，最高效的解决方案是第一手资料ES英文官网文档，其次是ES英文论坛、ES github issues，再次是stackoverflow等英文论坛、博客。最后才是：Elasticsearch中文社区、其余相关中文技术博客等。

由于：全部的论坛、博客文字都是基于ES英文官方文档再整理，不免有缺失或错误。

3）本身的Elasticsearch基础原理、Lucene基础知识的不牢固，别无它法，继续深刻研究，继续死磕中…….

参考
一、官网文档地址：http://t.cn/RlttuVY
二、Elasticsearch unassigned shards 应急处理方案 ：http://t.cn/Rlwub5s
三、解决Unassigned Shards大探讨：http://t.cn/RlwuVFn
四、快照&从新存储数据方案：http://t.cn/RlwuXmm