Sentinel 系统自适应限流原理剖析与实战指导

作积极的人，越努力越幸运！

看到标题中的几个关键字系统自适应限流是否是以为高大上，这个自适应又是如何实现的呢？

一、Sentinel 系统自适应概述

---

从官方了解到 Sentienl 系统自适应限流是一个全局的概念，对应用入口流量统一进行统一控制，结合应用的机器负载、CPU 使用率，整体平均响应时间、入口 QPS 和并发线程数等几个维度的监控指标从而决定是否调用进行限流操做。为了有一个直观的感觉，咱们能够从官方的运维平台看看其系统自适应限流的操做界面：

RT、线程数、入口QPS这三个指标是能够经过采集调用信息进行统计计算的，那系统LOAD、CPU使用率是如何获取的呢？你们能够带着这个问题进入本文的学习中来。
在详细分析系统自适应实现原理以前咱们先来思考一下 Sentinel 引入该机制的目的。

官方文档针对这个问题有过仔细阐述，咱们先来看看官方文档对其阐述。

引入系统自适应限流的主要的目的有以下两个：

• 保证系统不被拖垮
• 在系统稳定的前提下保证系统的吞吐量。
  目前咱们接触的限流的防御思路都是设定一个指标（阔值），例如系统的负载 load 超过某个阔值后就阻止或减小流量的继续进入，当系统负载下降到某一水平后则恢复流量的进入。一般都是被动的，其实际效果取决于阔值设置是否合理，但每每设置合理不是一件容易的事情。

那 Sentinel 提供的系统自适应是能够将设定的规则做为一个保护因子，而容许经过的流量由处理请求的能力来决定，即根据请求的响应时间、当前系统正在处理的请求速率来决定。

那 Sentinel 是如何实现的呢？接下来用源码的手段来揭晓其实现原理。

二、系统自适应限流原理

---

Sentinel 执行系统限流的核心入口类为 SystemSlot，该类实现简单，以下图所示：

SystemRuleManager#checkSystem

从这里能够看出实现的关键在于SystemRuleManager，这里是直接调用 checkSystem 进行是否触发其限流，那咱们接下来重点跟踪一下该方法的实现。

2.1 自适应限流检测流程

系统自适应限流检测具体由 SystemRuleManager 的 checkSystem 方法实现，接下来详细剖析其实现细节。

Step1：验证相关资源，主要包含三层验证：

• 若是资源名称为空，则直接跳过，这个是容错机制。
  若是系统自适应开关为打开，直接放行，该开关初始化时为 false，在加载到一条系统自适应配置规则时该状态会设置为 true，具体在 loadSystemConf 中。
  若是资源的类型不是入口流量(EntryType.IN),则直接放行。
  
  Step2：从QPS为维度验证是否须要被限流，其实现关键点以下：
• 当前的qps，若是 ENTRY_NODE 为空则返回0，不然返回该统计节点的成功 qps，那 ENTRY_NODE 统计节点是“何许人也”，原来是 Sentinel 特定定义了一个资源，其名称为total_inbound_traffic，用来采集全部入口调用的信息，当资源进入类型为 ENTRY_TYPE_IN 时，会自动采集信息，其具体统计信息在 StatisticSlot 的 entry 方法中被调用，其截图以下：
  
• 若是当前调用的 QPS 大于设定的QPS，即触发限流，那这个 qps 又是在何时被设置的呢？也是在加载系统限流规则时被设置，若是一个应用同一个限流点（LOAD、QPS)设置了多条规则，最小值生效。
  
  Step3：关于线程数、响应时间限流模式与QPS相似，就再也不重复介绍。
  

Step4：若是当前系统的负载超过了设定的阔值的处理逻辑，这里就是自适应的核心所在，并非超过负载就限流，而是须要根据当前系统的请求处理能力进行综合判断，具体逻辑在 checkBbr 方法中实现。关于如何得到系统负载与 checkBbr 方法稍后会详细介绍。

Step5：若是当前CPU的负载超过了设置的阔值，触发限流，那在JAVA中是如何获取CPU的使用率的呢？稍后详细介绍。

2.2 根据系统负载自适应算法详解

正如上面的第4步骤，根据系统 Load 的会采用 TCP BBR 算法来评估是否限流，具体实现代码以下：

SystemRuleManager#checkSystem

在 Sentinel 中估算系统的容量是以 1s 为度量长度，用该秒内经过的最大 qps 与 最小响应时间的乘积来表示，具体的计算细节：

• maxSuccessQps 的计算取当前采样窗口的最大值乘以1s内滑动窗口的个数，这里其实并非十分准确。
• minRt 最小响应时间取自当前采样窗口中的最小响应时间。
  故得出了上述计算公式，除以1000是由于 minRt 的时间单位是毫秒，统一为秒。从这里能够看出根据系统负载作限流，最终的判断依据是线程数量。

2.3 JAVA如何得到操做系统负载状况

在 Sentinel 中获取操做系统负载状况的类：SystemStatusListener，每秒采集一次。

SystemStatusListener#run
原来能够经过JDK中的 com.sun.management.OperatingSystemMXBean 获取操做系统相关的信息。

舒适提示：上述只对 Linux/Unix 操做系统有效，对 windows 无效。

三、实践思考

---

通过上面的分析，Sentinel 中的系统自适应其实指的是按照应用所在机器的操做系统负载，再结合应用自己的请求处理能力进行的自适应，操做系统的负载状况能够经过 top 命令输出，其示例以下：

尽管 Sentienl 的系统规则配置类型分为 LOAD、CPU、RT、线程数、入口QPS等维度进行限流，但自适应主要是针对 LOAD 这种状况的。
Sentinel 系统级别的限流规则并非针对某一个资源，而是针对应用全部定义EntryType.IN的资源，在使用时尤为须要注意，特别是若是一个机器上部署了多个应用，可能会形成应用自己负载不高，但所在的机器因为其余应用程序致使资源负载偏高，从而触发限流。
原创不易，若是对你有所帮助请你为本文点个【在看】吧，这将是我写做更多优质文章的最强动力。

欢迎加入个人知识星球，一块儿交流源码，探讨架构，揭秘亿级订单的架构设计与实践经验，打造高质量的技术交流圈，为广大星友提供高质量问答服务，长按以下二维码加入。