源码详解系列(八) ------ 全面讲解HikariCP的使用和源码

简介

HikariCP 是用于建立和管理链接,利用“池”的方式复用链接减小资源开销,和其余数据源同样,也具备链接数控制、链接可靠性测试、链接泄露控制、缓存语句等功能,另外,和 druid 同样,HikariCP 也支持监控功能。php

HikariCP 是目前最快的链接池,就连风靡一时的 BoneCP 也中止维护,主动让位给它,SpringBoot 也把它设置为默认链接池。html

<img src="https://img2018.cnblogs.com/blog/1731892/202002/1731892-20200219095516084-1441290818.png" style="zoom: 50%;" />java

看过 HikariCP 源码的同窗就会发现,相比其余链接池,它真的很是轻巧且简单,有许多值得咱们学习的地方,尤为性能提高方面,本文也就针对这一方面重点分析。mysql

本文将包含如下内容(由于篇幅较长,可根据须要选择阅读):git

  1. HikariCP 的使用方法(入门案例、JDNI 使用、JMX 使用)
  2. HikariCP 的配置参数详解
  3. HikariCP 源码分析

其余链接池的内容也能够参考个人系列博客:github

源码详解系列(四) ------ DBCP2的使用和分析(包括JNDI和JTA支持)web

源码详解系列(五) ------ C3P0的使用和分析(包括JNDI)spring

源码详解系列(六) ------ 全面讲解druid的使用和源码sql

使用例子-入门

需求

使用 HikariCP 链接池获取链接对象,对用户数据进行简单的增删改查(sql 脚本项目中已提供)。数据库

工程环境

JDK:1.8.0_231

maven:3.6.1

IDE:Spring Tool Suite 4.3.2.RELEASE

mysql-connector-java:8.0.15

mysql:5.7 .28

Hikari:2.6.1

主要步骤

  1. 编写 hikari.properties,设置数据库链接参数和链接池基本参数等;

  2. 经过HikariConfig加载 hikari.properties 文件,并建立HikariDataSource对象;

  3. 经过HikariDataSource对象得到Connection对象;

  4. 使用Connection对象对用户表进行增删改查。

建立项目

项目类型Maven Project,打包方式war(其实jar也能够,之因此使用war是为了测试 JNDI)。

引入依赖

这里引入日志包,主要为了打印配置信息,不引入不会有影响的。

<dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
            <version>4.12</version>
            <scope>test</scope>
        </dependency>
        <!-- hikari -->
        <dependency>
            <groupId>com.zaxxer</groupId>
            <artifactId>HikariCP</artifactId>
            <version>2.6.1</version>
        </dependency>
        <!-- mysql驱动 -->
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>8.0.15</version>
        </dependency>
        <!-- log -->
        <dependency>
            <groupId>org.slf4j</groupId>
            <artifactId>slf4j-api</artifactId>
            <version>1.7.28</version>
            <type>jar</type>
            <scope>compile</scope>
        </dependency>
        <dependency>
            <groupId>ch.qos.logback</groupId>
            <artifactId>logback-core</artifactId>
            <version>1.2.3</version>
            <type>jar</type>
        </dependency>
        <dependency>
            <groupId>ch.qos.logback</groupId>
            <artifactId>logback-classic</artifactId>
            <version>1.2.3</version>
            <type>jar</type>
        </dependency>

编写hikari.properties

配置文件路径在resources目录下,由于是入门例子,这里仅给出数据库链接参数和链接池基本参数,后面会对全部配置参数进行详细说明。另外,数据库 sql 脚本也在该目录下。

#-------------基本属性--------------------------------
jdbcUrl=jdbc:mysql://localhost:3306/github_demo?useUnicode=true&characterEncoding=utf8&serverTimezone=GMT%2B8&useSSL=true
username=root
password=root
#JDBC驱动使用的Driver实现类类名
#默认为空。会根据jdbcUrl来解析
driverClassName=com.mysql.cj.jdbc.Driver

#-------------链接池大小相关参数--------------------------------
#最大链接池数量
#默认为10。可经过JMX动态修改
maximumPoolSize=10

#最小空闲链接数量
#默认与maximumPoolSize一致。可经过JMX动态修改
minimumIdle=0

获取链接池和获取链接

项目中编写了JDBCUtil来初始化链接池、获取链接、管理事务和释放资源等,具体参见项目源码。

路径:cn.zzs.hikari

HikariConfig config = new HikariConfig("/hikari.properties");
    DataSource dataSource = new HikariDataSource(config);

编写测试类

这里以保存用户为例,路径在 test 目录下的cn.zzs.hikari

@Test
    public void save() throws SQLException {
        // 建立sql
        String sql = "insert into demo_user values(null,?,?,?,?,?)";
        Connection connection = null;
        PreparedStatement statement = null;
        try {
            // 得到链接
            connection = JDBCUtils.getConnection();
            // 开启事务设置非自动提交
            connection.setAutoCommit(false);
            // 得到Statement对象
            statement = connection.prepareStatement(sql);
            // 设置参数
            statement.setString(1, "zzf003");
            statement.setInt(2, 18);
            statement.setDate(3, new Date(System.currentTimeMillis()));
            statement.setDate(4, new Date(System.currentTimeMillis()));
            statement.setBoolean(5, false);
            // 执行
            statement.executeUpdate();
            // 提交事务
            connection.commit();
        } finally {
            // 释放资源
            JDBCUtils.release(connection, statement, null);
        }
    }

使用例子-经过JNDI获取数据源

需求

本文测试使用 JNDI 获取HikariDataSource对象,选择使用tomcat 9.0.21做容器。

若是以前没有接触过 JNDI ,并不会影响下面例子的理解,其实能够理解为像 spring 的 bean 配置和获取。

引入依赖

本文在入门例子的基础上增长如下依赖,由于是 web 项目,因此打包方式为 war:

<dependency>
            <groupId>javax.servlet</groupId>
            <artifactId>jstl</artifactId>
            <version>1.2</version>
            <scope>provided</scope>
        </dependency>
        <dependency>
            <groupId>javax.servlet</groupId>
            <artifactId>javax.servlet-api</artifactId>
            <version>3.1.0</version>
            <scope>provided</scope>
        </dependency>
        <dependency>
            <groupId>javax.servlet.jsp</groupId>
            <artifactId>javax.servlet.jsp-api</artifactId>
            <version>2.2.1</version>
            <scope>provided</scope>
        </dependency>

编写context.xml

webapp文件下建立目录META-INF,并建立context.xml文件。这里面的每一个 resource 节点都是咱们配置的对象,相似于 spring 的 bean 节点。其中jdbc/hikariCP-test能够当作是这个 bean 的 id。

HikariCP 提供了HikariJNDIFactory来支持 JNDI 。

注意,这里获取的数据源对象是单例的,若是但愿多例,能够设置singleton="false"

<?xml version="1.0" encoding="UTF-8"?>
<Context>
  <Resource
      name="jdbc/hikariCP-test"
      factory="com.zaxxer.hikari.HikariJNDIFactory"
      auth="Container"
      type="javax.sql.DataSource"
   
      jdbcUrl="jdbc:mysql://localhost:3306/github_demo?useUnicode=true&amp;characterEncoding=utf8&amp;serverTimezone=GMT%2B8&amp;useSSL=true"
      username="root"
      password="root"
      driverClassName="com.mysql.cj.jdbc.Driver"
      maximumPoolSize="10"
      minimumIdle="0"
      />
</Context>

编写web.xml

web-app节点下配置资源引用,每一个resource-ref指向了咱们配置好的对象。

<!-- JNDI数据源 -->
    <resource-ref>
        <res-ref-name>jdbc/hikariCP-test</res-ref-name>
        <res-type>javax.sql.DataSource</res-type>
        <res-auth>Container</res-auth>
    </resource-ref>

编写jsp

由于须要在web环境中使用,若是直接建类写个main方法测试,会一直报错的,目前没找到好的办法。这里就简单地使用jsp来测试吧。

<body>
    <%
        String jndiName = "java:comp/env/jdbc/druid-test";
        
        InitialContext ic = new InitialContext();
        // 获取JNDI上的ComboPooledDataSource
        DataSource ds = (DataSource) ic.lookup(jndiName);
        
        JDBCUtils.setDataSource(ds);

        // 建立sql
        String sql = "select * from demo_user where deleted = false";
        Connection connection = null;
        PreparedStatement statement = null;
        ResultSet resultSet = null;
        
        // 查询用户
        try {
            // 得到链接
            connection = JDBCUtils.getConnection();
            // 得到Statement对象
            statement = connection.prepareStatement(sql);
            // 执行
            resultSet = statement.executeQuery();
            // 遍历结果集
            while(resultSet.next()) {
                String name = resultSet.getString(2);
                int age = resultSet.getInt(3);
                System.err.println("用户名:" + name + ",年龄:" + age);
            }
        } catch(SQLException e) {
            System.err.println("查询用户异常");
        } finally {
            // 释放资源
            JDBCUtils.release(connection, statement, resultSet);
        }
    %>
</body>

测试结果

打包项目在tomcat9上运行,访问 http://localhost:8080/hikari-demo/testJNDI.jsp ,控制台打印以下内容:

用户名:zzs001,年龄:18
用户名:zzs002,年龄:18
用户名:zzs003,年龄:25
用户名:zzf001,年龄:26
用户名:zzf002,年龄:17
用户名:zzf003,年龄:18

使用例子-经过JMX管理链接池

需求

开启 HikariCP 的 JMX 功能,并使用 jconsole 查看。

修改hikari.properties

在例子一基础上增长以下配置。这要设置 registerMbeans 为 true,JMX 功能就会开启。

#-------------JMX--------------------------------
#是否容许经过JMX挂起和恢复链接池
#默认为false
allowPoolSuspension=false

#是否开启JMX
#默认false
registerMbeans=true

#数据源名,通常用于JMX。
#默认自动生成
poolName=zzs001

编写测试类

为了查看具体效果,这里让主线程进入睡眠,避免结束。

public static void main(String[] args) throws InterruptedException {
        new HikariDataSourceTest().findAll();
        Thread.sleep(60 * 60 * 1000);
    }

使用jconsole查看

运行项目,打开 jconsole,选择咱们的项目后点链接,在 MBean 选项卡能够看到咱们的项目。经过 PoolConfig 能够动态修改配置(只有部分参数容许修改);经过 Pool 能够获取链接池的链接数(活跃、空闲和全部)、获取等待链接的线程数、挂起和恢复链接池、丢弃未使用链接等。

<img src="https://img2018.cnblogs.com/blog/1731892/202002/1731892-20200219095603999-720683005.png" alt="hikariCP_jmx" style="zoom:80%;" />

想了解更多 JMX 功能能够参考个人博客文章: 如何使用JMX来管理程序?

配置文件详解编写

相比其余链接池,HikariCP 的配置参数很是简单,其中有几个功能须要注意:HikariCP 强制开启借出测试和空闲测试,不开启回收测试,可选的只有泄露测试。

数据库链接参数

注意,这里在url后面拼接了多个参数用于避免乱码、时区报错问题。 补充下,若是不想加入时区的参数,能够在mysql命令窗口执行以下命令:set global time_zone='+8:00'

#-------------基本属性--------------------------------
jdbcUrl=jdbc:mysql://localhost:3306/github_demo?useUnicode=true&characterEncoding=utf8&serverTimezone=GMT%2B8&useSSL=true
username=root
password=root
#JDBC驱动使用的Driver实现类类名
#默认为空。会根据jdbcUrl来解析
driverClassName=com.mysql.cj.jdbc.Driver

链接池数据基本参数

这两个参数都比较经常使用,建议根据具体项目调整。

#-------------链接池大小相关参数--------------------------------
#最大链接池数量
#默认为10。可经过JMX动态修改
maximumPoolSize=10

#最小空闲链接数量
#默认与maximumPoolSize一致。可经过JMX动态修改
minimumIdle=0

链接检查参数

针对链接失效的问题,HikariCP 强制开启借出测试和空闲测试,不开启回收测试,可选的只有泄露测试。

#-------------链接检测状况--------------------------------
#用来检测链接是否有效的sql,要求是一个查询语句,经常使用select 'x'
#若是驱动支持JDBC4,建议不设置,由于这时默认会调用Connection.isValid()方法来检测,该方式效率会更高
#默认为空
connectionTestQuery=select 1 from dual

#检测链接是否有效的超时时间,单位毫秒
#最小容许值250 ms
#默认5000 ms。可经过JMX动态修改
validationTimeout=5000

#链接保持空闲而不被驱逐的最小时间。单位毫秒。
#该配置只有再minimumIdle < maximumPoolSize才会生效,最小容许值为10000 ms。
#默认值10000*60 = 10分钟。可经过JMX动态修改
idleTimeout=600000

#链接对象容许“泄露”的最大时间。单位毫秒
#最小容许值为2000 ms。
#默认0,表示不开启泄露检测。可经过JMX动态修改
leakDetectionThreshold=0

#链接最大存活时间。单位毫秒
#最小容许值30000 ms
#默认30分钟。可经过JMX动态修改
maxLifetime=1800000

#获取链接时最大等待时间,单位毫秒
#获取时间超过该配置,将抛出异常。最小容许值250 ms
#默认30000 ms。可经过JMX动态修改
connectionTimeout=300000

#在启动链接池前获取链接的超时时间,单位毫秒
#>0时,会尝试获取链接。若是获取时间超过指定时长,不会开启链接池,并抛出异常
#=0时,会尝试获取并验证链接。若是获取成功但验证失败则不开启池,可是若是获取失败仍是会开启池
#<0时,无论是否获取或校验成功都会开启池。
#默认为1
initializationFailTimeout=1

事务相关参数

建议保留默认就行。

#-------------事务相关的属性--------------------------------
#当链接返回池中时是否设置自动提交
#默认为true
autoCommit=true

#当链接从池中取出时是否设置为只读
#默认值false
readOnly=false

#链接池建立的链接的默认的TransactionIsolation状态
#可用值为下列之一:NONE,TRANSACTION_READ_UNCOMMITTED, TRANSACTION_READ_COMMITTED, TRANSACTION_REPEATABLE_READ, TRANSACTION_SERIALIZABLE
#默认值为空,由驱动决定
transactionIsolation=TRANSACTION_REPEATABLE_READ

#是否在事务中隔离内部查询。
#autoCommit为false时才生效
#默认false
isolateInternalQueries=false

JMX参数

建议不开启 allowPoolSuspension,对性能影响较大,后面源码分析会解释缘由。

#-------------JMX--------------------------------

#是否容许经过JMX挂起和恢复链接池
#默认为false
allowPoolSuspension=false

#是否开启JMX
#默认false
registerMbeans=true

#数据源名,通常用于JMX。
#默认自动生成
poolName=zzs001

其余

注意,这里的 dataSourceJndiName 不是前面例子中的 jdbc/hikariCP-test,这个数据源是用来建立原生链接对象的,通常用不到。

#-------------其余--------------------------------
#数据库目录
#默认由驱动决定
catalog=github_demo

#由JDBC驱动提供的数据源类名
#不支持XA数据源。若是不设置,默认会采用DriverManager来获取链接对象
#注意,若是设置了driverClassName,则不容许再设置dataSourceClassName,不然会报错
#默认为空
#dataSourceClassName=

#JNDI配置的数据源名
#默认为空
#dataSourceJndiName=

#在每一个链接获取后、放入池前,须要执行的初始化语句
#若是执行失败,该链接会被丢弃
#默认为空
#connectionInitSql=

#-------------如下参数仅支持经过IOC容器或代码配置的方式--------------------------------

#TODO
#默认为空
#metricRegistry

#TODO
#默认为空
#healthCheckRegistry

#用于Hikari包装的数据源实例
#默认为空
#dataSource

#用于建立线程的工厂
#默认为空
#threadFactory=

#用于执行定时任务的线程池
#默认为空
#scheduledExecutor=

源码分析

HikariCP 的源码轻巧且简单,读起来不会太吃力,因此,此次不会从头至尾地分析代码逻辑,更多地会分析一些设计巧妙的地方。

在阅读 HiakriCP 源码以前,须要掌握:CopyOnWriteArrayListAtomicIntegerSynchronousQueueSemaphoreAtomicIntegerFieldUpdater等工具。

注意:考虑篇幅和可读性,如下代码通过删减,仅保留所需部分 。

HikariCP为何快?

结合源码分析以及参考资料,相比 DBCP 和 C3P0 等链接池,HikariCP 快主要有如下几个缘由:

  1. 经过代码设计和优化大幅减小线程间的锁竞争。这一点主要经过 ConcurrentBag 来实现,下文会展开。
  2. 引入了更多 JDK 的特性,尤为是 concurrent 包的工具。DBCP 和 C3P0 出现时间较早,基于早期的 JDK 进行开发,也就很难享受到后面更新带来的福利;
  3. 使用 javassist 直接修改 class 文件生成动态代理,精简了不少没必要要的字节码,提升代理方法运行速度。相比 JDK 和 cglib 的动态代理,经过 javassist 直接修改 class 文件生成的代理类在运行上会更快一些(这是网上找到的说法,可是目前 JDK 和 cglib 已经通过了屡次优化,在代理类的运行速度上应该不会差一个数量级,我抽空再测试下吧)。HikariCP 涉及 javassist 的代码在 JavassistProxyFactory 类中,相关内容请自行查阅;
  4. 重视代码细节对性能的影响。下文到的 fastPathPool 就是一个例子,仔细琢磨 HikariCP 的代码就会发现许多相似的细节优化,除此以外还有 FastList 等自定义集合类;

接下来,本文将在分析源码的过程当中对以上几点展开讨论。

HikariCP的架构

在分析具体代码以前,这里先介绍下 HikariCP 的总体架构,和 DBCP2 的有点相似(可见 HikariCP 与 DBCP2 性能差别并非因为架构设计)。

<img src="https://img2018.cnblogs.com/blog/1731892/202002/1731892-20200219095639865-1841717102.png" alt="HikariUML.png" style="zoom: 80%;" />

咱们和 HikariCP 打交道,通常经过如下几个入口:

  1. 经过 JMX 调用HikariConfigMXBean来动态修改配置(只有部分参数容许修改,在配置详解里有注明);

  2. 经过 JMX 调用HikariPoolMXBean来获取链接池的链接数(活跃、空闲和全部)、获取等待链接的线程数、挂起和恢复链接池、丢弃未使用链接等;

  3. 使用HikariConfig加载配置文件,或手动配置HikariConfig的参数,通常它会做为入参来构造HikariDataSource对象;

  4. 使用HikariDataSource获取和丢弃链接对象,另外,由于继承了HikariConfig,咱们也能够经过HikariDataSource来配置参数,但这种方式不支持配置文件。

为何HikariDataSource持有HikariPool的两个引用

在图中能够看到,HikariDataSource持有了HikariPool的引用,看过源码的同窗可能会问,为何属性里会有两个HikariPool,以下:

public class HikariDataSource extends HikariConfig implements DataSource, Closeable
{
   private final HikariPool fastPathPool;
   private volatile HikariPool pool;
}

这里补充说明下,其实这里的两个HikariPool的不一样取值表明了不一样的配置方式:

配置方式一:当经过有参构造new HikariDataSource(HikariConfig configuration)来建立HikariDataSource时,fastPathPool 和 pool 是非空且相同的;

配置方式二:当经过无参构造new HikariDataSource()来建立HikariDataSource并手动配置时,fastPathPool 为空,pool 不为空(在第一次 getConnectionI() 时初始化),以下;

public Connection getConnection() throws SQLException
   {
      if (isClosed()) {
         throw new SQLException("HikariDataSource " + this + " has been closed.");
      }

      if (fastPathPool != null) {
         return fastPathPool.getConnection();
      }

      // 第二种配置方式会在第一次 getConnectionI() 时初始化pool
      HikariPool result = pool;
      if (result == null) {
         synchronized (this) {
            result = pool;
            if (result == null) {
               validate();
               LOGGER.info("{} - Starting...", getPoolName());
               try {
                  pool = result = new HikariPool(this);
               }
               catch (PoolInitializationException pie) {
                  if (pie.getCause() instanceof SQLException) {
                     throw (SQLException) pie.getCause();
                  }
                  else {
                     throw pie;
                  }
               }
               LOGGER.info("{} - Start completed.", getPoolName());
            }
         }
      }

      return result.getConnection();
   }

针对以上两种配置方式,其实使用一个 pool 就能够完成,那为何会有两个?咱们比较下这两种方式的区别:

private final T t1;
   private volatile T t2;
   public void method01(){
      if (t1 != null) {
         // do something
      }
   }
   public void method02(){
      T result = t2;
      if (result != null) {
         // do something
      }
   }

上面的两个方法中,执行的代码几乎同样,可是 method02 在性能上会比 method01 稍差。固然,主要问题不是出在 method02 多定义了一个变量,而在于 t2 的 volatile 性质,正由于 t2 被 volatile 修饰,为了实现数据一致性会出现没必要要的开销,因此 method02 在性能上会比 method01 稍差。pool 和 fastPathPool 的问题也是同理,因此,第二种配置方式不建议使用

经过上面的问题就会发现,HiakriCP 在追求性能方面很是重视细节,怪不得可以成为最快的链接池!

HikariPool--管理链接的池塘

HikariPool 是一个很是重要的类,它负责管理链接,涉及到比较多的代码逻辑。这里先简单介绍下这个类,对下文代码的具体分析会有所帮助。

<img src="https://img2018.cnblogs.com/blog/1731892/202002/1731892-20200219095716730-255561102.png" alt="HikariPoolUML" />

HikariPool 的几个属性说明以下:

属性类型和属性名 说明
HikariConfig config 配置信息。
PoolBase.IMetricsTrackerDelegate metricsTracker 指标记录器包装类。HikariCP支持Metrics监控,但须要额外引入jar包,本文不会涉及这一部份内容
Executor netTimeoutExecutor 用于执行设置链接超时时间的任务。若是是mysql驱动,实现为PoolBase.SynchronousExecutor,若是是其余驱动,实现为ThreadPoolExecutor,为何mysql不一样,缘由见:<br>https://bugs.mysql.com/bug.php?id=75615
DataSource dataSource 用于获取原生链接对象的数据源。通常咱们不指定的话,使用的是DriverDataSource
HikariPool.PoolEntryCreator POOL_ENTRY_CREATOR 建立新链接的任务,Callable实现类。通常调用一次建立一个链接
HikariPool.PoolEntryCreator POST_FILL_POOL_ENTRY_CREATOR 建立新链接的任务,Callable实现类。通常调用一次建立一个链接,与前者区别在于它建立最后一个链接,会打印日志
Collection<![CDATA[<Runnable>]> addConnectionQueue 等待执行PoolEntryCreator任务的队列
ThreadPoolExecutor addConnectionExecutor 执行PoolEntryCreator任务的线程池。以addConnectionQueue做为等待队列,只开启一个线程执行任务
ThreadPoolExecutor closeConnectionExecutor 执行关闭原生链接的线程池。只开启一个线程执行任务
ConcurrentBag<![CDATA[<PoolEntry>]> connectionBag 存放链接对象的包。用于borrow、requite、add和remove对象。
ProxyLeakTask leakTask 报告链接丢弃的任务,Runnable实现类。
SuspendResumeLock suspendResumeLock 基于Semaphore包装的锁。若是设置了isAllowPoolSuspension则会生效,默认MAX_PERMITS = 10000
ScheduledExecutorService houseKeepingExecutorService 用于执行HouseKeeper(链接检测任务和维持链接池大小)和ProxyLeakTask的任务。只开启一个线程执行任务
ScheduledFuture<?> houseKeeperTask houseKeepingExecutorService执行HouseKeeper(检测空闲链接任务)返回的结果,经过它能够结束HouseKeeper任务。

为了更清晰地理解上面几个字段的含义,我简单画了个图,不是很严谨,将就看下吧。在这个图中,PoolEntry 封装了 Connection 对象,在图中把它当作是链接对象会更好理解一些。咱们能够看到**ConcurrentBag 是整个 HikariPool 的核心**,其余对象都围绕着它进行操做,后面会单独讲解这个类。客户端线程能够调用它的 borrow、requite 和 remove 方法,houseKeepingExecutorService 线程能够调用它的 remove 方法,只有 addConnectionExecutor 能够进行 add 操做。

<img src="https://img2018.cnblogs.com/blog/1731892/202002/1731892-20200219095745457-1165943303.png" alt="HikariPoolSimpleProcess" style="zoom:80%;" />

borrow 和 requite 对于 ConcurrentBag 而言是只读的操做,addConnectionExecutor 只开启一个线程执行任务,因此 add 操做是单线程的,惟一存在锁竞争的就是 remove 方法。接下来会具体讲解 ConcurrentBag

ConcurrentBag--更少的锁冲突

在 HikariCP 中ConcurrentBag用于存放PoolEntry对象(封装了Connection对象,IConcurrentBagEntry实现类),本质上能够将它就是一个资源池。

ConCurrentBag

下面简单介绍下几个字段的做用:

属性 描述
CopyOnWriteArrayList<![CDATA[<T>]> sharedList 存放着状态为使用中、未使用和保留三种状态的PoolEntry对象。注意,CopyOnWriteArrayList是一个线程安全的集合,在每次写操做时都会采用复制数组的方式来增删元素,读和写使用的是不一样的数组,避免了锁竞争。
ThreadLocal<List<![CDATA[<Object>]>> threadList 存放着当前线程返还的PoolEntry对象。若是当前线程再次借用资源,会先从这个列表中获取。注意,这个列表的元素能够被其余线程“偷走”。
SynchronousQueue<![CDATA[<T>]> handoffQueue 这是一个无容量的阻塞队列,每一个插入操做须要阻塞等待删除操做,而删除操做不须要等待,若是没有元素插入,会返回null,若是设置了超时时间则须要等待。
AtomicInteger waiters 当前等待获取元素的线程数
IBagStateListener listener 添加元素的监听器,由HikariPool实现,在该实现中,若是waiting - addConnectionQueue.size() >= 0,则会让addConnectionExecutor执行PoolEntryCreator任务
boolean weakThreadLocals 元素是否使用弱引用。能够经过系统属性com.zaxxer.hikari.useWeakReferences进行设置

这几个字段在ConcurrentBag中如何使用呢,咱们来看看borrow的方法:

public T borrow(long timeout, final TimeUnit timeUnit) throws InterruptedException
   {
      // 1. 首先从threadList获取对象
       
      // 获取绑定在当前线程的List<Object>对象,注意这个集合的实现通常为FastList,这是HikariCP本身实现的,后面会讲到
      final List<Object> list = threadList.get();
       // 遍历结合
      for (int i = list.size() - 1; i >= 0; i--) {
         // 获取当前元素,并将它从集合中删除
         final Object entry = list.remove(i);
         // 若是设置了weakThreadLocals,则存放的是WeakReference对象,不然为咱们一开始设置的PoolEntry对象
         @SuppressWarnings("unchecked")
         final T bagEntry = weakThreadLocals ? ((WeakReference<T>) entry).get() : (T) entry;
          // 采用CAS方式将获取的对象状态由未使用改成使用中,若是失败说明其余线程正在使用它,这里可知,threadList上的元素能够被其余线程“偷走”。
         if (bagEntry != null && bagEntry.compareAndSet(STATE_NOT_IN_USE, STATE_IN_USE)) {
            return bagEntry;
         }
      }

      // 2.若是还没获取到,会从sharedList中获取对象
       
      // 等待获取链接的线程数+1
      final int waiting = waiters.incrementAndGet();
      try {
         // 遍历sharedList
         for (T bagEntry : sharedList) {
            // 采用CAS方式将获取的对象状态由未使用改成使用中,若是当前元素正在使用,则没法修改为功,进入下一循环
            if (bagEntry.compareAndSet(STATE_NOT_IN_USE, STATE_IN_USE)) {
               // 通知监听器添加包元素。若是waiting - addConnectionQueue.size() >= 0,则会让addConnectionExecutor执行PoolEntryCreator任务
               if (waiting > 1) {
                  listener.addBagItem(waiting - 1);
               }
               return bagEntry;
            }
         }
         // 通知监听器添加包元素。
         listener.addBagItem(waiting);
        
         // 3.若是还没获取到,会从轮训进入handoffQueue队列获取链接对象
         
         timeout = timeUnit.toNanos(timeout);
         do {
            final long start = currentTime();
               // 从handoffQueue队列中获取并删除元素。这是一个无容量的阻塞队列,插入操做须要阻塞等待删除操做,而删除操做不须要等待,若是没有元素插入,会返回null,若是设置了超时时间则须要等待
            final T bagEntry = handoffQueue.poll(timeout, NANOSECONDS);
            // 这里会出现三种状况,
            // 1.超时,返回null
            // 2.获取到元素,但状态为正在使用,继续执行
            // 3.获取到元素,元素状态未未使用,修改未使用并返回
            if (bagEntry == null || bagEntry.compareAndSet(STATE_NOT_IN_USE, STATE_IN_USE)) {
               return bagEntry;
            }
            // 计算剩余超时时间
            timeout -= elapsedNanos(start);
         } while (timeout > 10_000);
         // 超时返回null
         return null;
      }
      finally {
         // 等待获取链接的线程数-1
         waiters.decrementAndGet();
      }
   }

在以上方法中,惟一可能出现线程切换到就是handoffQueue.poll(timeout, NANOSECONDS),除此以外,咱们没有看到任何的 synchronized 和 lock。之因此能够作到这样主要因为如下几点:

  1. 元素状态的引入,以及使用CAS方法修改状态。在ConcurrentBag中,使用使用中、未使用、删除和保留等表示元素的状态,而不是使用不一样的集合来维护不一样状态的元素。元素状态这一律念的引入很是关键,为后面的几点提供了基础。 ConcurrentBag的方法中多处调用 CAS 方法来判断和修改元素状态,这一过程不须要加锁。
  2. threadList 的使用。当前线程归还的元素会被绑定到ThreadLocal,该线程再次获取元素时,在该元素未被偷走的前提下可直接获取到,不须要去 sharedList 遍历获取;
  3. 采用CopyOnWriteArrayList来存放元素。在CopyOnWriteArrayList中,读和写使用的是不一样的数组,避免了二者的锁竞争,至于多个线程写入,则会加 ReentrantLock 锁。
  4. sharedList 的读写控制。borrow 和 requite 对 sharedList 来讲都是不加锁的,缺点就是会牺牲一致性。用户线程没法进行增长元素的操做,只有 addConnectionExecutor 能够,而 addConnectionExecutor 只会开启一个线程执行任务,因此 add 操做不会存在锁竞争。至于 remove 是惟一会形成锁竞争的方法,这一点我认为也能够参照 addConnectionExecutor 来处理,在加入任务队列前把 PoolEntry 的状态标记为删除中。

其实,咱们会发现,ConcurrentBag在减小锁冲突的问题上,除了设计改进,还使用了比较多的 JDK 特性。

如何加载配置

在HikariCP 中,HikariConfig用于加载配置,具体的代码并不复杂,但相比其余项目,它的加载要更加简洁一些。咱们直接从PropertyElf.setTargetFromProperties(Object, Properties)方法开始看,以下:

// 这个方法就是将properties的参数设置到HikariConfig中
   public static void setTargetFromProperties(final Object target, final Properties properties)
   {
      if (target == null || properties == null) {
         return;
      }
    
      // 在这里会利用反射获取
      List<Method> methods = Arrays.asList(target.getClass().getMethods());
      // 遍历
      properties.forEach((key, value) -> {
         // 若是是dataSource.*的参数,直接加入到dataSourceProperties属性
         if (target instanceof HikariConfig && key.toString().startsWith("dataSource.")) {
            ((HikariConfig) target).addDataSourceProperty(key.toString().substring("dataSource.".length()), value);
         }
         else {
            // 若是不是,则经过set方法设置
            setProperty(target, key.toString(), value, methods);
         }
      });
   }

进入到PropertyElf.setProperty(Object, String, Object, List<Method>)方法:

private static void setProperty(final Object target, final String propName, final Object propValue, final List<Method> methods)
   {
      // 拼接参数的setter方法名
      String methodName = "set" + propName.substring(0, 1).toUpperCase(Locale.ENGLISH) + propName.substring(1);
      // 获取对应的Method 对象
      Method writeMethod = methods.stream().filter(m -> m.getName().equals(methodName) && m.getParameterCount() == 1).findFirst().orElse(null);
      // 若是不存在,按另外一套规则拼接参数的setter方法名
      if (writeMethod == null) {
         String methodName2 = "set" + propName.toUpperCase(Locale.ENGLISH);
         writeMethod = methods.stream().filter(m -> m.getName().equals(methodName2) && m.getParameterCount() == 1).findFirst().orElse(null);
      }
      // 若是该参数setter方法不存在,则抛出异常,从这里能够看出,HikariCP 中不能存在配错参数名的状况
      if (writeMethod == null) {
         LOGGER.error("Property {} does not exist on target {}", propName, target.getClass());
         throw new RuntimeException(String.format("Property %s does not exist on target %s", propName, target.getClass()));
      }
      
      // 接下来就是调用setter方法来配置具体参数了。
      try {
         Class<?> paramClass = writeMethod.getParameterTypes()[0];
         if (paramClass == int.class) {
            writeMethod.invoke(target, Integer.parseInt(propValue.toString()));
         }
         else if (paramClass == long.class) {
            writeMethod.invoke(target, Long.parseLong(propValue.toString()));
         }
         else if (paramClass == boolean.class || paramClass == Boolean.class) {
            writeMethod.invoke(target, Boolean.parseBoolean(propValue.toString()));
         }
         else if (paramClass == String.class) {
            writeMethod.invoke(target, propValue.toString());
         }
         else {
            writeMethod.invoke(target, propValue);
         }
      }
      catch (Exception e) {
         LOGGER.error("Failed to set property {} on target {}", propName, target.getClass(), e);
         throw new RuntimeException(e);
      }
   }

咱们会发现,相比其余项目(尤为是 druid),HikariCP 加载配置的过程很是简洁,不须要按照参数名一个个地加载,这样后期会更好维护。固然,这种方式咱们也能够运用到实际项目中。

获取一个链接对象的过程

如今简单介绍下获取链接对象的过程,咱们进入到HikariPool.getConnection(long)方法:

public Connection getConnection(final long hardTimeout) throws SQLException
   {  // 若是咱们设置了allowPoolSuspension为true,则这个锁会生效
      // 它采用Semaphore实现,MAX_PERMITS = 10000,正常状况不会用完,除非你挂起了链接池(经过JMX等方式),这时10000个permits会一次被消耗完
      suspendResumeLock.acquire();
      // 获取开始时间
      final long startTime = currentTime();

      try {
         // 剩余超时时间
         long timeout = hardTimeout;
         PoolEntry poolEntry = null;
         try {
            // 循环获取,除非获取到了链接或者超时
            do {
               // 从ConcurrentBag中借出一个元素
               poolEntry = connectionBag.borrow(timeout, MILLISECONDS);
               // 前面说过,只有超时状况才会返回空,这时会跳出循环并抛出异常
               if (poolEntry == null) {
                  break; 
               }

               final long now = currentTime();
               // 若是元素被标记为丢弃或者空闲时间过长且链接无效则会丢弃该元素,并关闭链接
               if (poolEntry.isMarkedEvicted() || (elapsedMillis(poolEntry.lastAccessed, now) > ALIVE_BYPASS_WINDOW_MS && !isConnectionAlive(poolEntry.connection))) {
                  closeConnection(poolEntry, "(connection is evicted or dead)"); // Throw away the dead connection (passed max age or failed alive test)
                  // 计算剩余超时时间
                  timeout = hardTimeout - elapsedMillis(startTime);
               }
               else {
                  // 这一步用于支持metrics监控,本文不涉及
                  metricsTracker.recordBorrowStats(poolEntry, startTime);
                  // 建立Connection代理类,该代理类就是使用Javassist生成的
                  return poolEntry.createProxyConnection(leakTask.schedule(poolEntry), now);
               }
            } while (timeout > 0L);
            // 不涉及
            metricsTracker.recordBorrowTimeoutStats(startTime);
         }
         catch (InterruptedException e) {
            // 获取链接过程若是中断,则回收链接并抛出异常
            if (poolEntry != null) {
               poolEntry.recycle(startTime);
            }
            Thread.currentThread().interrupt();
            throw new SQLException(poolName + " - Interrupted during connection acquisition", e);
         }
      }
      finally {
         // 释放一个permit
         suspendResumeLock.release();
      }
      // 抛出超时异常
      throw createTimeoutException(startTime);
   }

以上就是获取链接对象的过程,没有太复杂的逻辑。这里须要注意,使用 HikariCP 最好不要开启 allowPoolSuspension ,不然每次链接都会有获取和释放 permit 的过程。另外,HikariCP 默认 testOnBorrow,有点难以理解。

以上,HikariCP 的使用例子和源码分析基本讲完,后续有空再作补充。

参考资料

微信公众号【工匠小猪猪的技术世界】的追光者系列文章

相关源码请移步:https://github.com/ZhangZiSheng001/hikari-demo

本文为原创文章,转载请附上原文出处连接: http://www.javashuo.com/article/p-flxvizqo-v.html

原文出处:https://www.cnblogs.com/ZhangZiSheng001/p/12329937.html

相关文章
相关标签/搜索