该如何编写“高性能 Java 代码的实践”

介绍

首先将介绍如何定义可度量的性能指标，而后看看有哪些工具能够用来度量和监控应用程序性能，以及肯定性能瓶颈。

咱们还将看到一些常见的Java代码优化方法以及最佳编码实践。如今咱们看看用于提高Java应用程序性能的JVM调优技巧和架构调整， 性能优化是一个很宽泛的话题，本文只是对JVM调优相关的一些技巧。

性能指标

在开始优化应用程序的性能以前，咱们须要理解诸如可扩展性、性能、可用性等方面的非功能需求。

如下是典型Web应用程序经常使用的一些性能指标：

1. 应用程序平均响应时间
2. 系统必须支持的平均并发用户数
3. 在负载高峰期间，预期的每秒请求数

这些指标能够经过使用多种监视工具监测到，它们对分析性能瓶颈和性能调优有着很是大的做用。

示例应用程序

咱们将使用一个简单的Spring Boot Web应用程序做为示例，在这篇文章中有相关的介绍。这个应用程序可用于管理员工列表，并对外公开了添加和检索员工的REST API。

咱们将使用这个程序做为参考来运行负载测试，并在接下来的章节中监控各类应用指标。

找出性能瓶颈

负载测试工具和应用程序性能管理（APM）解决方案经常使用于跟踪和优化Java应用程序的性能。要找出性能瓶颈，主要就是对各类应用场景进行负载测试，并同时使用APM工具对CPU、IO、堆的使用状况进行监控等等。

Gatling是进行负载测试最好的工具之一，它提供了对HTTP协议的支持，是HTTP服务器负载测试的绝佳选择。

Stackify的Retrace是一个成熟的APM解决方案。它的功能很丰富，对肯定应用程序的性能基线颇有帮助。 Retrace的关键组件之一是它的代码分析功能，它可以在不减慢应用程序的状况下收集运行时信息。

Retrace还提供了监视基于JVM应用程序的内存、线程和类的小部件。除了应用程序自己的指标以外，它还支持监视托管应用程序的服务器的CPU和IO使用状况。

所以，像Retrace这样功能全面的监控工具是解锁应用程序性能潜力的第一步。而第二步则是在你的系统上重现真实使用场景和负载。

提及来容易，作起来难，并且了解应用程序当前的性能也很是重要。这就是咱们接下来要关注的问题。

Gatling负载测试

Gatling的模拟测试脚本是用Scala编写的，但该工具还附带了一个很是有用的图形界面，可用于记录具体的场景，并生成Scala脚本。

在运行模拟脚本以后，Gatling会生成一份很是有用的、可用于分析的HTML报告。

定义场景

在启动记录器以前，咱们须要定义一个场景，表示用户在浏览Web应用时发生的事情。

在咱们的这个例子中，具体的场景将是“启动200个用户，每一个用户发出一万个请求。”

配置记录器

根据“Gatling的第一步”所述，用下面的代码建立一个名为EmployeeSimulation的scala文件：

class EmployeeSimulation extends Simulation {
    val scn = scenario("FetchEmployees").repeat(10000) {
        exec(
          http("GetEmployees-API")
            .get("http://localhost:8080/employees")
            .check(status.is(200))
        )
    }
    setUp(scn.users(200).ramp(100))
}复制代码

运行负载测试

要执行负载测试，请运行如下命令：

$GATLING_HOME/bin/gatling.sh-sbasic.EmployeeSimulation复制代码

对应用程序的API进行负载测试有助于发现及其细微的而且难以发现的错误，如数据库链接耗尽、高负载状况下的请求超时、由于内存泄漏而致使堆的高使用率等等。

监控应用程序

要使用Retrace进行Java应用程序的开发，首先须要在Stackify上申请免费试用帐号。而后，将咱们本身的Spring Boot应用程序配置为Linux服务。咱们还须要在托管应用程序的服务器上安装Retrace代理，按照这篇文章所述的操做便可。

Retrace代理和要监控的Java应用程序启动后，咱们就能够到Retrace仪表板上单击AddApp按钮添加应用了。添加应用完成以后，Retrace将开始监控应用程序了。

找到最慢的那个点

Retrace会自动监控应用程序，并跟踪数十种常见框架及其依赖关系的使用状况，包括SQL、MongoDB、Redis、Elasticsearch等等。Retrace能帮助咱们快速肯定应用程序为何会出现以下性能问题：

• 某个SQL语句是否会拖慢系统的速度？
• Redis忽然变慢了吗？
• 特定的HTTP Web服务宕了，仍是变慢了？

例如，下面的图形展现了在一段给定的时间内速度最慢的组件。

代码级别的优化

负载测试和应用程序监控对于肯定应用程序的一些关键性能瓶颈很是有用。但同时，咱们须要遵循良好的编码习惯，以免在对应用程序进行监控的时候出现过多的性能问题。

在下一章节中，咱们未来看一些最佳实践。

使用StringBuilder来链接字符串

字符串链接是一个很是常见的操做，也是一个低效率的操做。简单地说，使用+=来追加字符串的问题在于每次操做都会分配新的String。

下面这个例子是一个简化了的但却很典型的循环。前面使用了原始的链接方式，后面使用了构建器：

public String stringAppendLoop() {
    String s = "";    for (int i = 0; i < 10000; i++) {        if (s.length() > 0)
            s += ", ";
        s += "bar";
    }    return s;
}public String stringAppendBuilderLoop() {
    StringBuilder sb = new StringBuilder();    for (int i = 0; i < 10000; i++) {        if (sb.length() > 0)
            sb.append(", ");
        sb.append("bar");
    }    return sb.toString();
}复制代码

上面代码中使用的StringBuilder对性能的提高很是有效。请注意，现代的JVM会在编译或者运行时对字符串操做进行优化。

避免递归

致使出现StackOverFlowError错误的递归代码逻辑是Java应用程序中另外一种常见的问题。若是没法去掉递归逻辑，那么尾递归做为替代方案将会更好。

咱们来看一个头递归的例子：

public int factorial(int n) {    if (n == 0) {        return 1;
    } else {        return n * factorial(n - 1);
    }
}复制代码

如今咱们把它重写为尾递归：

private int factorial(int n, int accum) {    if (n == 0) {        return accum;
    } else {        return factorial(n - 1, accum * n);
    }
}public int factorial(int n) {    return factorial(n, 1);
}复制代码

其余JVM语言（如Scala）已经在编译器级支持尾递归代码的优化，固然，对于这种优化目前也存在着一些争议。

谨慎使用正则表达式

正则表达式在不少场景中都很是有用，但它们每每具备很是高的性能成本。了解各类使用正则表达式的JDK字符串方法很重要，例如String.replaceAll()、String.split()。

若是你不得不在计算密集的代码段中使用正则表达式，那么须要缓存Pattern的引用而避免重复编译：

static final Pattern HEAVY_REGEX = Pattern.compile("(((X)*Y)*Z)*");复制代码

使用一些流行的库，好比Apache Commons Lang也是一个很好的选择，特别是在字符串的操做方面。

避免建立和销毁过多的线程

线程的建立和处置是JVM出现性能问题的常见缘由，由于线程对象的建立和销毁相对较重。

若是应用程序使用了大量的线程，那么使用线程池会更加有用，由于线程池容许这些昂贵的对象被重用。

为此，Java的ExecutorService是线程池的基础，它提供了一个高级API来定义线程池的语义并与之进行交互。

Java 7中的Fork/Join框架也值得提一下，由于它提供了一些工具来尝试使用全部可用的处理器核心以帮助加速并行处理。为了提升并行执行效率，框架使用了一个名为ForkJoinPool的线程池来管理工做线程。

JVM调优

堆大小的调优

为生产系统肯定合适的JVM堆大小并非一件简单的事情。要作的第一步是回答如下问题以预测内存需求：

1. 计划要把多少个不一样的应用程序部署到单个JVM进程中，例如EAR文件、WAR文件、jar文件的数量是多少？
2. 在运行时可能会加载多少个Java类，包括第三方API的类？
3. 估计内存缓存所需的空间，例如，由应用程序（和第三方API）加载的内部缓存数据结构，好比从数据库缓存的数据、从文件中读取的数据等等。
4. 估计应用程序将建立的线程数。

若是没有通过真实场景的测试，这些数字很难估计。

要得到有关应用程序需求的最好最可靠的方法是对应用程序执行实际的负载测试，并在运行时跟踪性能指标。咱们以前讨论的基于Gatling的测试就是一个很好的方法。

选择合适的垃圾收集器

Stop-the-world（STW）垃圾收集的周期是影响大多数面向客户端应用程序响应和总体Java性能的大问题。可是，目前的垃圾收集器大多解决了这个问题，而且经过适当的优化和大小的调整，可以消除对收集周期的感知。

分析器、堆转储和详细的GC日志记录工具对此有必定的帮助做用。再一次注意，这些都须要在真实场景的负载模式下进行监控。

有关不一样垃圾收集器的更多信息，请查看这个指南。

JDBC性能

关系型数据库是Java应用程序中另外一个常见的性能问题。为了得到完整请求的响应时间，咱们很天然地必须查看应用程序的每一层，并思考如何让代码与底层SQL DB进行交互。

链接池

让咱们从众所周知的事实开始，即数据库链接是昂贵的。 链接池机制是解决这个问题很是重要的第一步。

这里建议使用HikariCP JDBC，这是一个很是轻量级（大约130Kb）而且速度极快的JDBC链接池框架。

JDBC批处理

持久化处理应尽量地执行批量操做。 JDBC批处理容许咱们在单次数据库交互中发送多个SQL语句。

这样，不管是在驱动端仍是在数据库端，性能均可能获得显著地提高。 * PreparedStatement*是一个很是棒的的批处理命令，一些数据库系统（例如Oracle）只支持预处理语句的批处理。

另外一方面，Hibernate则更加灵活，它容许咱们只需修改一个配置便可快速切换为批处理操做。

语句缓存

语句缓存是另外一种提升持久层性能的方法，这是一种不为人知但又容易掌握的性能优化方法。

只要底层的JDBC驱动程序支持，你就能够在客户端（驱动程序）或数据库端（语法树甚至执行计划）中缓存PreparedStatement。

规模的缩放

数据库复制和分片是提升吞吐量很是好的方法，咱们应该充分利用这些通过实践检验的架构模式，以扩展企业应用的持久层。

架构改进

缓存

如今内存的价格很低，并且愈来愈低，从磁盘或经过网络来检索数据的性能代价仍然很高。缓存天然而然的变成了在应用程序性能方面不能忽视的关键。

固然，在应用的拓扑结构中引入一个独立的缓存系统确实会增长架构的复杂度，因此，应当充分利用当前使用的库和框架现有的缓存功能。

例如，大多数的持久化框架都支持缓存。 Spring MVC等Web框架还可使用Spring中内置的缓存支持，以及基于ETags的强大的HTTP级缓存。

横向扩展

不管咱们在单个实例中准备了多少硬件，都会有不够用的时候。简而言之，扩展有着天生的局限性，当系统遇到这些问题时，横向扩展是处理更多负载的惟一途径。这一步确定会至关的复杂，但倒是扩展应用的惟一办法。

对大多数的现代框架和库来讲，这方面仍是支持得很好的，并且会变得愈来愈好。 Spring生态系统有一个完整的项目集，专门用于解决这个特定的应用程序架构领域，其余大多数的框架也都有相似的支持。

除了可以提高Java的性能，经过集群进行横向扩展也有其余的好处，添加新的节点能产生冗余，并更好的处理故障，从而提升整个系统的可用性。

结论

在这篇文章中，咱们围绕着提高Java应用的性能探讨了许多概念。咱们首先介绍了负载测试、基于APM工具的应用程序和服务器监控，随后介绍了编写高性能Java代码的一些最佳实践。最后，咱们研究了JVM特定的调优技巧、数据库端的优化和架构方面的调整。