素小暖讲JVM：JVM内存调优

本系列是用来记录《深刻理解Java虚拟机》这本书的读书笔记。方便本身查看，也方便你们查阅。

欲速则不达，欲达则欲速！

1、VM内存的系统级调优

首选注意在对JVM内存调优的时候不能只看操做系统级别java进程所占用的内存，这个数值不能准确的反应堆内存的真实占用状况，由于GC事后这个值是不会变化的，所以内存调优的时候要更多地使用JDK提供的内存查看工具，好比JConsole和java VisualVM。

对JVM内存的系统级的调优主要目的是减小GC的频率和Full GC的次数，过多的GC和Full GC是会占用不少的系统资源（主要是CPU），影响系统的吞吐量。特别要关注Full GC，由于它会对整个堆进行整理，Full GC通常由如下几个缘由致使：

一、老年代空间不足

调优时尽可能让对象在新生代GC时被回收、让对象在新生代多存活一段时间和不要建立过大的对象及数组避免直接在老年代建立对象

二、持久代;空间不足

增大持久代空间，避免太多静态对象

三、System.gc()被显示调用

垃圾回收不要手动触发，尽可能依靠JVM自身的机制 

2、调优手段

调优手段主要是经过控制堆内存的各个部分的比例和GC策略来实现，下面来看看各部分比例不良设置会致使什么后果：

一、新生代设置太小

• 新生代GC次数很是频繁，增大系统消耗
• 致使大对象直接进入老年代，占据了老年代剩余空间，诱发Full GC

二、新生代设置过大

• 新生代设置过大会致使老年代太小，从而诱发Full GC
• 新生代GC耗时大幅度增长

通常来讲新生代占整个堆1/3比较合适

三、保留空间Survivor设置太小

致使对象从使用空间eden直接到达老年代，下降了在新生代的存活时间

四、保留空间Survivor设置过大

致使eden太小，增长了GC频率

另外，经过-XX:MaxTenuringThreshold=n来控制新生代存活时间，尽可能让对象在新生代被回收

JVM提供两种较为简单的GC策略的设置方式

（1）吞吐量优先

JVM以吞吐量为指标，自行选择相应的GC策略及控制新生代与老年代的大小比例，来达到吞吐量指标。这个值可由-XX:GCTimeRatio=n来设置。

（2）暂停时间优先

JVM以暂停时间为指标，自行选择相应的GC策略及控制新生代和老年代的大小比例，尽可能保证每次GC形成的应用中止时间都在指定的数值范围内完成，这个值可由-XX:MaxGCPauseRatio=n来设置。

3、JVM参数设置、分析

无论是YGC仍是Full GC,GC过程当中都会对致使程序运行中中断,正确的选择HotSpot VM GC 的种类，调整JVM、GC的参数，能够极大的减小因为GC工做，而致使的程序运行中断方面的问题，进而适当的提升Java程序的工做效率。可是调整GC是一个极为复杂的过程，因为各个程序具有不一样的特色，如：web和GUI程序就有很大区别（Web能够适当的停顿，但GUI停顿是客户没法接受的），并且因为跑在各个机器上的配置不一样（主要cup个数，内存不一样），因此使用的GC种类也会不一样(如何选择见HotSpot VM GC 的种类)。本文将注重介绍JVM、GC的一些重要参数的设置来提升系统的性能。

一、JVM参数的含义：

参数名称	含义	默认值	详解
-Xms	初始堆大小	物理内存的 1/64(<1GB)	默认(MinHeapFreeRatio参数能够调整)空余堆内存小于40%时， JVM就会增大堆直到-Xmx的最大限制.
-Xmx	最大堆大小	物理内存的 1/4(<1GB)	默认(MaxHeapFreeRatio参数能够调整)空余堆内存大于70%时， JVM会减小堆直到 -Xms的最小限制
-XX:NewSize	设置年轻代大小(for 1.3/1.4)
-XX:MaxNewSize	年轻代最大值(for 1.3/1.4)
-XX:PermSize	设置持久代(perm gen)初始值	物理内存 的1/64
-XX:MaxPermSize	设置持久代最大值	物理内存 的1/4
-Xss	每一个线程的堆栈大小		JDK5.0之后每一个线程堆栈大小为1M,之前每一个线程堆栈大小为256K.更具应用的线程所需内存大小进行 调整.在相同物理内存下, 减少这个值能生成更多的线程.可是操做系统对一个进程内的线程数 仍是有限制的,不能无限生成,经验值在3000~5000左右 通常小的应用， 若是栈不是很深， 应该是128k够用的 大的应用建议使用256k。这个选项对性能影响比较大， 须要严格的测试。（校长） 和threadstacksize选项解释很相似,官方文档彷佛没有解释, 在论坛中有这样一句话:"” -Xss is translated in a VM flag named ThreadStackSize” 通常设置这个值就能够了。
-XX:ThreadStackSize	Thread Stack Size		(0 means use default stack size) [Sparc: 512; Solaris x86: 320 (was 256 prior in 5.0 and earlier); Sparc 64 bit: 1024; Linux amd64: 1024 (was 0 in 5.0 and earlier); all others 0.]
-XX:NewRatio	年轻代(包括Eden和两个Survivor区)与年老代的比值(除去持久代)		-XX:NewRatio=4表示年轻代与年老代所占比值为1:4, 年轻代占整个堆栈的1/5Xms=Xmx而且设置了Xmn的 状况下，该参数不须要进行设置。
-XX:SurvivorRatio	Eden区与Survivor区的大小比值		设置为8,则两个Survivor区与一个Eden区的比值为2:8, 一个Survivor区占整个年轻代的1/10
-XX:LargePageSizeInBytes	内存页的大小不可设置过大， 会影响Perm的大小		=128m
-XX:+UseFastAccessorMethods	原始类型的快速优化
-XX:+DisableExplicitGC	关闭System.gc()		这个参数须要严格的测试
-XX:MaxTenuringThreshold	垃圾最大年龄		若是设置为0的话,则年轻代对象不通过Survivor区, 直接进入年老代. 对于年老代比较多的应用,能够提升效率. 若是将此值设置为一个较大值,则年轻代对象会在 Survivor区进行屡次复制,这样能够增长对象 再年轻代的存活 时间,增长在年轻代即被回收的几率 该参数只有在串行GC时才有效.
-XX:+AggressiveOpts	加快编译
-XX:+UseBiasedLocking	锁机制的性能改善
-Xnoclassgc	禁用垃圾回收
-XX:SoftRefLRUPolicyMSPerMB	每兆堆空闲空间中 SoftReference的存活时间	1s	softly reachable objects will remain alive for some amount of time after the last time they were referenced. The default value is one second of lifetime per free megabyte in the heap
-XX:PretenureSizeThreshold	对象超过多大是 直接在旧生代分配	0	单位字节 新生代采用Parallel Scavenge GC时无效 另外一种直接在旧生代分配的状况是大的数组对象, 且数组中无外部引用对象.
-XX:TLABWasteTargetPercent	TLAB占eden区的百分比	1%
-XX:+CollectGen0First	FullGC时是否先YGC	false

二、并行收集器相关参数

-XX:+UseParallelGC	Full GC采用parallel MSC (此项待验证)		选择垃圾收集器为并行收集器.此配置仅对年轻代有效.即上述配置下, 年轻代使用并发收集,而年老代仍旧使用串行收集.(此项待验证)
-XX:+UseParNewGC	设置年轻代为并行收集		可与CMS收集同时使用 JDK5.0以上,JVM会根据系统配置自行设置,因此无需再设置此值
-XX:ParallelGCThreads	并行收集器的线程数		此值最好配置与处理器数目相等 一样适用于CMS
-XX:+UseParallelOldGC	年老代垃圾收集方式为并行收集(Parallel Compacting)		这个是JAVA 6出现的参数选项
-XX:MaxGCPauseMillis	每次年轻代垃圾回收的最长时间(最大暂停时间)		若是没法知足此时间,JVM会自动调全年轻代大小,以知足此值.
-XX:+UseAdaptiveSizePolicy	自动选择年轻代区大小和相应的Survivor区比例		设置此选项后,并行收集器会自动选择年轻代区大小和相应的 Survivor区比例,以达到目标系统规定的最低相应时间或者收集频率等,此值建议使用并行收集器时,一直打开.
-XX:GCTimeRatio	设置垃圾回收时间占程序运行时间的百分比		公式为1/(1+n)
-XX:+ScavengeBeforeFullGC	Full GC前调用YGC	true	Do young generation GC prior to a full GC. (Introduced in 1.4.1.)

三、CMS相关参数

-XX:+UseConcMarkSweepGC	使用CMS内存收集		测试中配置这个之后,-XX:NewRatio=4的配置失效了,缘由不明.因此,此时年轻代大小最好用-Xmn设置.???
-XX:+AggressiveHeap			试图是使用大量的物理内存 长时间大内存使用的优化，能检查计算资源（内存， 处理器数量） 至少须要256MB内存 大量的CPU／内存， （在1.4.1在4CPU的机器上已经显示有提高）
-XX:CMSFullGCsBeforeCompaction	多少次后进行内存压缩		因为并发收集器不对内存空间进行压缩,整理,因此运行一段时间之后 会产生"碎片",使得运行效率下降.此值设置运行多少次GC之后 对内存空间进行压缩,整理.
-XX:+CMSParallelRemarkEnabled	下降标记停顿
-XX+UseCMSCompactAtFullCollection	在FULL GC的时候， 对年老代的压缩		CMS是不会移动内存的， 所以， 这个很是容易产生碎片， 致使内存不够用，所以， 内存的压缩这个时候就会被启用。 增长这个参数是个好习惯。 可能会影响性能,可是能够消除碎片
-XX:+UseCMSInitiatingOccupancyOnly	使用手动定义初始化定义开始CMS收集		禁止hostspot自行触发CMS GC
-XX:CMSInitiatingOccupancyFraction=70	使用cms做为垃圾回收 使用70％后开始CMS收集	92	为了保证不出现promotion failed(见下面介绍)错误, 该值的设置须要知足 如下公式CMSInitiatingOccupancyFraction计算公式
-XX:CMSInitiatingPermOccupancyFraction	设置Perm Gen使用到达多少比率时触发	92
-XX:+CMSIncrementalMode	设置为增量模式		用于单CPU状况
-XX:+CMSClassUnloadingEnabled

四、辅助信息

-XX:+PrintGC			输出形式: [GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]
-XX:+PrintGCDetails			输出形式:[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]
-XX:+PrintGCTimeStamps
-XX:+PrintGC:PrintGCTimeStamps			可与-XX:+PrintGC -XX:+PrintGCDetails混合使用 输出形式:11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]
-XX:+PrintGCApplicationStoppedTime	打印垃圾回收期间程序暂停的时间.可与上面混合使用		输出形式:Total time for which application threads were stopped: 0.0468229 seconds
-XX:+PrintGCApplicationConcurrentTime	打印每次垃圾回收前,程序未中断的执行时间.可与上面混合使用		输出形式:Application time: 0.5291524 seconds
-XX:+PrintHeapAtGC	打印GC先后的详细堆栈信息
-Xloggc:filename	把相关日志信息记录到文件以便分析. 与上面几个配合使用
-XX:+PrintClassHistogram	garbage collects before printing the histogram.
-XX:+PrintTLAB	查看TLAB空间的使用状况
XX:+PrintTenuringDistribution	查看每次minor GC后新的存活周期的阈值		Desired survivor size 1048576 bytes, new threshold 7 (max 15) new threshold 7即标识新的存活周期的阈值为7。

4、GC性能方面的考虑

对于GC的性能主要有2个方面的指标：吞吐量throughput（工做时间不算gc的时间占总的时间比）和暂停pause（gc发生时app对外显示的没法响应）。

 一、Total Heap

默认状况下，jvm会增长/减小heap大小以维持free space在整个jvm中占的比例，这个比例由MinHeapFreeRatio和MaxHeapFreeRatio指定。

通常而言，server端的app会有如下规则：

• 对vm分配尽量多的memory；
• 将Xms和Xmx设为同样的值。若是虚拟机启动时设置使用的内存比较小，这个时候又须要初始化不少对象，虚拟机就必须重复地增长内存。
• 处理器核数增长，内存也跟着增大。

二、年轻代

 另一个对于app流畅性运行影响的因素是年轻代的大小。年轻代越大，小收集minor collection越少；可是在固定heap size状况下，更大的年轻代就意味着小的老年代，就意味着更多的大收集major collection(major collection会引起小收集minor collection)。

NewRatio反映的是年轻代和老年代的大小比例。NewSize和MaxNewSize反映的是年轻代大小的下限和上限，将这两个值设为同样就固定了年轻代的大小（同Xms和Xmx设为同样）。

若是但愿，SurvivorRatio也能够优化保留空间survivor的大小，不过这对于性能的影响不是很大。SurvivorRatio是使用控件eden和保留空间survior大小比例。

通常而言，server端的app会有如下规则：

• 首先决定能分配给vm的最大的heap size，而后设定最佳的年轻代的大小；
• 若是heap size固定后，增长y年轻代的大小意味着减少老年代大小。让老年代在任什么时候候够大，可以容纳全部live的data（留10%-20%的空余）。

5、经验&&规则

一、年轻代大小选择

（1）响应时间优先的应用，尽量设置大，直接接近系统的最低响应时间限制。在这种状况下，年轻代收集发生的频率也是最小的，同时，减小到达老年代的对象。

（2）吞吐量优先的应用：尽量设置大，可能到达Gbit的程度.由于对响应时间没有要求，垃圾收集能够并行进行，通常适合8CPU以上的应用。

（3）避免设置太小，当新生代设置太小时会致使：① YGC次数更加频繁  ② 可能致使YGC对象直接进入旧生代，若是此时旧生代满了，会触发FGC。

二、老年代大小选择

（1）响应时间优先的应用，老年代使用并发收集器，大小须要当心设置，通常要考虑并发会话率和会话持续时间等一些参数。若是堆设置小了，可能会形成内存碎片，高回收频率以及应用暂停而使用传统的标记清除方式；若是堆大了，则须要较长的手机时间。最优化的方案，通常须要参考一下数据得到：

并发垃圾收集信息、持久代并发收集次数、传统GC信息、年轻代和老年代回收商的时间比例。

（2）吞吐量优先的应用，通常吞吐量优先的应用都有一个很大的年轻代和一个较小的年老代，缘由是,这样能够尽量回收掉大部分短时间对象，减小中期的对象，而年老代仅存放长期存活对象。

三、较小堆引发的碎片问题

由于年老代的并发收集器使用标记,清除算法，因此不会对堆进行压缩。当收集器回收时,他会把相邻的空间进行合并，这样能够分配给较大的对象。可是,当堆空间较小时，运行一段时间之后,就会出现"碎片",若是并发收集器找不到足够的空间,那么并发收集器将会中止，而后使用传统的标记，清除方式进行回收。若是出现"碎片"，可能须要进行以下配置：
-XX:+UseCMSCompactAtFullCollection：使用并发收集器时,开启对年老代的压缩.
-XX:CMSFullGCsBeforeCompaction=0：上面配置开启的状况下,这里设置多少次Full GC后,对年老代进行压缩

四、用64位操做系统，Linux下64位的jdk比32位的jdk要慢一些，可是吃的内存更多，吞吐量更大

五、XMS和XMX设置同样大，MaxPermSize和MinPermSize设置同样大，这样能够减轻伸缩堆大小带来的压力

六、使用CMS的好处是尽可能少的新生代，经验值是128M-256M，而后老年代利用CMS并行收集，这样能保证系统低延迟的吞吐效率。实际上CMS的手机停顿时间很是短，2G的内存，大约20-80ms的应用程序停顿时间。

七、系统停顿的时候多是GC的问题也多是程序的问题，多用jmap(堆内存状况)和jstack(栈内存状况)查看，或者killall -3 java，而后查看java控制台日志，能看出不少问题。(相关工具的使用方法将在后面介绍)

八、细了解本身的应用，若是用了缓存，那么年老代应该大一些，缓存的HashMap不该该无限制长，建议采用LRU算法的Map作缓存，LRUMap的最大长度也要根据实际状况设定。

九、采用并发回收时，年轻代小一点，年老代要大，由于年老大用的是并发回收，即便时间长点也不会影响其余程序继续运行，网站不会停顿。

十、JVM参数的设置(特别是 –Xmx –Xms –Xmn -XX:SurvivorRatio  -XX:MaxTenuringThreshold等参数的设置没有一个固定的公式，须要根据PV old区实际数据 YGC次数等多方面来衡量。为了不promotion faild（提高失败）可能会致使xmn设置偏小，也意味着YGC的次数会增多，处理并发访问的能力降低等问题。每一个参数的调整都须要通过详细的性能测试，才能找到特定应用的最佳配置。

6、promotion faild（提高失败）

一、产生缘由

• 救助空间不够

救助空间里的对象还不该该移动到老年代，但年轻代又有不少对象须要放入救助空间

• 年老代没有足够的空间接纳来自年轻代的对象

这两种状况都会转向Full GC，网站停顿时间较长。

二、解决方案

（1）救助空间不够的解决办法：

• 去掉救助空间，设置-XX:SurvivorRatio=65536 -XX:MaxTenuringThreshold=0便可。可是没有救助空间会致使老年代容易满，CMS执行会比较频繁。
• 把救助空间加大

具体操做上，32位Linux和64位Linux好像不同，64位系统彷佛只要配置MaxTenuringThreshold参数，CMS仍是有暂停。为了解决暂停问题和promotion failed问题，最后我设置-XX:SurvivorRatio=1 ，并把MaxTenuringThreshold去掉，这样即没有暂停又不会有promotoin failed，并且更重要的是，年老代和永久代上升很是慢（由于好多对象到不了年老代就被回收了），因此CMS执行频率很是低，好几个小时才执行一次，这样，服务器都不用重启了。

（2）年老代没有足够的空间接纳来自年轻代的对象的解决办法：

设置CMSInitiatingOccupancyFraction为某个值（假设70），这样年老代空间到70%时就开始执行CMS，年老代有足够的空间接纳来自年轻代的对象。

 

鸣谢：特别感谢做者周志明提供的技术支持！