JVM内存机制

咱们知道,计算机CPU和内存的交互是最频繁的,内存是咱们的高速缓存区,用户磁盘和CPU的交互,而CPU运转速度愈来愈快,磁盘远远跟不上CPU的读写速度,才设计了内存,用户缓冲用户IO等待致使CPU的等待成本,可是随着CPU的发展,内存的读写速度也远远跟不上CPU的读写速度,所以,为了解决这一纠纷,CPU厂商在每颗CPU上加入了高速缓存,用来缓解这种症状,所以,如今CPU同内存交互就变成了下面的样子。

 

 一样,根据摩尔定律,咱们知道单核html

CPU的主频不可能无限制的增加,要想不少的提高新能,须要多个处理器协同工做,  Intel总裁的贝瑞特单膝下跪事件标志着多核时代的到来。

 

 

 基于高速缓存的存储交互很好的解决了处理器与内存之间的矛盾,也引入了新的问题:缓存一致性问题。在多处理器系统中,每一个处理器有本身的高速缓存,而他们又共享同一块内存(下文成主存,java

main memory 主要内存),当多个处理器运算都涉及到同一块内存区域的时候,就有可能发生缓存不一致的现象。为了解决这一问题,须要各个处理器运行时都遵循一些协议,在运行时须要将这些协议保证数据的一致性。这类协议包括MSI、MESI、MOSI、Synapse、Firely、DragonProtocol等。以下图所示

 

 

 Java算法

虚拟机内存模型中定义的访问操做与物理计算机处理的基本一致!

 

 

 Java数组

中经过多线程机制使得多个任务同时执行处理,全部的线程共享JVM内存区域main memory,而每一个线程又单独的有本身的工做内存,当线程与内存区域进行交互时,数据从主存拷贝到工做内存,进而交由线程处理(操做码+操做数)。更多信息咱们会在后面的《深刻JVM—JVM类执行机制中详细解说》。

在以前,咱们也已经提到,JVM的逻辑内存模型以下:缓存

 

 

 咱们如今来逐个的看下每一个究竟是作什么的!服务器

一、程序计数器数据结构

程序计数器(Program Counter Register)是一块较小的内存空间,它的做用能够看多线程

作是当前线程所执行的字节码的行号指示器。在虚拟机的概念模型里(仅是概念模型,框架

各类虚拟机可能会经过一些更高效的方式去实现),字节码解释器工做时就是经过改变jvm

这个计数器的值来选取下一条须要执行的字节码指令,分支、循环、跳转、异常处理、

线程恢复等基础功能都须要依赖这个计数器来完成。

因为Java 虚拟机的多线程是经过线程轮流切换并分配处理器执行时间的方式来实现

的,在任何一个肯定的时刻,一个处理器(对于多核处理器来讲是一个内核)只会执行

一条线程中的指令。所以,为了线程切换后能恢复到正确的执行位置,每条线程都须要

有一个独立的程序计数器,各条线程之间的计数器互不影响,独立存储,咱们称这类内

存区域为“线程私有”的内存。

若是线程正在执行的是一个Java 方法,这个计数器记录的是正在执行的虚拟机字节

码指令的地址;若是正在执行的是Natvie 方法,这个计数器值则为空(Undefined)。此

内存区域是惟一一个在Java 虚拟机规范中没有规定任何OutOfMemoryError 状况的区域。

二、Java 虚拟机栈

与程序计数器同样,Java 虚拟机栈(Java Virtual Machine Stacks)也是线程私有的,

它的生命周期与线程相同。虚拟机栈描述的是Java 方法执行的内存模型:每一个方法被执

行的时候都会同时建立一个栈帧(Stack Frame ①)用于存储局部变量表、操做栈、动态

连接、方法出口等信息。每个方法被调用直至执行完成的过程,就对应着一个栈帧在

虚拟机栈中从入栈到出栈的过程。

常常有人把Java 内存区分为堆内存(Heap)和栈内存(Stack),这种分法比较粗

糙,Java 内存区域的划分实际上远比这复杂。这种划分方式的流行只能说明大多数程序

员最关注的、与对象内存分配关系最密切的内存区域是这两块。其中所指的“堆”在后

面会专门讲述,而所指的“栈”就是如今讲的虚拟机栈,或者说是虚拟机栈中的局部变

量表部分。

局部变量表存放了编译期可知的各类基本数据类型(boolean、byte、char、short、int、

float、long、double)、对象引用(reference 类型,它不等同于对象自己,根据不一样的虚拟

机实现,它多是一个指向对象起始地址的引用指针,也可能指向一个表明对象的句柄或

者其余与此对象相关的位置)和returnAddress 类型(指向了一条字节码指令的地址)。

其中64 位长度的long 和double 类型的数据会占用2 个局部变量空间(Slot),其他

的数据类型只占用1 个。局部变量表所需的内存空间在编译期间完成分配,当进入一个

方法时,这个方法须要在帧中分配多大的局部变量空间是彻底肯定的,在方法运行期间

不会改变局部变量表的大小。

在Java 虚拟机规范中,对这个区域规定了两种异常情况:若是线程请求的栈深度大

于虚拟机所容许的深度,将抛出StackOverflowError 异常;若是虚拟机栈能够动态扩展

(当前大部分的Java 虚拟机均可动态扩展,只不过Java 虚拟机规范中也容许固定长度的

虚拟机栈),当扩展时没法申请到足够的内存时会抛出OutOfMemoryError 异常。

三、本地方法栈

本地方法栈(Native Method Stacks)与虚拟机栈所发挥的做用是很是类似的,其

区别不过是虚拟机栈为虚拟机执行Java 方法(也就是字节码)服务,而本地方法栈则

是为虚拟机使用到的Native 方法服务。虚拟机规范中对本地方法栈中的方法使用的语

言、使用方式与数据结构并无强制规定,所以具体的虚拟机能够自由实现它。甚至

有的虚拟机(譬如Sun HotSpot 虚拟机)直接就把本地方法栈和虚拟机栈合二为一。

与虚拟机栈同样,本地方法栈区域也会抛出StackOverflowError 和OutOfMemoryError

异常。

四、Java 堆

对于大多数应用来讲,Java 堆(Java Heap)是Java 虚拟机所管理的内存中最大的

一块。Java 堆是被全部线程共享的一块内存区域,在虚拟机启动时建立。此内存区域的

惟一目的就是存放对象实例,几乎全部的对象实例都在这里分配内存。这一点在Java 虚

拟机规范中的描述是:全部的对象实例以及数组都要在堆上分配①,可是随着JIT 编译器

的发展与逃逸分析技术的逐渐成熟,栈上分配、标量替换②优化技术将会致使一些微妙

的变化发生,全部的对象都分配在堆上也渐渐变得不是那么“绝对”了。

Java 堆是垃圾收集器管理的主要区域,所以不少时候也被称作“GC 堆”(Garbage

Collected Heap,幸亏国内没翻译成“垃圾堆”)。若是从内存回收的角度看,因为如今

收集器基本都是采用的分代收集算法,因此Java 堆中还能够细分为:新生代和老年代;

再细致一点的有Eden 空间、From Survivor 空间、To Survivor 空间等。若是从内存分配

的角度看,线程共享的Java 堆中可能划分出多个线程私有的分配缓冲区(Thread Local

Allocation Buffer,TLAB)。不过,不管如何划分,都与存放内容无关,不管哪一个区域,

存储的都仍然是对象实例,进一步划分的目的是为了更好地回收内存,或者更快地分配

内存。在本章中,咱们仅仅针对内存区域的做用进行讨论,Java 堆中的上述各个区域的

分配和回收等细节将会是下一章的主题。

根据Java 虚拟机规范的规定,Java 堆能够处于物理上不连续的内存空间中,只要

逻辑上是连续的便可,就像咱们的磁盘空间同样。在实现时,既能够实现成固定大小

的,也能够是可扩展的,不过当前主流的虚拟机都是按照可扩展来实现的(经过-Xmx

和-Xms 控制)。若是在堆中没有内存完成实例分配,而且堆也没法再扩展时,将会抛出

OutOfMemoryError 异常。

四、方法区

方法区(Method Area)与Java 堆同样,是各个线程共享的内存区域,它用于存

储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。虽

然Java 虚拟机规范把方法区描述为堆的一个逻辑部分,可是它却有一个别名叫作Non-

Heap(非堆),目的应该是与Java 堆区分开来。

对于习惯在HotSpot 虚拟机上开发和部署程序的开发者来讲,不少人愿意把方法区

称为“永久代”(Permanent Generation),本质上二者并不等价,仅仅是由于HotSpot 虚

拟机的设计团队选择把GC 分代收集扩展至方法区,或者说使用永久代来实现方法区而

已。对于其余虚拟机(如BEA JRockit、IBM J9 等)来讲是不存在永久代的概念的。即

使是HotSpot 虚拟机自己,根据官方发布的路线图信息,如今也有放弃永久代并“搬家”

至Native Memory 来实现方法区的规划了。

Java 虚拟机规范对这个区域的限制很是宽松,除了和Java 堆同样不须要连续的内

存和能够选择固定大小或者可扩展外,还能够选择不实现垃圾收集。相对而言,垃圾

收集行为在这个区域是比较少出现的,但并不是数据进入了方法区就如永久代的名字一

样“永久”存在了。这个区域的内存回收目标主要是针对常量池的回收和对类型的卸

载,通常来讲这个区域的回收“成绩”比较难以使人满意,尤为是类型的卸载,条件

至关苛刻,可是这部分区域的回收确实是有必要的。在Sun 公司的BUG 列表中,曾出

现过的若干个严重的BUG 就是因为低版本的HotSpot 虚拟机对此区域未彻底回收而导

致内存泄漏。

根据Java 虚拟机规范的规定,当方法区没法知足内存分配需求时,将抛出

OutOfMemoryError 异常。

五、运行时常量池

运行时常量池(Runtime Constant Pool)是方法区的一部分。Class 文件中除了有

类的版本、字段、方法、接口等描述等信息外,还有一项信息是常量池(Constant Pool

Table),用于存放编译期生成的各类字面量和符号引用,这部份内容将在类加载后存放

到方法区的运行时常量池中。

Java 虚拟机对Class 文件的每一部分(天然也包括常量池)的格式都有严格的规

定,每个字节用于存储哪一种数据都必须符合规范上的要求,这样才会被虚拟机承认、

装载和执行。但对于运行时常量池,Java 虚拟机规范没有作任何细节的要求,不一样的

提供商实现的虚拟机能够按照本身的须要来实现这个内存区域。不过,通常来讲,除

了保存Class 文件中描述的符号引用外,还会把翻译出来的直接引用也存储在运行时常

量池中①。

运行时常量池相对于Class 文件常量池的另一个重要特征是具有动态性,Java 语

言并不要求常量必定只能在编译期产生,也就是并不是预置入Class 文件中常量池的内容

才能进入方法区运行时常量池,运行期间也可能将新的常量放入池中,这种特性被开发

人员利用得比较多的即是String 类的intern() 方法。

既然运行时常量池是方法区的一部分,天然会受到方法区内存的限制,当常量池无

法再申请到内存时会抛出OutOfMemoryError 异常

六、直接内存

直接内存(Direct Memory)并非虚拟机运行时数据区的一部分,也不是Java

虚拟机规范中定义的内存区域,可是这部份内存也被频繁地使用,并且也可能致使

OutOfMemoryError 异常出现,因此咱们放到这里一块儿讲解。

在JDK 1.4 中新加入了NIO(New Input/Output)类,引入了一种基于通道(Channel)

与缓冲区(Buffer)的I/O 方式,它可使用Native 函数库直接分配堆外内存,然

后经过一个存储在Java 堆里面的DirectByteBuffer 对象做为这块内存的引用进行

操做。这样能在一些场景中显著提升性能,由于避免了在Java 堆和Native 堆中来

回复制数据。

显然,本机直接内存的分配不会受到Java 堆大小的限制,可是,既然是内存,则

确定仍是会受到本机总内存(包括RAM 及SWAP 区或者分页文件)的大小及处理器

寻址空间的限制。服务器管理员配置虚拟机参数时,通常会根据实际内存设置-Xmx

等参数信息,但常常会忽略掉直接内存,使得各个内存区域的总和大于物理内存限制

(包括物理上的和操做系统级的限制),从而致使动态扩展时出现OutOfMemoryError

异常。

逻辑内存模型咱们已经看到了,那当咱们创建一个对象的时候是怎么进行访问的呢?

在Java 语言中,对象访问是如何进行的?对象访问在Java 语言中无处不在,是最普通的程序行为,但即便是最简单的访问,也会却涉及Java 栈、Java 堆、方法区这三个最重要内存区

域之间的关联关系,以下面的这句代码:

Object obj = new Object();

假设这句代码出如今方法体中,那“Object obj”这部分的语义将会反映到Java 栈

的本地变量表中,做为一个reference 类型数据出现。而“new Object()”这部分的语义

将会反映到Java 堆中,造成一块存储了Object 类型全部实例数据值(Instance Data,对

象中各个实例字段的数据)的结构化内存,根据具体类型以及虚拟机实现的对象内存布

局(Object Memory Layout)的不一样,这块内存的长度是不固定的。另外,在Java 堆中

还必须包含能查找到此对象类型数据(如对象类型、父类、实现的接口、方法等)的地

址信息,这些类型数据则存储在方法区中。

因为reference 类型在Java 虚拟机规范里面只规定了一个指向对象的引用,并无

定义这个引用应该经过哪一种方式去定位,以及访问到Java 堆中的对象的具体位置,所以

不一样虚拟机实现的对象访问方式会有所不一样,主流的访问方式有两种:使用句柄和直接

指针。

若是使用句柄访问方式,Java 堆中将会划分出一块内存来做为句柄池,reference

中存储的就是对象的句柄地址,而句柄中包含了对象实例数据和类型数据各自的

具体地址信息,以下图所示。

 

 

 若是使用直接指针访问方式,

Java 堆对象的布局中就必须考虑如何放置访问类型

数据的相关信息,reference 中直接存储的就是对象地址,以下图所示

 

 

 这两种对象的访问方式各有优点,使用句柄访问方式的最大好处就是

reference 中存

储的是稳定的句柄地址,在对象被移动(垃圾收集时移动对象是很是广泛的行为)时只

会改变句柄中的实例数据指针,而reference 自己不须要被修改。

使用直接指针访问方式的最大好处就是速度更快,它节省了一次指针定位的时间开

销,因为对象的访问在Java 中很是频繁,所以这类开销聚沙成塔后也是一项很是可观的

执行成本。就本书讨论的主要虚拟机Sun HotSpot 而言,它是使用第二种方式进行对象访问的,但从整个软件开发的范围来看,各类语言和框架使用句柄来访问的状况也十分常见。

下面咱们来看几个示例

一、Java 堆溢出

下面的程中咱们限制Java 堆的大小为20MB,不可扩展(将堆的最小值-Xms 参

数与最大值-Xmx 参数设置为同样便可避免堆自动扩展),经过参数-XX:+HeapDump

OnOutOfMemoryError 可让虚拟机在出现内存溢出异常时Dump 出当前的内存堆转储

快照以便过后进行分析。

参数设置以下

 
 

package com.yhj.jvm.memory.heap;

 

import java.util.ArrayList;

import java.util.List;

 

/**

 * @Described:堆溢出测试

 * @VM args:-verbose:gc -Xms20M -Xmx20M -XX:+PrintGCDetails

 * @author YHJ create at 2011-11-12 下午07:52:22

 * @FileNmae com.yhj.jvm.memory.heap.HeapOutOfMemory.java

 */

public class HeapOutOfMemory {

 

    /**

     * @param args

     * @Author YHJ create at 2011-11-12 下午07:52:18

     */

    public static void main(String[] args) {

       List<TestCase> cases = new ArrayList<TestCase>();

       while(true){

           cases.add(new TestCase());

       }

 

    }

 

}

/**

 * @Described:测试用例

 * @author YHJ create at 2011-11-12 下午07:55:50

 * @FileNmae com.yhj.jvm.memory.heap.HeapOutOfMemory.java

 */

class TestCase{

   

}

 

Java 堆内存的OutOfMemoryError异常是实际应用中最多见的内存溢出异常状况。出现Java 堆内

存溢出时,异常堆栈信息“java.lang.OutOfMemoryError”会跟着进一步提示“Java heap

space”。

要解决这个区域的异常,通常的手段是首先经过内存映像分析工具(如Eclipse

Memory Analyzer)对dump 出来的堆转储快照进行分析,重点是确认内存中的对象是

否是必要的,也就是要先分清楚究竟是出现了内存泄漏(Memory Leak)仍是内存溢

出(Memory Overflow)。图2-5 显示了使用Eclipse Memory Analyzer 打开的堆转储快

照文件。

若是是内存泄漏,可进一步经过工具查看泄漏对象到GC Roots 的引用链。因而就

能找到泄漏对象是经过怎样的路径与GC Roots 相关联并致使垃圾收集器没法自动回收

它们的。掌握了泄漏对象的类型信息,以及GC Roots 引用链的信息,就能够比较准确

地定位出泄漏代码的位置。

若是不存在泄漏,换句话说就是内存中的对象确实都还必须存活着,那就应当检查

虚拟机的堆参数(-Xmx 与-Xms),与机器物理内存对比看是否还能够调大,从代码上

检查是否存在某些对象生命周期过长、持有状态时间过长的状况,尝试减小程序运行期

的内存消耗。

以上是处理Java 堆内存问题的简略思路,处理这些问题所须要的知识、工具与经验

在后面的几回分享中我会作一些额外的分析。

二、java栈溢出

package com.yhj.jvm.memory.stack;

/**

 * @Described:栈层级不足探究

 * @VM args:-Xss128k

 * @author YHJ create at 2011-11-12 下午08:19:28

 * @FileNmae com.yhj.jvm.memory.stack.StackOverFlow.java

 */

public class StackOverFlow {

   

   

    private int i ;

   

    public void plus() {

       i++;

       plus();

    }

 

    /**

     * @param args

     * @Author YHJ create at 2011-11-12 下午08:19:21

     */

    public static void main(String[] args) {

       StackOverFlow stackOverFlow = new StackOverFlow();

       try {

           stackOverFlow.plus();

       } catch (Exception e) {

           System.out.println("Exception:stack length:"+stackOverFlow.i);

           e.printStackTrace();

       } catch (Error e) {

           System.out.println("Error:stack length:"+stackOverFlow.i);

           e.printStackTrace();

       }

 

    }

 

}

三、常量池溢出(常量池都有哪些信息,咱们在后续的JVM类文件结构中详细描述)

 

package com.yhj.jvm.memory.constant;

 

import java.util.ArrayList;

import java.util.List;

 

/**

 * @Described:常量池内存溢出探究

 * @VM args : -XX:PermSize=10M -XX:MaxPermSize=10M

 * @author YHJ create at 2011-10-30 下午04:28:30

 * @FileNmae com.yhj.jvm.memory.constant.ConstantOutOfMemory.java

 */

public class ConstantOutOfMemory {

 

    /**

     * @param args

     * @throws Exception

     * @Author YHJ create at 2011-10-30 下午04:28:25

     */

    public static void main(String[] args) throws Exception {

       try {

           List<String> strings = new ArrayList<String>();

           int i = 0;

           while(true){

              strings.add(String.valueOf(i++).intern());

           }

       } catch (Exception e) {

           e.printStackTrace();

           throw e;

       }

 

    }

 

}

四、方法去溢出

package com.yhj.jvm.memory.methodArea;

 

import java.lang.reflect.Method;

 

import net.sf.cglib.proxy.Enhancer;

import net.sf.cglib.proxy.MethodInterceptor;

import net.sf.cglib.proxy.MethodProxy;

 

/**

 * @Described:方法区溢出测试

 * 使用技术 CBlib

 * @VM args : -XX:PermSize=10M -XX:MaxPermSize=10M

 * @author YHJ create at 2011-11-12 下午08:47:55

 * @FileNmae com.yhj.jvm.memory.methodArea.MethodAreaOutOfMemory.java

 */

public class MethodAreaOutOfMemory {

 

    /**

     * @param args

     * @Author YHJ create at 2011-11-12 下午08:47:51

     */

    public static void main(String[] args) {

       while(true){

           Enhancer enhancer = new Enhancer();

           enhancer.setSuperclass(TestCase.class);

           enhancer.setUseCache(false);

           enhancer.setCallback(new MethodInterceptor() {

              @Override

              public Object intercept(Object arg0, Method arg1, Object[] arg2,

                     MethodProxy arg3) throws Throwable {

                  return arg3.invokeSuper(arg0, arg2);

              }

           });

           enhancer.create();

       }

    }

 

}

/**

 * @Described:测试用例

 * @author YHJ create at 2011-11-12 下午08:53:09

 * @FileNmae com.yhj.jvm.memory.methodArea.MethodAreaOutOfMemory.java

 */

class TestCase{

   

}

五、直接内存溢出

package com.yhj.jvm.memory.directoryMemory;

 

import java.lang.reflect.Field;

 

import sun.misc.Unsafe;

 

/**

 * @Described:直接内存溢出测试

 * @VM args: -Xmx20M -XX:MaxDirectMemorySize=10M

 * @author YHJ create at 2011-11-12 下午09:06:10

 * @FileNmae com.yhj.jvm.memory.directoryMemory.DirectoryMemoryOutOfmemory.java

 */

public class DirectoryMemoryOutOfmemory {

 

    private static final int ONE_MB = 1024*1024;

    private static int count = 1;

 

    /**

     * @param args

     * @Author YHJ create at 2011-11-12 下午09:05:54

     */

    public static void main(String[] args) {

       try {

           Field field = Unsafe.class.getDeclaredField("theUnsafe");

           field.setAccessible(true);

           Unsafe unsafe = (Unsafe) field.get(null);

           while (true) {

              unsafe.allocateMemory(ONE_MB);

              count++;

           }

       } catch (Exception e) {

           System.out.println("Exception:instance created "+count);

           e.printStackTrace();

       } catch (Error e) {

           System.out.println("Error:instance created "+count);

           e.printStackTrace();

       }

 

    }

 

}