深入理解Java虚拟机笔记(二)垃圾收集器与内存分配策略

GC要完成的事情

• 哪些内存需要回收?
• 什么时候回收?
• 如何回收?

对象已死吗?

引用计数法

概述

每当有引用引用对象时，引用计数器的值+1，当引用失效时，引用计数器-1

问题

很难解决对象之间互相循环引用的问题

可达性分析算法

基本思路

通过一系列"GC Roots"的对象作为起始点，从这些节点开始向下搜索，搜索所走过的路径称为引用链，当一个对象到GC Roots没有任何引用链相连时，则证明次对象是不可用的。

作为GC Roots的对象

• 虚拟机栈(栈帧中的本地变量表)中引用的对象
• 方法区中类静态属性引用的对象
• 方法区中常量引用的对象
• 本地方法栈中JNI引用的对象

再谈引用

需求

希望描述这样一类对象:当内存空间还足够时，则能保留在内存之中；如果内存空间在进行垃圾收集后还是非常紧张，则可以抛弃这些对象。

种类

• 强引用:指代码之中普遍存在的，类似"Object obj=new Object()"这类的引用，只要强引用还在，垃圾回收器永远不会回收被引用的对象。
• 软引用:用来描述一些还有用但非必需的对象。对于软引用关联着的对象，在系统将要发生内存溢出异常之前，将会把这些对象列进回收范围之中进行第二次回收。如果这次回收还没有足够的内存，才会抛出内存溢出异常。
• 弱引用:弱引用也是用来描述非必需对象的，但是它的强度比软引用更弱一些，被弱引用关联的对象只能生存到下一次垃圾收集发生之前。当垃圾收集器工作时，无论当前内存是否足够，都会回收掉只被弱引用关联的对象。
• 虚引用:虚引用也称为幽灵引用或者幻影引用，它是最弱的一种引用关系。一个对象是否有虚引用的存在，完全不会对其生存时间构成影响，也无法通过虚引用来取得一个对象实例。为一个对象设置虚引用关联的唯一目的就是能在这个对象被收集器回收时收到一个系统通知。

生存还是死亡

要真正宣告一个对象死亡，至少要经历两次标记过程:

1. 如果对象在进行可达性分析后发现没有与GC Roots相连接的引用链，那它将会被第一次标记并且进行一次筛选，筛选的条件是此对象是否有必要执行finalize()方法。当对象没有覆盖finalize()方法，或者finalize()方法已经被虚拟机调用过，虚拟机将这两种情况都视为"没有必要执行"。
2. 如果这个对象被判定为有必要执行finalize（）方法，那么这个对象将会放置在一个叫做F-Queue的队列之中，并在稍后由一个由虚拟机自动建立的、低优先级的Finalizer线程去执行它。这里所谓的“执行”是指虚拟机会触发这个方法，但并不承诺会等待它运行结束，这样做的原因是，如果一个对象在finalize（）方法中执行缓慢，或者发生了死循环（更极端的情况），将很可能会导致F-Queue队列中其他对象永久处于等待，甚至导致整个内存回收系统崩溃。finalize（）方法是对象逃脱死亡命运的最后一次机会，稍后GC将对F-Queue中的对象进行第二次小规模的标记，如果对象要在finalize（）中成功拯救自己——只要重新与引用链上的任何一个对象建立关联即可，譬如把自己（this关键字）赋值给某个类变量或者对象的成员变量，那在第二次标记时它将被移除出“即将回收”的集合；如果对象这时候还没有逃脱，那基本上它就真的被回收了。

public class FinallizeEscapeGC {
    public static FinallizeEscapeGC SAVE_HOOK=null;

    public void isAlive(){
        System.out.println("yes,i am still alive :)");
    }

    @Override
    protected void finalize() throws Throwable {
        super.finalize();
        System.out.println("finalize method executed!");
        //自救
        FinallizeEscapeGC.SAVE_HOOK=this;
    }
    public static void main(String[] args) throws InterruptedException {
        SAVE_HOOK=new FinallizeEscapeGC();

        //第一次自救
        SAVE_HOOK=null;
        System.gc();
        //优先级别低,暂停等待
        Thread.sleep(500);
        if (SAVE_HOOK!=null){
            SAVE_HOOK.isAlive();
        }else {
            System.out.println("no,i am dead :(");
        }

        //代码一样但是自救失败
        SAVE_HOOK=null;
        System.gc();
        //优先级别低,暂停等待
        Thread.sleep(500);
        if (SAVE_HOOK!=null){
            SAVE_HOOK.isAlive();
        }else {
            System.out.println("no,i am dead :(");
        }
    }

}

结果:

一次成功一次失败的原因:任何一个对象的finalize()方法都只会被系统自动调用一次，如果对象面临下一次回收，它的finalize()方法不会被再次执行，因此第二段代码的自救行动失败。

对finalize()的态度:不要使用，忘了这个函数

回收方法区

判断是否废弃常量

字符串放入常量池后无String对象引用则判断为废弃。

判断是否无用的类

• 该类所有的实例都已经被回收，也就是Java堆中不存在该类的任何实例。
• 加载该类的ClassLoader已经被回收。
• 该类对应的java.lang.Class对象没有在任何地方被引用，无法在任何地方通过反射访问该
  类的方法。

注意

仅仅是可以回收，不是必然回收

垃圾回收算法

标记-清除算法

首先标记出所有需要回收的对象，标记完成后统一回收所有被标记的对象。

不足

1. 效率问题，标记和清除两个过程的效率都不高。
2. 空间问题，标记清除之后会产生大量不连续的内存碎片，空间碎片太多可能会导致以后再程序运行过程中需要分配较大的对象时，无法找到足够的连续内存而不得不提前触发另一次垃圾收集动作。

复制算法

为了解决效率问题而诞生。

内容

将可用内存按容量划分为大小相等的两块，每次只使用其中的一块。当这一块的内存用完了，就将还存活着的对象复制到另一块上面，然后再把已使用过的内存空间一次清理掉。这样使得每次都是对整个半区进行内存回收，内存分配时也就不用考虑内存碎片等复杂情况，只要移动堆顶指针，按顺序分配内存即可，实现简单，运行高效。

代价

将内存缩小为了原来的一半，代价未免太高了一点。

现状

现在的商业虚拟机都采用这种收集算法来回收新生代，IBM公司的专门研究表明，新生代中的对象98%是“朝生夕死”的，所以并不需要按照1:1的比例来划分内存空间，而是将内存分为一块较大的Eden空间和两块较小的Survivor空间，每次使用Eden和其中一块Survivor。

当回收时，将Eden和Survivor中还存活着的对象一次性地复制到另外一块Survivor空间上，最后清理掉Eden和刚才用过的Survivor空间。

HotSpot虚拟机默认Eden和Survivor的大小比例是8:1，也就是每次新生代中可用内存空间为整个新生代容量的90%（80%+10%），只有10%的内存会被“浪费”。

当然，98%的对象可回收只是一般场景下的数据，我们没有办法保证每次回收都只有不多于10%的对象存活，当Survivor空间不够用时，需要依赖其他内存（这里指老年代）进行分配担保（Handle Promotion）。

标记-整理算法

内容

复制收集算法在对象存活率较高时就要进行较多的复制操作，效率将会变低。更关键的是，如果不想浪费50%的空间，就需要有额外的空间进行分配担保，以应对被使用的内存中所有对象都100%存活的极端情况，所以在老年代一般不能直接选用这种算法。

根据老年代的特点，有人提出了另外一种“标记-整理”（Mark-Compact）算法，标记过程仍然与“标记-除”算法一样，但后续步骤不是直接对可回收对象进行清理，而是让所有存活的对象都向一端移动，然后直接清理掉端边界以外的内存。

分代收集算法

当前商业虚拟机的垃圾收集都采用“分代收集”（Generational Collection）算法，这种算法并没有什么新的思想，只是根据对象存活周期的不同将内存划分为几块。一般是把Java堆分为新生代和老年代，这样就可以根据各个年代的特点采用最适当的收集算法。在新生代中，每次垃圾收集时都发现有大批对象死去，只有少量存活，那就选用复制算法，只需要付出少量存活对象的复制成本就可以完成收集。而老年代中因为对象存活率高、没有额外空间对它进行分配担保，就必须使用“标记—清理”或者“标记—整理”算法来进行回收。

HotSpot的算法实现

枚举根节点

GC时面对的问题

1. 遍历根节点应用链需要的时间太长
2. 可达性分析工作必须建立在一致性上

解决方法

1. 使用准确式GC，在HotSpot的实现中，是使用一组被称为OopMap的数据结构来达到这一个目的。
2. GC时必须停顿所有的工作，在Java中被称为STW(stop the world)

OopMap

在类加载的时候，HotSpot把对象内什么偏移量上是什么类型的数据计算出来，在JIT编译过程中，也会在特点的位置记录下栈和寄存器中哪些位置是引用，GC扫描时即可直接知道这些信息。

准确式GC

与保守式GC相对的就是准确式GC，何为准确式GC？就是我们准确的知道，某个位置上面是否是指针，对于java来说，就是知道对于某个位置上的数据是什么类型的，这样就可以判断出所有的位置上的数据是不是指向GC堆的引用，包括栈和寄存器里的数据。

在java中实现的方式是：从我外部记录下类型信息，存成映射表，在HotSpot中把这种映射表称之为OopMap，不同的虚拟机名称可能不一样。

实现这种功能，需要虚拟机的解释器和JIT编译器支持，由他们来生成OopMap。生成这样的映射表一般有两种方式：

• 每次都遍历原始的映射表，循环的一个个偏移量扫描过去；这种用法也叫“解释式”；
• 为每个映射表生成一块定制的扫描代码（想像扫描映射表的循环被展开的样子），以后每次要用映射表就直接执行生成的扫描代码；这种用法也叫“编译式”。

总而言之，GC开始的时候，就通过OopMap这样的一个映射表知道，在对象内的什么偏移量上是什么类型的数据，而且特定的位置记录下栈和寄存器中哪些位置是引用。

保守式GC

在进行GC的时候，会从一些已知的位置（GC Roots）开始扫描内存，扫描到一个数字就判断他是不是可能是指向GC堆中的一个指针（这里会涉及上下边界检查（GC堆的上下界是已知的）、对齐检查（通常分配空间的时候会有对齐要求，假如说是4字节对齐，那么不能被4整除的数字就肯定不是指针）。然后一直递归的扫描下去，最后完成可达性分析。这种模糊的判断方法因为无法准确判断一个位置上是否是真的指向GC堆中的指针，所以被命名为保守式GC。这种可达性分析的方式因为不需要准确的判断出一个指针，所以效率快，但是也正因为这种特点，他存在下面两个明显的缺点：

• 因为是模糊的检查，所以对于一些已经死掉的对象，很可能会被误认为仍有地方引用他们，GC也就自然不会回收他们，从而引起了无用的内存占用，就是典型的占着茅坑不拉屎，造成资源浪费。
• 由于不知道疑似指针是否真的是指针，所以它们的值都不能改写；移动对象就意味着要修正指针。换言之，对象就不可移动了。有一种办法可以在使用保守式GC的同时支持对象的移动，那就是增加一个间接层，不直接通过指针来实现引用，而是添加一层“句柄”（handle）在中间，所有引用先指到一个句柄表里，再从句柄表找到实际对象。这样，要移动对象的话，只要修改句柄表里的内容即可。但是这样的话引用的访问速度就降低了。Sun JDK的Classic VM用过这种全handle的设计，但效果实在算不上好。

安全点

概念

生成OopMap的特定的位置

一般生成位置

• 方法调用
• 循环跳转
• 异常跳转

抢先式中断

不需要线程的执行代码主动去配合，在GC发生时，首先把所有线程全部中断，如果发现有线程中断的地方不在安全点上，就恢复那个线程，让它运行到安全点上。现在几乎没有虚拟机实现采用抢先式中断来暂停线程从而响应GC事件。

主动式中断

当GC需要中断线程的时候，不直接对线程进行操作，仅仅简单地设置一个标志，各个线程执行时主动去轮询该标志，发现中断标志为真时就自己中断挂起。轮询标志的地方和安全点重合，另外在加上创建对象需要分配内存的地方。

安全区域

程序不执行的时候引用关系不会发生变化，可以直接GC的区域被称为安全区域。

概念

指在一段代码片段之中，引用关系不会发生变化。这个区域中的任意地方开始GC都是安全的。当线程执行到Safe Region时，首先表示自己已经进入了Safe Region，这样当JVM要发起GC时，不用管safa region即不用去中断该状态的线程。待GC结束或者枚举根节点结束时再离开Safe Region。(需要获取可以安全离开Safe Region的信号)

垃圾收集器

内存回收的具体实现

新生代和老年代

新生代 ( Young ) 与老年代 ( Old ) 的比例的值为 1:2 ( 该值可以通过参数 –XX:NewRatio 来指定 )，即：新生代 ( Young ) = 1/3 的堆空间大小。

老年代 ( Old ) = 2/3 的堆空间大小。其中，新生代 ( Young ) 被细分为 Eden 和 两个 Survivor 区域，这两个 Survivor 区域分别被命名为 from 和 to，以示区分。

新生代中的对象在from和to区来回移动一定的次数后进入老年代。

两块Survivor区，刚刚新建的对象在Eden中，经历一次Minor GC，Eden中的存活对象就会被移动到第一块survivor space S0，Eden被清空；等Eden区再满了，就再触发一次Minor GC，Eden和S0中的存活对象又会被复制送入第二块survivor space S1（这个过程非常重要，因为这种复制算法保证了S1中来自S0和Eden两部分的存活对象占用连续的内存空间，避免了碎片化的发生）。S0和Eden被清空，然后下一轮S0与S1交换角色，如此循环往复。如果对象的复制次数达到16次，该对象就会被送到老年代中。

Serial收集器

特点

“单线程收集器”：在它进行垃圾收集时，必须暂停其他所有的工作线程，直到它收集结束。STW在用户不可见的情况下把用户正常工作的线程全部停掉，对很多应用来说都是难以接受的。

当前处境

依然是虚拟机运行在Client模式下的默认新生代收集器。

对比其他收集器的优势

简单高效

ParNew收集器

Serial收集器的多线程版本

优势

除了Serial收集器外，目前只有它能与CMS收集器配合工作。CMS收集器(老年代收集器)是虚拟机中第一款真正意义上的并发收集器，它第一次实现了让垃圾收集线程与用户线程(基本上)同时工作。

在JDK1.5 使用CMS来收集老年代的时候，新生代只能选择ParNew或Serial中的一个。

只有在多CPU的环境下才有比Serial收集器更好的效果。

收集器中的并行和并发

• 并行:指多条垃圾收集线程并行工作，但此时用户线程仍然处于等待状态
• 并发:指用户线程与垃圾收集线程同时执行(但不一定是并行的，可能会交替执行)，用户程序在继续运行，而垃圾收集程序运行于另一个CPU上。

Parallel Scavenge收集器

新生代收集器，使用复制算法的收集器，并行的多线程收集器

特点

目标是达到一个可控制的吞吐量。
$吞吐量=CPU运行用户代码时间/(CPU运行用户代码时间+垃圾收集时间)$
提供了两个参数用于精确控制吞吐量，分别是控制最大垃圾收集停顿时间的-XX：MaxGCPauseMillis参数以及直接设置吞吐量大小的-XX：GCTimeRatio参数。

• MaxGCPauseMillis：收集器尽可能保证内存回收花费的时间不超过设定值，但这是以牺牲吞吐量和新生代空间来换取的，该参数越小，每次回收的新生代内存就越少。
• GCTimeRatio：垃圾收集时间占总时间的比率。即1-吞吐量

Serial Old收集器

Serial收集器的老年代版本，同样是一个单线程收集器。使用"标记-整理"算法。主要意义是在于给Client模式下的虚拟机使用。

如果在Server模式下，那么它主要还有两大用途：一种用途是在JDK 1.5以及之前的版本中与Parallel Scavenge收集器搭配使用，另一种用途就是作为CMS收集器的后备预案，在并发收集发生ConcurrentMode Failure时使用。

Parallel Old 收集器

Parallel Scavenge收集器的老年代版本，使用多线程和"标记-整理"算法。JDK1.6开始提供。

在注重吞吐量以及CPU资源敏感的场合，都可以优先考虑Parallel Scavenge加Parallel Old收集器。

CMS收集器

CMS(Concurrent Mark Sweep)并行标记清除。

以获取最短回收停顿时间为目标的收集器。基于"标记-清除"算法。

步骤:

• 初始标记(CMS initial mark): 根可以关联到的对象 速度快
• 并发标记(CMS concurrent mark): 主要标记过程，标记全部对象
• 重新标记(CMS remark):由于并发标记时，用户线程依然进行因此在正式清理前，再做修正。时间停留比初始标记长，比并发标记短
• 并发清除(CMS concurrent sweep):基于标记结果，直接清理对象

初始标记，重新标记这两个步骤仍然需要"Stop The World"。

缺点:

• 对CPU资源敏感，当CPU核数少时，CMS对用户程序的影响就可能变得很大。
• 无法处理浮动垃圾，即并发清理阶段产生的垃圾。并且由于垃圾收集阶段用户线程还要运行，所以不能等所有老年代满了之后才开始GC，JDK1.5默认设置偏保守，当老年代使用了68%就开始回收。适当调高参数-XX：CMSInitiatingOccupancyFraction的值来提高触发百分比，以便降低内存回收次数从而获取更好的性能，JDK1.6默认以调到92%。要是CMS运行期间预留内存无法满足需要则会使用备用预案:临时使用serial old收集器来进行收集，停顿时间会很长。-XX：CMSInitiatingOccupancyFraction设置太高反而会降低性能。
• CMS基于标记-清除，会产生大量的碎片空间。空间碎片过多时对大对象的分配带来很大麻烦，往往会发生老年代剩余空间多，但是没有地方存放大对象，从而不得不触发full GC。可以使用个-XX：+UseCMSCompactAtFullCollection开关参数（默认就是开启的）用于在CMS收集器顶不住要进行FullGC时开启内存碎片的合并整理过程，内存整理的过程是无法并发的，空间碎片问题没有了，但停顿时间不得不变长。-XX：CMSFullGCsBeforeCompaction，这个参数是用于设置执行多少次不压缩的Full GC后，跟着来一次带压缩的（默认值为0，表示每次进入Full GC时都进行碎片整理）。

G1收集器

G1收集器是当今收集器技术发展最前沿的成果之一。

特点

• 并行与并发:G1能充分利用多CPU，多核环境下的邮件优势，使用多个CPU来缩短STW停顿的时间，部分其他GC收集器需要停顿Java线程执行的GC动作，G1仍然可以使用并发的方式让Java程序继续执行。
• 分代收集:虽然G1可以不需要其他收集器配合就能独立管理整个GC堆，但它能够采用不同的方式去处理新创建的对象和已经存活了一段时间，熬过多次GC的旧对象以获取更好的收集效果。
• 空间整合:整体上看是标记-整理，局部上看是基于复制算法，但都表示G1运行的时候不会产生空间碎片。
• 可预测的停顿:G1除了追求停顿外，还能建立可预测的停顿时间模型，能让使用者明确指定在一个长度为M毫秒的时间片段内，消耗在垃圾收集上的时间不超过N毫秒。

G1将Java堆划分为多个大小相等的独立区域(Region),虽然还保留有新生代和老年代的概念，但新生代和老年代不再是物理隔离，而是多个Region的集合。(减少回收的细粒度)

优先回收价值大的Region，在有限的时间内尽可能提高回收的收集率

把Java堆划分为多个Region后是不是真的就能以Region为单位进行垃圾回收?

问题:Region中的对象会与其他Region中的任意对象发生引用关系。需不需要扫描整个堆来确保准确性。

解决:使用Remembered Set来避免全堆扫描。每个Region都有对应的Remembered Set，当虚拟机发现程序在对Reference类型的数据进行写操作时，会暂时中断，查看该Reference所属的Region，如果属于不同的Region则通过CardTable将其记录下来。这样GC时可以保证不对全栈扫描也不会有遗漏。

步骤:

• 初始标记:仅标记GC Root能直接关联的对象
• 并发标记:进行可达性分析，找出存活的对象，耗时较长
• 最终标记:修正并发标记期间因程序继续运作导致标记产生变化的一部分标记记录。
• 筛选回收:首先对各个Region的回收价值进行排序后根据用户期望的GC停顿时间来制定回收计划。只回收一部分的region。(回收细粒度变小)

内存分配与回收策略

Java技术体系中所提倡的自动内存管理最终可以归结为自动化地解决了两个问题:

• 给对象分配内存
• 回收分配给对象的内存

对象优先在edgn分配

大多数情况下，对象在新生代Eden区中分配。当Edgn区没有足够空间进行分配时，虚拟机将发起一次Minor GC。

新生代GC（Minor GC）：指发生在新生代的垃圾收集动作，因为Java对象大多都具备朝生夕灭的特性，所以Minor GC非常频繁，一般回收速度也比较快。

老年代GC（Major GC/Full GC）：指发生在老年代的GC，出现了Major GC，经常会伴随至少一次的Minor GC（但非绝对的，在Parallel Scavenge收集器的收集策略里就有直接进行Major GC的策略选择过程）。Major GC的速度一般会比Minor GC慢10倍以上。

虚拟机提供了-XX：+PrintGCDetails这个收集器日志参数，告诉虚拟机在发生垃圾收集行为时打印内存回收日志，并且在进程退出的时候输出当前的内存各区域分配情况。

大对象直接进入老年代

大对象指，需要大量连续内存空间的Java对象，最典型的大对象就是那种很长的字符串以及数组。大对象对虚拟机的内存分配来说就是个坏消息(特别是短命大对象，写程序时需要尽量避免)

虚拟机提供了一个-XX：PretenureSizeThreshold参数，令大于这个设置值的对象直接在老年代分配。这样做的目的是避免在Eden区及两个Survivor区之间发生大量的内存复制（复习一下：新生代采用复制算法收集内存）。

长期存活的对象进入老年代

虚拟机给每个对象定义了一个对象年龄计数器，如果对象在Edgn出生并经过第一次MinorGC 后仍然存活，并且能被Survivor容纳的话，将被移动到Survivor空间中，并且对象年龄设为1。而后每熬过一次Minor GC年龄+1，默认到15岁时，会晋升到老年代中。年龄阀值可以设置:数-XX：MaxTenuringThreshold

动态对象年龄判定

为了能更好地适应不同程序的内存状况，虚拟机并不是永远地要求对象的年龄必须达到了MaxTenuringThreshold才能晋升老年代，如果在Survivor空间中相同年龄所有对象大小的总和大于Survivor空间的一半，年龄大于或等于该年龄的对象就可以直接进入老年代，无须等到MaxTenuringThreshold中要求的年龄。

分配空间担保

在发生Minor GC之前，虚拟机会先检查老年代最大可用的连续空间是否大于新生代所有对象总空间，如果这个条件成立，那么Minor GC可以确保是安全的。如果不成立，则虚拟机会查看HandlePromotionFailure设置值是否允许担保失败。如果允许，那么会继续检查老年代最大可用的连续空间是否大于历次晋升到老年代对象的平均大小，如果大于，将尝试着进行
一次Minor GC，尽管这次Minor GC是有风险的；如果小于，或者HandlePromotionFailure设置不允许冒险，那这时改为进行一次Full GC。

下面解释一下“冒险”是冒了什么风险，前面提到过，新生代使用复制收集算法，但为了内存利用率，只使用其中一个Survivor空间来作为轮换备份，因此当出现大量对象在MinorGC后仍然存活的情况（最极端的情况就是内存回收后新生代中所有对象都存活），就需要老年代进行分配担保，把Survivor无法容纳的对象直接进入老年代。前提是老年代本身还有容纳这些对象的剩余空间，一共有多少对象会活下来在实际完成内存回收之前是无法明确知道的，所以只好取之前每一次回收晋升到老年代对象容量的平均大小值作为经验值，与老年代的剩余空间进行比较，决定是否进行Full GC来让老年代腾出更多空间。

取平均值进行比较其实仍然是一种动态概率的手段，也就是说，如果某次Minor GC存活后的对象突增，远远高于平均值的话，依然会导致担保失败（Handle Promotion Failure）。如果出现了HandlePromotionFailure失败，那就只好在失败后重新发起一次Full GC。虽然担保失败时绕的圈子是最大的，但大部分情况下都还是会将HandlePromotionFailure开关打开，避免Full GC过于频繁