即时编译器
在部分的商用虚拟机（Sun HotSpot、IBM J9）中，java程序最初是通过解释器（Interpreter）进行解释执行的，当虚拟机发现某个方法或代码块的运行特别频繁时，就会把这些代码认定为“热点代码”（hot spot code）。为了提高热点代码的执行效率，在运行时，虚拟机将会把这些代码编译成与本地平台相关的机器码，并进行各种层次的优化，完成这个任务的编译器称为即时编译器（Just In Time Compiler，下文中简称为JIT编译器）。
hotspot虚拟机内的即时编译器
1、编译器与解释器
编译器与解释器各有优势
当程序需要迅速启动和执行的时候，解释器可以首先发挥作用，省去编译的时间，立即执行。
在程序运行后，随着时间的推移，编译器逐渐发挥作用，把越来越多的代码编译成本地代码之后，可以获得更高的执行效率。
当程序运行环境中内存资源限制较大（如部分嵌入式系统中），可以使用解释执行节约内存，反之可以使用编译执行来提升效率。同时，解释器还可以作为编译器激进优化时的一个“逃生门”，让编译器根据概率选择一些大多数时候都能提升运行速度的优化手段，当激进优化的假设不成立，如加载了新类后类型继承结构出现变化、出现“罕见陷阱”（Uncommon Trap）时可以通过逆优化（Deoptimization）退回到解释状态继续执行，因此，在整个虚拟机执行架构中，解释器与编译器经常配合工作。
解释器与编译器搭配使用的方式在虚拟机中称为**“混合模式”（Mixed Mode），用户可以使用参数“-Xint”强制虚拟机运行于“解释模式”（Interpreted Mode）**，这时编译器完全不介入工作，全部代码都使用解释方式执行。
也可以使用参数**“-Xcomp”强制虚拟机运行于“编译模式”（Compiled Mode）**，这时优先采用编译方式执行，但是解释器仍然要在编译无法进行的情况下介入执行过程。
分层编译
HotSpot虚拟机在jdk1.7的server模式虚拟机中作为默认编译策略被开启。
- 第0层，程序解释执行，解释器不开启性能监控功能（Profiling），可触发第一层编译
- 第1层，也称为C1编译，讲字节码编译为本地代码，进行简单、可靠的优化，如有必要将加入性能监控逻辑
- 第2层（或2层以上），也称为C2编译，也是将字节码编译为本地代码，但是会启用一些编译耗时较长的优化，甚至会根据性能监控信息进行一些不可靠的激进优化
注意：实施分层编译后，Client Compiler 和 Server Compiler将会同时工作，许多代码都可能被多次编译，用Client Compiler获取更高的编译速度，用Server Compiler来获取更好的编译质量，在解释执行的时候也无须再收集性能监控信息的任务。
2、编译对象与触发条件
运行过程中会被即时编译器编译的“热点代码”有两类：
- 被多次调用的方法
- 被多次执行的循环体
对于第一种情况，编译器以整个方法作为编译对象，这种编译也是虚拟机中标准的JIT编译方式。而对于第二种，尽管编译动作是由循环体所触发的，但编译器依然会以整个方法（而不是单独的循环体）作为编译对象。这种编译方式因为编译发生在方法执行过程之中，因此形象地称之为栈上替换（On Stack Replacement，简称OSR编译，即方法栈帧还在栈上，方法就被替换了）
热点探测（Hot Spot Detection）
- 基于采样的热点探测（Sample Based Hot Detection）：采用这种方法的虚拟机会周期性地检查各个线程的栈顶，如果发现某个（或某些）方法经常出现在栈顶，那这个方法就是“热点方法”。
- 基于计数器的热点探测（Counter Based Hot Spot Detection）：采用这种方法的虚拟机会为每个方法（甚至是代码块）建立计数器，统计方法的执行次数超过一定的阈值就认为它是“热点方法”。
HotSpot虚拟机中使用的就是第二种——基于计数器的热点探测方法，因此它为每个方法准备了两类计数器：方法调用计数器 （Invocation Counter）和 回边计数器（Back Edge Counter）
方法调用计数器
统计方法被调用的次数，默认阈值再Client模式下是1500次，在Server模式下是10000次，可以通过虚拟机参数 -XX：CompileThreshold来人为设定。
当一个方法被调用时，会先检查该方法是否存在被JIT编译过的版本，如果存在，优先使用编译后的本地代码来执行。如果不存在，则该方法的调用计数器值加1，然后判断方法调用计数器与回边计数器之和是否超过方法调用计数器的阈值。如果超过阈值，那么将会向即时编译器提交一个该方法的代码编译请求。
如果不做任何设置，方法调用计数器统计的并不是方法被调用的绝对次数，而是一个相对的执行频率，即一段时间之内方法被调用的次数。当超过一定的时间限度，如果方法调用次数任然不足以让它提交给即时编译器编译，那这个方法的调用计数器就会被减少一半，这个过程称为方法调用计数器的衰减（Counter Decay），而这段时间就被称为此方法统计的半衰周期（Counter Half Life Time）。热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的，可以使用虚拟机参数 -XX：-UseCounterDecay来关闭热度衰减，让方法计数器统计方法调用的绝对次数。可以使用—XX:CounterHalfLifeTime参数来设置半衰周期的时间，单位是秒。
回边计数器
统计一个方法中循环体代码执行的次数，在字节码中遇到控制流向后跳转的指令称为 “回边”（Back Edge) 。显然，建立回边计数统计的目的就是触发OSR编译。
回边计数器的阈值，虽然HotSpot虚拟机也提供了一个类似于方法调用计数器阈值 -XX：CompileThreshold的参数 -XX：BackEdgeThreshold 供用户设置，但是当前虚拟机实际上并未使用此参数。因此我们需要设置另外一个参数-XX：OnStackReplacePercentage来间接调整回边计数器的阈值：计算公式如下：
-
client模式：
方法调用计数器阈值 X OSR比率 / 100
其中OSR比率默认值为933，如果都取默认值，那Client模式虚拟机的回边计数器的阈值是13995
-
Server模式：
方法调用计数器阈值 X （OSR比率 - 解释器监控比率）/ 100
其中OSR默认值为140，解释器监控比率默认值为33，如果都取默认值，那么server模式虚拟机的回边计数器的阈值为10700
3、编译过程
在默认设置下，无论是方法调用产生的即时编译请求，还是OSR编译请求，虚拟机在代码编译还未完成之前，都仍然将按照解释方式继续执行，而编译动作则在后台的编译线程中进行。用户可以通过参数 -XX：-BackgroundCompilation来禁止后台编译，在禁止后台编译后，一旦达到JIT的编译条件，执行线程向虚拟机提交编译请求后将会一直等待，直到编译过程完成后再开始执行编译器输出的本地代码。
Client Compiler简单快速的三段式编译器
第一个阶段
一个平台独立的前段将字节码构造成一种高级中间代码表示（High Level Intermediate Representaion,HIR）。HIR使用**静态单分配（Static Single Assignment，SSA）**的形式来代表代码值，这可以使得一些在HIR的构造过程之中和之后进行的优化动作更容易实现。在此之前编译器会在字节码上完成一部分基础优化，如方法内联、常量传播等。
第二个阶段
一个平台相关的后端从HIR中产生低级中间代码表示（Low Level intermediate Representation，LIR），而在此之前会在HIR上完成另外一些优化，如空值检查消除、范围检查消除等，以便让HIR达到更高效的代码表示形式。
第三个阶段
是在平台相关的后端使用线性扫描算法（Linear Scan Register Allocation）在LIR上分配寄存器，并在LIR上做窥孔（Peephole）优化，然后产生机器代码。
Server Compiler编译器
Server Compiler则是专门面向服务端的典型应用并未服务端的性能配置特别调整过的编译器，也是一个充分优化过的高级编译器，几乎能达到GUN C++编译器使用-O2参数是的优化强度。它会执行所有经典的优化动作，如无用代码消除、循环展开、循环表达式外提、消除公共子表达式、常量传播、基本块重排序等，还会实施一些与java语言特性密切相关的优化技术，如范围检查消除、空值检查消除。另外，还可能根据解释器或Client Compiler提供的性能监控信息，进行一些不稳定的激进优化，如守护内联、分支频率预测等。
编译优化技术
公共子表达式消除
如果一个表达式E已经计算过了，并且从先前的计算到现在E中所有的变量的值都没有发生变化，那么E的这次出现就成为了公共子表达式。对于这种表达式，没有必要花时间再对它进行计算，只需要直接用前面计算过的表达式结果替换E就可以了。
如果这种优化仅限于程序的基本块内，便称为局部公共子表达式消除（Local Common Subexpression Elimination），如果这种优化的范围涵盖了多个基本块，那就称为全局子表达式消除（Global Common Subexpression Elimination）
数组边界检查消除
方法内联
方法内联是编译器最重要的优化手段之一，除了消除方法调用的成本之外，它更重要的意义是为其他优化手段建立良好的基础。
方法内联的优化行为看起来很简单，不过是把目标方法的代码“复制”到发起调用的方法之中，避免发生真实的方法调用而已。但实际上Java虚拟机中的内联过程远远没有那么简单，因为如果不是即时编译器做了一些特别的努力，按照经典编译原理的优化理论，大多数的java方法都无法进行内联。
逃逸分析（Escape Analysis）
逃逸分析是目前Java虚拟机中比较前沿的优化技术，它与类型继承关系分析一样，并不是直接优化代码的手段，而是为其他优化手段提供依据的分析技术。
逃逸分析的基本行为就是分析对象动态作用域：当一个对象在方法中被定义后，它可能被外部方法所引用，例如作为调用参数传递到其他方法中，称为方法逃逸。甚至还可能被外部线程访问到，譬如赋值给类变量或可以在其他线程中访问的实例变量，称为线程逃逸。
如果能证明一个方法不会逃逸到方法或线程外，则可以对这个变量进行一些高效的优化：
- 栈上分配（Stack Allocation）：如果确定一个对象不会逃逸出方法外，那让这个对象在栈上分配内存将会是一个很不错的主意，对象所占用的内存空间就可以随栈帧出栈而销毁。在一般的应用中，不会逃逸的局部对象所占的比例很大，如果能使用栈上分配，那大量的对象就会随着方法的结束而自动销毁了，垃圾收集系统的压力将会小很多。
- 同步消除（Synchronization Elimination）：线程同步本身是一个相对耗时的过程，如果逃逸分析能够确定一个变量不会逃逸出线程，无法被其他线程访问，那这个变量的读写肯定就不会有竞争，对这个变量实施的同步措施也就可以消除掉。
- 标量替换（Scalar Replacement）：标量是指一个数据已经无法再分解成更小的数据来表示了，Java虚拟机中的原始数据类型（int、long等数值类型以及reference类型等）都不能再进一步分解，他们就可以称为标量。相对的，如果一个数据可以继续分解，那它就称为聚合量（Aggregate），Java中的对象就是最典型的聚合量。如果把一个Java对象拆散，根据程序访问的情况，将其使用到的成员变量恢复原始类型来访问就叫做标量替换。如果逃逸分析证明一个对象不会被外部访问，并且这个对象可以被拆散的话，那程序真正执行的时候将可能不再创建这个对象，而改成直接创建它的若干个被这个方法使用的成员变量来替换。、
如果有需要，并且确认对程序运行有益，用户可以使用参数 -XX ：+DoEscapeAnalysis来手动开启逃逸分析，开启之后可以通过参数**-XX：+PrintEscapeAnalysis来查看分析结果。有了逃逸分析支持之后，用户可以使用参数-XX：+EliminateAllocations来开启标量替换，使用+XX：+EliminateLocks来开启同步消除，使用参数-XX：+PrintEliminateAllocation**查看标量的替换情况。
以上知识点摘录自《深入理解java虚拟机》
