垃圾收集器

串行回收默认被应用在客户端的Client模式下的JVM

评价GC的性能指标

  • 吞吐量：运行用户代码的时间占总运行时间的比例（总运行时间：程序的运行时间+内存回收的时间）
  • 垃圾收集开销：吞吐量的补数，垃圾收集所用时间与总运行时间的比例
  • 暂停时间：执行垃圾收集时，程序的工作线程被暂停的时间
  • 收集频率：相对于应用程序的执行，收集操作发生的频率
  • 内存占用：Java堆区所占用的内存大小
  • 快速：一个对象从诞生到被回收所经历的时间

重点关注：

  • 吞吐量
  • 暂停时间

吞吐量

  • 吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值，即吞吐量=运行用户代码时间/（运行用户代码时间+垃圾收集时间）
    • 比如：虚拟机总共运行了100分钟，其中垃圾收集花掉1分钟，那吞吐量就是99%
  • 这种情况下，应用程序能容忍较高的暂停时间（暂停次数少），因此，高吞吐量的应用程序有更长的时间基准，快速响应是不必考虑的

暂停时间

  • 是指一个时间段内应用程序线程暂停，让GC线程执行的状态（STW）
    • 例如，GC期间100毫秒的暂停时间意味着在这个100毫秒期间内没有应用程序线程是活动的

总结

在设计（或使用）GC算法时，我们必须确定我们的目标：一个GC算法只可能针对两个目标之一（即只专注较大吞吐量或最小暂停时间），或尝试找到一个两者的折衷

现在标准：在最大吞吐量优先的情况下，降低停顿时间

7款经典的垃圾收集器

  • 串行回收器：Serial、Serial Old
  • 并行回收器：ParNew、Parallel Scavenge、Parallel Old
  • 并发回收器：CMS、G1

与垃圾分代之间的关系

  • 新生代收集器：Serial、ParNew、Parallel Scavenge
  • 老年代收集器：Serial Old、Parallel Old、CMS
  • 整堆收集器：G1

查看垃圾回收类型

  • 命令行
1
2
3
4
5
jps
jinfo UseParallelGC #进程ID
jinfo UseParallelOldGC #进程ID
jinfo -flag UseG1GC

  • java 命令行：-XX:PrintCommandLineFlags

Serial回收器：串行回收

  • Serial收集器是最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择
  • Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器
  • Serial收集器采用复制算法、串行回收和STW机制的方式执行内存回收
  • 除了年轻代之外，Serial收集器还提供用于执行老年代垃圾收集的Serial Old的收集器。Serial Old收集器同样采用了串行回收和STW机制，只不过内存回收算法使用的是标记-压缩算法
    • Serial Old是运行在Client模式下默认的老年代的垃圾回收器
    • Serial Old在Server模式下主要有两个用途：
      • 与新生代的Parallel Scavenge配合使用
      • 作为老年代CMS收集器的后备垃圾收集方案

Serial收集器

是一个单线程的收集器，但它的单线程的意义并不仅仅说明她只会使用一个CPU或一条收集线程去完成垃圾收集工作，更重要的是在它进行垃圾收集，必须暂停其他所有的工作线程，直到它收集结束

命令：-XX:+UseSerialGC，表明新生代使用Serial GC，老年代使用Serial Old GC

ParNew 并行回收

  • 如果说Serial GC是年轻代中的单线程垃圾收集器，那么ParNew收集器则是Serial收集器的多线程版本
    • Par是Parallel的缩写，New：只能处理的是新生代
  • ParNew收集器除了采用并行回收的方法执行内存外，两款垃圾收集器之间几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法、STW机制

Parallel Scavenge回收器：吞吐量优先

  • HotSpot的年代除了拥有ParNew收集器是基于并行回收的以外，Parallel Scavenge收集器同样也采用了复制算法、并行回收和STW机制
  • 和ParNew收集器不同，Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量（Throughput）,他被称为吞吐量优先的垃圾收集器
  • 自适应调节策略也是Parallel Scavenge与ParNew一个重要区别
  • 高吞吐量则可以高效率地利用CPU时间，尽快完成程序地运算任务，主要适用在后台运算而不需要太多交互的任务。因此，常见在服务器环境中使用。例如，那些执行批量处理、订单处理、工资支付、科学计算的程序
  • Parallel 收集器在JDK1.6时提供了用于执行老年代垃圾收集地Parallel Old收集器，用来代替老年代的Serial Old收集器
  • Parallel Old收集器采用了标记-压缩算法，但同样也是基于并行回收和STW机制

+XX:UseParallelGC 与 +XX:UseParallelGC 相互激活

CMS回收器：低延迟

  • 在JDK1.5时期，HotSpot推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器：CMS（Concurrent-Mark-Sweep）收集器，这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器，它第一次实现了让垃圾收集线程与用户线程同时工作
  • CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短（低延迟）就越适合与用户交互的程序，良好的响应速度提升用户体验
    • 目前很大一部分的java应用集中在互联网网站或者B/S系统的服务器上，这类应用尤其重视服务的响应速度，希望系统停顿时间最短，以给用户带来较好的体验。CMS收集器就非常符合这类应用的需求
  • CMS垃圾收集算法采用标记-清除算法，并也会STW

不幸的是，CMS作为老年代的收集器，却无法与JDK1.4.0中已经存在的新生代收集器Parallel Scavenge配合工作，所以在JDK1.5中使用CMS收集老年代的时候，新生代只能选择ParNew或者Serial收集器中的一个

在G1出现之前，CMS使用还是非常广泛的。一直到今天，仍然有很多系统使用CMS GC。

CMS工作原理

CMS整个过程比之前的收集器要复杂，整个过程分为4个主要阶段，即初始标记阶段、并发标记阶段、重新标记阶段和并发清理阶段

  • 初始标记阶段（Initial-Mark）：在这个阶段中，程序所有的工作线程都将会被STW机制而出现短暂的暂停，这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象小，所以这里的速度非常快。
  • 并发标记（Concurrent-Mark）阶段：从GC Roots的直接关联对象开始遍历整个对象图的过程，这个过程耗时较长，但是不需要停顿用户线程，可与垃圾收集线程一起并发运行
  • 重新标记阶段（Remark）：由于在并发标记阶段中，程序的工作线程会和垃圾收集线程同时运行或者交叉运行，因此为了修正（包括清除标记）并发标记期间，因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录（并发阶段怀疑是垃圾的垃圾，比如finalize复活对象，），这个阶段的停顿时间通常会比初始标记阶段稍长一些，但远比并发标记阶段的时间短
  • 并发清除阶段（Concurrent-Sweep）：此阶段清理删除在标记阶段判断的已经死亡的对象，释放内存空间。由于不需要移动存活对象，所以这个标记阶段也是可与用户线程同时并发的。（没有进行压缩，所以会存在碎片问题）

特点

  • 由于最耗费时间的并发标记与并发清除阶段不需要暂停工作，所以整体的回收过程是低停顿的
  • 由于在垃圾收集阶段用户线程没有中断，所以在CMS回收过程中，还应该确保应用程序用户线程有足够的内存可用。因此CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集，而是当堆内存使用率达到某一阈值时，便开始进行回收，以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要，就会出现一次“Concurrent Mode Failure”失败，这时虚拟机启动后备预案：临时启动Serial Old收集器来重新进行对老年代的垃圾收集，这样停顿时间就会很长

为什么不使用标记-压缩？

  • 因为当并发清除的时候，用Compact整理内存的话，原来的用户线程使用的内存还怎么用呢？压缩算法会重新整理地址。
  • 要保证用户线程能继续执行，前提是它运行的资源不受影响。
  • 压缩算法更适用STW这种场景下使用

弊端

  • 会产生内存碎片：导致并发清除后，用户线程可用的空间不足。在无法分配大对象的情况下，不得不提前触发Full GC
  • CMS收集器对CPU资源非常敏感：在并发阶段，它虽然不会导致用户停顿，但是会因为占用了一部分线程而导致应用程序变慢，总吞吐量会降低
  • CMS收集器无法处理浮动垃圾：可能出现“Concurrent Mode Failure”失败而导致另一次Full GC的产生。在并发标记阶段由于程序的工作线程和垃圾线程同时或者交叉运行的，那么并发标记阶段如果产生新的垃圾对象，CMS将无法对这些垃圾对象进行标记，最终会导致这些新产生的垃圾对象没有被及时回收，从而只能在下一次执行GC时释放这些之前未被回收的内存空间

相关参数

  • -XX:+UseConcurrentMarkSweepGC：表明老年代使用CMS GC。同时年轻代会触发对ParNew的使用
  • -XX:CMSInitiatingOccupanyFraction：设置堆内存使用率的阈值

G1回收器：区域分代化

为了适应现在不断扩大的内存和不断增加的处理器数量，进一步降低暂停时间（pause time），同时兼顾良好的吞吐量

官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量，所以才担当起”全能收集器“的重任和期望

为什么叫Garbage First？

  • 因为G1是一个并行回收器，它把堆内存分割为很多不相关的区域（Region）（物理上不连续的）。使用不同的Region来代表Eden、幸存者0区，幸存者1区，老年代等
  • G1 GC有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小（回收所获得的空间大小以及回收所需要时间的经验值），在后台维护一个优先列表，每次根据允许的收集时间，优先回收价值最大的Region
  • 由于这种方式的侧重点在于回收垃圾最大量的区间，所以我们给G1一个名字：垃圾优先（Garbage Firts）

特点

并行与并发

  • 并行性：G1在回收期间，可以有多个GC线程同时工作，有效利用多核计算能力。此时用户线程STW。（并行都会造成STW）
  • 并发性：G1拥有与应用程序交替执行的能力，部分工作可以和应用程序同时执行因此，一般来说，不会在整个回收阶段发生完全阻塞应用程序的情况

分代收集

  • 从分代上看，G1依然属于分代型垃圾回收器，它会区分年轻代和老年代，年轻代依然有Eden区和survivor区。但从堆的结构上看，它不要求整个Eden区、年轻代或者老年代都是连续的，也不再坚持固定大小和固定数量。
  • 将堆空间分为若干个区域 (Region)，这些区域中包含了逻辑上的年轻代和老年代。
  • 和之前的各类回收器不同，它同时兼顾年轻代和老年代。对比其他回收器，或者工作在年轻代，或者工作在老年代

空间整合

  • CMS：“标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理
  • G1将内存划分为一个个的region。内存的回收是以region作为基本单位的。Region之间是复制算法，但整体上实际可看作是标记-压缩 (Mark-Compac算法，两种算法都可以避免内存碎片。这种特性有利于程序长时间运行，分配大对象时不会因为无法找到连续内存空间而提前触发下一次 GC。尤其是当Java堆非常大的时候，G1的优势更加明显。

可预测的停顿时间模型（软实时 soft-real-time）

  • 这是 G1 相对于 CMS 的另一大优势，G1除了追求低停顿外，还能建立可预测的停顿时间模型，能让使用者明确指定在一个长度为 M 毫秒的时间片段内，消耗在垃圾收集上的时间不得超过N毫秒。
    • 由于分区的原因，G1可以只选取部分区域进行内存回收，这样缩小了回收的范围，因此对于全局停顿情况的发生也能得到较好的控制。
    • G1 跟踪各个 Region 里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值)，在后台维护一个优先列表，每次根据允许的收集时间，优先回收价值最大的Region。保证了 G1 收集器在有限的时间内可以获取尽可能高的收集效率。
    • 相比于CMS GC，G1未必能做到CMS在最好情况下的延时停顿，但是最差情况要好很多。

缺点

  • 相较于CMS，G1还不具备全方位、压倒性优势。比如在用户程序运行过程中G1无论是为了垃圾收集产生的内存占用 (Footprint) 还是程序运行时的**额外执行负载 (overload)**都要比CMS要高。
  • 从经验上来说，在小内存应用上CMS的表现大概率会优于G1，而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间。

G1参数设置

  • -XX:+UseG1GC ：手动指定使用G1收集器执行内存回收任务
  • -XX:G1HeapRegionSize ：设置每个Region的大小。值是2的幂，范围是1MB到32MB之间，目标是根据最小的Java堆大小划分出2048个区域。默认是堆内存的1/2000
  • -XX:MaxGCPauseMillis ：设置期望达到的最大GC停顿时间指标（JVM会尽力实现，但不保证达到）。默认值是200ms，设置的越小，可回收的堆空间越少
  • -XX:ParallelGCThread：设置STW工作线程数的值。最多设置8
  • -XX:ConcGCThread：设置并发标记的线程数。将n设置为并发垃圾回收线程（ParallelGCThread）的1/4左右
  • -XX:InitiatingHeapOccupancyPercent：设置触发并发GC周期的Java堆占用率阈值。超过此值，就触发GC。默认值是45。

G1的设计原则就是简化JVM性能调优，开发人员只需要简单的三步即可完成调优：

  1. 开启G1垃圾收集器
  2. 设置堆的最大内存
  3. 设置最大的停顿时间

G1中提供了三种垃圾回收模式：YoungGC、Mixed GC和Full GC，在不同的条件下被触发

Region

化整为零的思想（即分散）

  • 使用 G1 收集器时，它将整个Java堆划分成约2048个大小相同的独立Reqion块，每个Region块大小根据堆空间的实际大小而定，整体被控制在1MB到32MB之间，且为2的N次幂，即1MB，2MB，4MB，8MB，16MB,32MB。可以通过-XX:G1HeapRegionsize设定。所有的Region大小相同，且在JVM生命周期内不会被改变。

  • 虽然还保留有新生代和老年代的概念，但新生代和老年代不再是物理隔离的了它们都是一部分Region (不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续。

  • 一个Region有可能属于Eden，Survivor或者Old/Tenured内存区域。但是一个region只可能属于一个角色。被回收的region会放置在空闲列表中，下次使用是可以重新分配内存区域

  • G1垃圾收集器还增加了一种新的内存区域，叫做Humongous，主要用于存储大对象，如果超过1.5个region，就放入H中

设置H区的原因：

对于堆中的大对象，默认直接会被分配到老年代，但是如果它是一个短期存在的大对象，就会对垃圾收集器造成负面影响。为了解决这个问题G1划分了一个H区，它用来专门存放大对象。如果一个H区装不下一个大对象，那么G1会寻找一个连续的H区来存储。为了能找到连续的H区，有时候不得不启动Full GC。G1的大多数行为都把H区当作老年代的一部分看待

G1垃圾回收过程

  1. 年轻代GC（Young GC）
  2. 老年代并发标记过程（Concurrent Marking）
  3. 混合回收（Mixed GC）
  4. （如果需要，单线程、独占式、高保护的Full GC 还是会继续存在。他针对GC的评估失败提供了一种失败的保护机制，即强回收）
  • 应用程序分配内存，当年轻代的Eden区用尽时开始年轻代回收过程：G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期，G1 GC暂停所有应用程序线程，启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到survivor区间或者老年区间，也有可能是两个区间都会涉及。
  • 当堆内存使用达到一定值(默认45%) 时，开始老年代并发标记过程
  • 标记完成马上开始混合回收过程。对于一个混合回收期，G1 GC从老年区间移动存活对象到空闲区间，这些空闲区间也就成为了老年代的一部分。和年轻代不同，老年代的G1回收器和其他GC不同，G1的老年代回收器不需要整个老年代被回收，一次只需要扫描/回收一小部分老年代的Region就可以了。同时，这个老年代Region是和年轻代一起被回收的。
  • 举个例子:一个web服务器，Java进程最大堆内存为4G，每分钟响应1500个请求，每45秒钟会新分配大约2G的内存。G1会每45秒钟进行一次年轻代回收，每31个小时整个堆的使用率会达到45%，会开始老年代并发标记过程，标记完成后开始四到五次的混合回收。
Remembered Set
  • 一个对象被不同区域引用的问题
  • 一个Region不可能是孤立的，一个Region中的对象可能被其他任意Region中对象引用，判断对象存活时，是否需要扫描整个Java堆才能保证准确
  • 在其他的分代收集器，也存在这样的问题
  • 回收新生代也不得不同时扫描老年代？会降低Minor GC的效率

解决方法：

  • 无论G1还是其他分代收集器，JVM都是使用Remembered Set来避免全局扫描
  • 每个Region都有一个对应的Remembered Set
  • 每次Reference类型写操作时，都会产生一个Write Barrier暂时中断操作
  • 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region
  • 如果不同，通过CardTable把相关引用信息记录到指向对象所在Region对应的Remember Set中
  • 当进行垃圾收集时，在GC根节点的枚举范围加入Remembered Set：就可以保证不进行全局扫描，也不会有遗漏