深入理解 Java G1 垃圾收集器GC調優

NO IMAGE

本文首先簡單介紹了垃圾收集的常見方式,然後再分析了G1收集器的收集原理,相比其他垃圾收集器的優勢,最後給出了一些調優實踐。
一,什麼是垃圾回收
首先,在瞭解G1之前,我們需要清楚的知道,垃圾回收是什麼?簡單的說垃圾回收就是回收記憶體中不再使用的物件。
垃圾回收的基本步驟
回收的步驟有2步:
查詢記憶體中不再使用的物件
釋放這些物件佔用的記憶體

1,查詢記憶體中不再使用的物件
那麼問題來了,如何判斷哪些物件不再被使用呢?我們也有2個方法:
引用計數法

引用計數法就是如果一個物件沒有被任何引用指向,則可視之為垃圾。這種方法的缺點就是不能檢測到環的存在。
2.根搜尋演算法
根搜尋演算法的基本思路就是通過一系列名為”GC Roots”的物件作為起始點,從這些節點開始向下搜尋,搜尋所走過的路徑稱為引用鏈(Reference Chain),當一個物件到GC Roots沒有任何引用鏈相連時,則證明此物件是不可用的。
現在我們已經知道如何找出垃圾物件了,如何把這些物件清理掉呢?
2. 釋放這些物件佔用的記憶體
常見的方式有複製或者直接清理,但是直接清理會存在記憶體碎片,於是就會產生了清理再壓縮的方式。
總得來說就產生了三種型別的回收演算法。
1.標記-複製
它將可用記憶體容量劃分為大小相等的兩塊,每次只使用其中的一塊。當這一塊用完之後,就將還存活的物件複製到另外一塊上面,然後在把已使用過的記憶體空間一次理掉。它的優點是實現簡單,效率高,不會存在記憶體碎片。缺點就是需要2倍的記憶體來管理。
2.標記-清理
標記清除演算法分為“標記”和“清除”兩個階段:首先標記出需要回收的物件,標記完成之後統一清除物件。它的優點是效率高,缺點是容易產生記憶體碎片。
3.標記-整理
標記操作和“標記-清理”演算法一致,後續操作不只是直接清理物件,而是在清理無用物件完成後讓所有 存活的物件都向一端移動,並更新引用其物件的指標。因為要移動物件,所以它的效率要比“標記-清理”效率低,但是不會產生記憶體碎片。
基於分代的假設
由於物件的存活時間有長有短,所以對於存活時間長的物件,減少被gc的次數可以避免不必要的開銷。這樣我們就把記憶體分成新生代和老年代,新生代存放剛建立的和存活時間比較短的物件,老年代存放存活時間比較長的物件。這樣每次僅僅清理年輕代,老年代僅在必要時時再做清理可以極大的提高GC效率,節省GC時間。
java垃圾收集器的歷史
第一階段,Serial(序列)收集器
在jdk1.3.1之前,java虛擬機器僅僅能使用Serial收集器。 Serial收集器是一個單執行緒的收集器,但它的“單執行緒”的意義並不僅僅是說明它只會使用一個CPU或一條收集執行緒去完成垃圾收集工作,更重要的是在它進行垃圾收集時,必須暫停其他所有的工作執行緒,直到它收集結束。
PS:開啟Serial收集器的方式
-XX: UseSerialGC

第二階段,Parallel(並行)收集器
Parallel收集器也稱吞吐量收集器,相比Serial收集器,Parallel最主要的優勢在於使用多執行緒去完成垃圾清理工作,這樣可以充分利用多核的特性,大幅降低gc時間。
PS:開啟Parallel收集器的方式
-XX: UseParallelGC -XX: UseParallelOldGC

第三階段,CMS(併發)收集器
CMS收集器在Minor GC時會暫停所有的應用執行緒,並以多執行緒的方式進行垃圾回收。在Full GC時不再暫停應用執行緒,而是使用若干個後臺執行緒定期的對老年代空間進行掃描,及時回收其中不再使用的物件。
PS:開啟CMS收集器的方式
-XX: UseParNewGC -XX: UseConcMarkSweepGC

第四階段,G1(併發)收集器
G1收集器(或者垃圾優先收集器)的設計初衷是為了儘量縮短處理超大堆(大於4GB)時產生的停頓。相對於CMS的優勢而言是記憶體碎片的產生率大大降低。
PS:開啟G1收集器的方式
-XX: UseG1GC

二,瞭解G1
G1的第一篇paper(附錄1)發表於2004年,在2012年才在jdk1.7u4中可用。oracle官方計劃在jdk9中將G1變成預設的垃圾收集器,以替代CMS。為何oracle要極力推薦G1呢,G1有哪些優點?
首先,G1的設計原則就是簡單可行的效能調優
開發人員僅僅需要宣告以下引數即可:
-XX: UseG1GC -Xmx32g -XX:MaxGCPauseMillis=200

其中-XX: UseG1GC為開啟G1垃圾收集器,-Xmx32g 設計堆記憶體的最大記憶體為32G,-XX:MaxGCPauseMillis=200設定GC的最大暫停時間為200ms。如果我們需要調優,在記憶體大小一定的情況下,我們只需要修改最大暫停時間即可。
其次,G1將新生代,老年代的物理空間劃分取消了。
這樣我們再也不用單獨的空間對每個代進行設定了,不用擔心每個代記憶體是否足夠。

1

取而代之的是,G1演算法將堆劃分為若干個區域(Region),它仍然屬於分代收集器。不過,這些區域的一部分包含新生代,新生代的垃圾收集依然採用暫停所有應用執行緒的方式,將存活物件拷貝到老年代或者Survivor空間。老年代也分成很多區域,G1收集器通過將物件從一個區域複製到另外一個區域,完成了清理工作。這就意味著,在正常的處理過程中,G1完成了堆的壓縮(至少是部分堆的壓縮),這樣也就不會有cms記憶體碎片問題的存在了。

2

在G1中,還有一種特殊的區域,叫Humongous區域。 如果一個物件佔用的空間超過了分割槽容量50%以上,G1收集器就認為這是一個巨型物件。這些巨型物件,預設直接會被分配在年老代,但是如果它是一個短期存在的巨型物件,就會對垃圾收集器造成負面影響。為了解決這個問題,G1劃分了一個Humongous區,它用來專門存放巨型物件。如果一個H區裝不下一個巨型物件,那麼G1會尋找連續的H分割槽來儲存。為了能找到連續的H區,有時候不得不啟動Full GC。
PS:在java 8中,持久代也移動到了普通的堆記憶體空間中,改為元空間。
物件分配策略
說起大物件的分配,我們不得不談談物件的分配策略。它分為3個階段:
TLAB(Thread Local Allocation Buffer)執行緒本地分配緩衝區
Eden區中分配
Humongous區分配

TLAB為執行緒本地分配緩衝區,它的目的為了使物件儘可能快的分配出來。如果物件在一個共享的空間中分配,我們需要採用一些同步機制來管理這些空間內的空閒空間指標。在Eden空間中,每一個執行緒都有一個固定的分割槽用於分配物件,即一個TLAB。分配物件時,執行緒之間不再需要進行任何的同步。
對TLAB空間中無法分配的物件,JVM會嘗試在Eden空間中進行分配。如果Eden空間無法容納該物件,就只能在老年代中進行分配空間。
最後,G1提供了兩種GC模式,Young GC和Mixed GC,兩種都是Stop The World(STW)的。下面我們將分別介紹一下這2種模式。
三,G1 Young GC
Young GC主要是對Eden區進行GC,它在Eden空間耗盡時會被觸發。在這種情況下,Eden空間的資料移動到Survivor空間中,如果Survivor空間不夠,Eden空間的部分資料會直接晉升到年老代空間。Survivor區的資料移動到新的Survivor區中,也有部分資料晉升到老年代空間中。最終Eden空間的資料為空,GC停止工作,應用執行緒繼續執行。

3

4

這時,我們需要考慮一個問題,如果僅僅GC 新生代物件,我們如何找到所有的根物件呢? 老年代的所有物件都是根麼?那這樣掃描下來會耗費大量的時間。於是,G1引進了RSet的概念。它的全稱是Remembered Set,作用是跟蹤指向某個heap區內的物件引用。

5

在CMS中,也有RSet的概念,在老年代中有一塊區域用來記錄指向新生代的引用。這是一種point-out,在進行Young GC時,掃描根時,僅僅需要掃描這一塊區域,而不需要掃描整個老年代。
但在G1中,並沒有使用point-out,這是由於一個分割槽太小,分割槽數量太多,如果是用point-out的話,會造成大量的掃描浪費,有些根本不需要GC的分割槽引用也掃描了。於是G1中使用point-in來解決。point-in的意思是哪些分割槽引用了當前分割槽中的物件。這樣,僅僅將這些物件當做根來掃描就避免了無效的掃描。由於新生代有多個,那麼我們需要在新生代之間記錄引用嗎?這是不必要的,原因在於每次GC時,所有新生代都會被掃描,所以只需要記錄老年代到新生代之間的引用即可。
需要注意的是,如果引用的物件很多,賦值器需要對每個引用做處理,賦值器開銷會很大,為了解決賦值器開銷這個問題,在G1 中又引入了另外一個概念,卡表(Card Table)。一個Card Table將一個分割槽在邏輯上劃分為固定大小的連續區域,每個區域稱之為卡。卡通常較小,介於128到512位元組之間。Card Table通常為位元組陣列,由Card的索引(即陣列下標)來標識每個分割槽的空間地址。預設情況下,每個卡都未被引用。當一個地址空間被引用時,這個地址空間對應的陣列索引的值被標記為”0″,即標記為髒被引用,此外RSet也將這個陣列下標記錄下來。一般情況下,這個RSet其實是一個Hash Table,Key是別的Region的起始地址,Value是一個集合,裡面的元素是Card Table的Index。
Young GC 階段:
階段1:根掃描靜態和本地物件被掃描
階段2:更新RS處理dirty card佇列更新RS
階段3:處理RS檢測從年輕代指向年老代的物件
階段4:物件拷貝拷貝存活的物件到survivor/old區域
階段5:處理引用佇列軟引用,弱引用,虛引用處理

四,G1 Mix GC
Mix GC不僅進行正常的新生代垃圾收集,同時也回收部分後臺掃描執行緒標記的老年代分割槽。
它的GC步驟分2步:
全域性併發標記(global concurrent marking)
拷貝存活物件(evacuation)

在進行Mix GC之前,會先進行global concurrent marking(全域性併發標記)。 global concurrent marking的執行過程是怎樣的呢?
在G1 GC中,它主要是為Mixed GC提供標記服務的,並不是一次GC過程的一個必須環節。global concurrent marking的執行過程分為五個步驟:
初始標記(initial mark,STW)在此階段,G1 GC 對根進行標記。該階段與常規的 (STW) 年輕代垃圾回收密切相關。
根區域掃描(root region scan)G1 GC 在初始標記的存活區掃描對老年代的引用,並標記被引用的物件。該階段與應用程式(非 STW)同時執行,並且只有完成該階段後,才能開始下一次 STW 年輕代垃圾回收。
併發標記(Concurrent Marking)G1 GC 在整個堆中查詢可訪問的(存活的)物件。該階段與應用程式同時執行,可以被 STW 年輕代垃圾回收中斷
最終標記(Remark,STW)該階段是 STW 回收,幫助完成標記週期。G1 GC 清空 SATB 緩衝區,跟蹤未被訪問的存活物件,並執行引用處理。
清除垃圾(Cleanup,STW)在這個最後階段,G1 GC 執行統計和 RSet 淨化的 STW 操作。在統計期間,G1 GC 會識別完全空閒的區域和可供進行混合垃圾回收的區域。清理階段在將空白區域重置並返回到空閒列表時為部分併發。

三色標記演算法
提到併發標記,我們不得不瞭解併發標記的三色標記演算法。它是描述追蹤式回收器的一種有用的方法,利用它可以推演回收器的正確性。 首先,我們將物件分成三種型別的。
黑色:根物件,或者該物件與它的子物件都被掃描
灰色:物件本身被掃描,但還沒掃描完該物件中的子物件
白色:未被掃描物件,掃描完成所有物件之後,最終為白色的為不可達物件,即垃圾物件

當GC開始掃描物件時,按照如下圖步驟進行物件的掃描:
根物件被置為黑色,子物件被置為灰色。

6

繼續由灰色遍歷,將已掃描了子物件的物件置為黑色。

7

遍歷了所有可達的物件後,所有可達的物件都變成了黑色。不可達的物件即為白色,需要被清理。

8

這看起來很美好,但是如果在標記過程中,應用程式也在執行,那麼物件的指標就有可能改變。這樣的話,我們就會遇到一個問題:物件丟失問題
我們看下面一種情況,當垃圾收集器掃描到下面情況時:

9

這時候應用程式執行了以下操作:
A.c=CB.c=null

這樣,物件的狀態圖變成如下情形:

10

這時候垃圾收集器再標記掃描的時候就會下圖成這樣:

11

很顯然,此時C是白色,被認為是垃圾需要清理掉,顯然這是不合理的。那麼我們如何保證應用程式在執行的時候,GC標記的物件不丟失呢?有如下2中可行的方式:
在插入的時候記錄物件
在刪除的時候記錄物件

剛好這對應CMS和G1的2種不同實現方式:
在CMS採用的是增量更新(Incremental update),只要在寫屏障(write barrier)裡發現要有一個白物件的引用被賦值到一個黑物件 的欄位裡,那就把這個白物件變成灰色的。即插入的時候記錄下來。
在G1中,使用的是STAB(snapshot-at-the-beginning)的方式,刪除的時候記錄所有的物件,它有3個步驟:
1,在開始標記的時候生成一個快照圖示記存活物件
2,在併發標記的時候所有被改變的物件入隊(在write barrier裡把所有舊的引用所指向的物件都變成非白的)
3,可能存在遊離的垃圾,將在下次被收集
這樣,G1到現在可以知道哪些老的分割槽可回收垃圾最多。 當全域性併發標記完成後,在某個時刻,就開始了Mix GC。這些垃圾回收被稱作“混合式”是因為他們不僅僅進行正常的新生代垃圾收集,同時也回收部分後臺掃描執行緒標記的分割槽。混合式垃圾收集如下圖:

12

混合式GC也是採用的複製的清理策略,當GC完成後,會重新釋放空間。

13

至此,混合式GC告一段落了。下一小節我們講進入調優實踐。
五,調優實踐
MaxGCPauseMillis調優
前面介紹過使用GC的最基本的引數:
-XX: UseG1GC -Xmx32g -XX:MaxGCPauseMillis=200

前面2個引數都好理解,後面這個MaxGCPauseMillis引數該怎麼配置呢?這個引數從字面的意思上看,就是允許的GC最大的暫停時間。G1儘量確保每次GC暫停的時間都在設定的MaxGCPauseMillis範圍內。 那G1是如何做到最大暫停時間的呢?這涉及到另一個概念,CSet(collection set)。它的意思是在一次垃圾收集器中被收集的區域集合。
Young GC:選定所有新生代裡的region。通過控制新生代的region個數來控制young GC的開銷。
Mixed GC:選定所有新生代裡的region,外加根據global concurrent marking統計得出收集收益高的若干老年代region。在使用者指定的開銷目標範圍內儘可能選擇收益高的老年代region。

在理解了這些後,我們再設定最大暫停時間就好辦了。 首先,我們能容忍的最大暫停時間是有一個限度的,我們需要在這個限度範圍內設定。但是應該設定的值是多少呢?我們需要在吞吐量跟MaxGCPauseMillis之間做一個平衡。如果MaxGCPauseMillis設定的過小,那麼GC就會頻繁,吞吐量就會下降。如果MaxGCPauseMillis設定的過大,應用程式暫停時間就會變長。G1的預設暫停時間是200毫秒,我們可以從這裡入手,調整合適的時間。
其他調優引數
-XX:G1HeapRegionSize=n
設定的 G1 區域的大小。值是 2 的冪,範圍是 1 MB 到 32 MB 之間。目標是根據最小的 Java 堆大小劃分出約 2048 個區域。
-XX:ParallelGCThreads=n
設定 STW 工作執行緒數的值。將 n 的值設定為邏輯處理器的數量。n 的值與邏輯處理器的數量相同,最多為 8。
如果邏輯處理器不止八個,則將 n 的值設定為邏輯處理器數的 5/8 左右。這適用於大多數情況,除非是較大的 SPARC 系統,其中 n 的值可以是邏輯處理器數的 5/16 左右。
-XX:ConcGCThreads=n
設定並行標記的執行緒數。將 n 設定為並行垃圾回收執行緒數 (ParallelGCThreads) 的 1/4 左右。
-XX:InitiatingHeapOccupancyPercent=45
設定觸發標記週期的 Java 堆佔用率閾值。預設佔用率是整個 Java 堆的 45%。
避免使用以下引數:
避免使用 -Xmn 選項或 -XX:NewRatio 等其他相關選項顯式設定年輕代大小。固定年輕代的大小會覆蓋暫停時間目標。
觸發Full GC
在某些情況下,G1觸發了Full GC,這時G1會退化使用Serial收集器來完成垃圾的清理工作,它僅僅使用單執行緒來完成GC工作,GC暫停時間將達到秒級別的。整個應用處於假死狀態,不能處理任何請求,我們的程式當然不希望看到這些。那麼發生Full GC的情況有哪些呢?
併發模式失敗

G1啟動標記週期,但在Mix GC之前,老年代就被填滿,這時候G1會放棄標記週期。這種情形下,需要增加堆大小,或者調整週期(例如增加執行緒數-XX:ConcGCThreads等)。
晉升失敗或者疏散失敗

G1在進行GC的時候沒有足夠的記憶體供存活物件或晉升物件使用,由此觸發了Full GC。可以在日誌中看到(to-space exhausted)或者(to-space overflow)。解決這種問題的方式是:
a,增加 -XX:G1ReservePercent 選項的值(並相應增加總的堆大小),為“目標空間”增加預留記憶體量。
b,通過減少 -XX:InitiatingHeapOccupancyPercent 提前啟動標記週期。
c,也可以通過增加 -XX:ConcGCThreads 選項的值來增加並行標記執行緒的數目。
巨型物件分配失敗

當巨型物件找不到合適的空間進行分配時,就會啟動Full GC,來釋放空間。這種情況下,應該避免分配大量的巨型物件,增加記憶體或者增大-XX:G1HeapRegionSize,使巨型物件不再是巨型物件。
由於篇幅有限,G1還有很多調優實踐,在此就不一一列出了,大家在平常的實踐中可以慢慢探索。最後,期待java 9能正式釋出,預設使用G1為垃圾收集器的java效能會不會又提高呢?
附錄:
(1),The original G1 paper: Detlefs, D., Flood, C., Heller, S., and Printezis, T. 2004. Garbage-first garbage collection. In Proceedings of the 4th international Symposium on Memory Management (Vancouver, BC, Canada, October 24 – 25, 2004)

原文地址:http://blog.jobbole.com/109170/#comment-159599

作者:Albert陳凱
連結:https://www.jianshu.com/p/35cd012eeb8c
來源:簡書
著作權歸作者所有。商業轉載請聯絡作者獲得授權,非商業轉載請註明出處。