『JVM』我不想知道我是怎麼來滴,我就想知道我是怎麼沒滴

我是風箏,公眾號「古時的風箏」,一個兼具深度與廣度的程式設計師鼓勵師,一個本打算寫詩卻寫起了程式碼的田園碼農!
文章會收錄在 JavaNewBee 中,更有 Java 後端知識圖譜,從小白到大牛要走的路都在裡面。

我們都知道 Java 程式都是跑在 JVM 上的,一旦 JVM 有什麼風吹草動,必然會影響服務的穩定性。幸運的話,服務會發生抖動,可能有部分請求出現延遲或異常。不幸的話,JVM 直接崩潰,導致服務完全中斷。

這可不是什麼好事,與 JVM 一起崩潰的,除了服務,還有我們的心態。

所謂的 JVM 崩潰,一般情況下就是指記憶體溢出,也就是 OutOfMemoryError 和 StackOverflowError。另外還有一種情況就是堆外記憶體佔用過大,這種情況會導致 JVM 所在機器的記憶體被撐爆,從而導致機器重啟等異常情況發生,我們把這種情況叫做記憶體泄漏。

那什麼情況下會造成 JVM 崩潰呢,有哪幾種類型的崩潰呢?俗話說,知己知彼,方能百戰不殆。了解了發生崩潰的原因,才能更好的解決 JVM 崩潰問題。

image-20201016165948638

首先還是放出 JVM 記憶體模型圖,JVM 要理解起來是很抽象的,藉助下面這張圖可以具象化的了解 JVM 記憶體模型,而發生溢出的幾個部分都可以在圖中找到。在 JDK 8 中,永久代已經不存在了,取而代之的是元空間(metaspace)。

image-20201019183925854

下面就以 Hotspot JDK 8 為背景,看一下 JVM 記憶體溢出和記憶體泄漏的幾種情況。

首先設置 JVM 啟動參數,限制堆空間大小,堆空間設置為 20M,其中新生代10M,元空間10M,並指定垃圾收集演算法採用 CMS 演算法。之後的例子都會使用這套參數。

-XX:+UseConcMarkSweepGC
-XX:+UseCMSInitiatingOccupancyOnly
-XX:CMSInitiatingOccupancyFraction=70
-XX:+ExplicitGCInvokesConcurrentAndUnloadsClasses
-XX:+CMSClassUnloadingEnabled
-XX:+ParallelRefProcEnabled
-XX:+CMSScavengeBeforeRemark
-verbose:gc
-Xms20M
-Xmx20M
-Xmn10M
-XX:+PrintGCDetails
-XX:SurvivorRatio=8
-XX:+HeapDumpOnOutOfMemoryError
-XX:MetaspaceSize=10M
-XX:MaxMetaspaceSize=10M
-XX:HeapDumpPath=/Users/fengzheng/jvmlog

堆溢出

堆溢出,應該是最常見的一種記憶體溢出的場景了。JVM 中分配絕大多數對象實例和數組都存在堆上,另外堆記憶體也是垃圾收集器工作的主要戰場。

當我們的 Java 程式啟動的時候,會指定堆空間的大小,新建對象和數組的時候會分配到堆上面,當新對象申請空間的時候,如果堆記憶體不夠了,就會發生垃圾收集動作,大多數時候會發生在新生代,叫做 Minor GC。當新生代回收完成,空間仍然不夠的話,會發生一次 FullGC。FullGC 後,空間仍然不夠,此時就會發生 OOM 錯誤,也就是堆溢出。

模擬一下這個場景

private final static int _1K = 1024;

public static void main(String[] args){
  List<byte[]> byteList = new ArrayList<>();
  quietlyWaitingForCrashHeap(byteList);
}

public static void quietlyWaitingForCrashHeap(List<byte[]> byteList) {
  try {
    while (true) {
      byteList.add(new byte[500 * _1K]);
      //Thread.sleep(1000);
      Thread.sleep(100);
    }
  } catch (InterruptedException e) {

  }
}

上面的方法會持續的向List<byte[]>數組中每次添加500k的元素,整個堆只有20M,可想而知,程式一運行起來,馬上就會將對空間填滿,導致後面的元素加不進去,而又回收不掉,從而導致堆記憶體溢出。

下面是程式運行之後的結果,經過垃圾回收最終還是沒有多餘的空間,從而發生 java.lang.OutOfMemoryError: Java heap space異常。

image-20201016211017630

發生堆記憶體溢出的根本原因就是使用中的對象大小超過了堆記憶體大小。

堆記憶體空間設置的太小,要根據預估的實際使用堆大小合理的設置堆空間設置。

程式有漏洞導致,某些靜態變數持續的增大,例如快取數據錯誤的初始化,導致快取無止境的增加,最終導致堆記憶體溢出。針對這種情況,恐怕沒什麼好方法,除了做好測試之外,就是在問題發生後做好日誌分析。

棧溢出

虛擬機棧是用來存儲局部變數表、操作數棧、動態鏈接、方法出口等資訊的,每調用一個 Java 方法就會為此方法在虛擬機棧中生成棧幀。

棧除了包括虛擬機棧之外,還包括本地方法棧,當調用的方法是本地方法(例如 C 語言實現的方法)時,會用到本地方法棧。不過,在 HotSpot 虛擬機中,虛擬機棧和本地方法棧被合二為一了。

模擬棧溢出場景

public static void main(String[] args){
  stackOverflow();
}

/**
* stackoverflow
*/
public static void stackOverflow() {
  stackOverflow();
}

在上面的程式碼中,stackOverflow() 方法的調用是一個無限遞歸的過程,沒有遞歸出口。前面說了,每調用一個方法就會在虛擬機棧中生成棧幀,無限的遞歸,必定造成無限的生成棧幀,最後導致棧空間被填滿,從而發生溢出。

image-20201019122447325

上面模擬了最常見的一種狀況,產生這種狀況的原因很可能是由於程式 bug 導致的,一般來說,遞歸必定會有遞歸出口,如果由於某些原因導致了程式在執行的過程中無法達到出口條件,那就會造成這種異常。還有就是循環體,循環體的循環次數如果過大,也有可能出現棧溢出。

另外還可能是其他比較不容易出現的原因,比如創建的執行緒數過多,執行緒創建要在虛擬機棧中分配空間,如果創建執行緒過多,可能會出現 OutOfMemoryError異常,但是一般來說,都會用執行緒池的方法代替手動創建執行緒的方式,所以,這種情況不容易出現。

元空間溢出

用於存儲已被虛擬機載入的類資訊,常量,靜態變數,即時編譯(JIT)後的程式碼等數據,在 JDK 8 中,已經用 metaSpace 代替了永久代的。默認情況下 metaSpace 的大小是沒有限制的,也就是所在伺服器的實際記憶體大小,但是,一般情況下,最好還是設置元空間的大小。

一般在產生大量動態生成類的情景中,可能會出現元空間的記憶體溢出。

模擬元空間溢出

public static void main(String[] args){
  List<byte[]> byteList = new ArrayList<>();
  //quietlyWaitingForCrashHeap(byteList);
  // stackOverflow();
  methodAreaOverflow();
}

public static void methodAreaOverflow() {
  int i = 0;
  while (true) {
    Enhancer enhancer = new Enhancer();
    enhancer.setUseCache(false);
    enhancer.setSuperclass(MethodOverflow.class);
    enhancer.setCallback(new MethodInterceptor() {
      @Override
      public Object intercept(Object o, Method method, Object[] objects, MethodProxy methodProxy) throws Throwable {
        return methodProxy.invokeSuper(o, objects);
      }
    });
    enhancer.create();
    System.out.println(++i);
  }
}

通過 CGLIB 的方式動態的創建很多個動態類,這樣一來,類資訊就會越來越多的存到元空間,從而導致元空間溢出。

image-20201019163227576

例如在使用 Spring、 MyBatis 等技術框架的時候會動態創建 Bean 實例類,另外,Spring AOP 也會產生動態代理類。

堆外記憶體溢出

大多數情況下,記憶體都會在 JVM 堆記憶體中分配,很少情況下需要直接在堆外分配記憶體空間。使用堆外記憶體的幾個好處是:

  • 在進程間可以共享,減少虛擬機間的複製
  • 對垃圾回收停頓的改善:如果應用某些長期存活並大量存在的對象,經常會出發YGC或者FullGC,可以考慮把這些對象放到堆外。過大的堆會影響Java應用的性能。如果使用堆外記憶體的話,堆外記憶體是直接受作業系統管理( 而不是虛擬機 )。這樣做的結果就是能保持一個較小的堆內記憶體,以減少垃圾收集對應用的影響。
  • 在某些場景下可以提升程式I/O操縱的性能。少去了將數據從堆內記憶體拷貝到堆外記憶體的步驟。

通常在需要大量頻繁的進行 IO 操作的時候會用到堆外記憶體,例如 Netty、RocketMQ 等使用到了堆外記憶體,目的就是為了加快速度。

所以,在出現系統記憶體佔用過大的情況時,排查堆棧無果後,可以看一下堆外記憶體的使用情況,看看是不是堆外記憶體溢出了。

總結

事前做好配置

JVM 問題本身就是比較抽象和難以直觀發現的,所以在項目上線前除了做好程式碼邏輯的測試外,還要對 JVM 參數進行合理配置,根據應用程式的體量和特點選擇好合適的參數,比如堆棧大小、垃圾收集器種類等等。

另外,垃圾收集日誌一定要有保留,還有就是發生記憶體溢出時要保存 dump 文件。

事中做好監控

在程式上線運行的過程中,做好 JVM 的監控工作,比如用 Spring Admin 這種比較輕量的監控工具,或者大型項目用 Cat、SkyWallking 等這些分散式鏈路監控系統。

事後做好現場保護和分析

再合理的參數配置和監控平台,也難免不發生異常,這也是很正常的,不出現異常才有問題好吧。在發生異常之後,要及時的保留現場,如果是多實例應用,可以暫時將發生異常的實例做下線處理,然後再進行問題的排查。如果是單實例的服務,那要及時的確認最新的日誌和dump已經留存好,確認完成後,再採取錯誤讓服務重啟。


這位英俊瀟洒的少年,如果覺得還不錯的話,給個推薦可好!

公眾號「古時的風箏」,Java 開發者,全棧工程師,bug 殺手,擅長解決問題。
一個兼具深度與廣度的程式設計師鼓勵師,本打算寫詩卻寫起了程式碼的田園碼農!堅持原創乾貨輸出,你可選擇現在就關注我,或者看看歷史文章再關注也不遲。長按二維碼關注,跟我一起變優秀!