中間件增強框架之-CaptureFramework框架

  • 2019 年 10 月 3 日
  • 筆記

一、背景

應用服務監控是智慧運維繫統的重要組成部分。在UAV系統中，中間件增強框架（MOF）探針提供了應用畫像及性能數據收集等功能，其中數據收集功能主要採集四類數據：實時數據、畫像數據、調用鏈接數據生成以及執行緒數據分析數據。為實現實時數據採集，UAVStack設計了CaptureFramework框架，提供統一的數據抓取行為和生成抓取結果能力。

二、CaptureFramework運行原理

2.1 關鍵技術說明

  • JavaAssist
  • Monitor捕獲體系
  • precap/docap

2.2 架構說明

  • 捕獲點：支援Tomcat、MSCP、Springboot、Jetty埋點。
  • UAVServer單例：作為統一的捕獲入口點，提供了同步和非同步方法。
  • StandardMonitor：實現了Monitor介面，是實時數據抓取實現類，提供了doCapture方法，負責抓取行為和生成抓取結果。
  • MonitorElemCapHandler：不同的抓取邏輯和抓取點的共同介面實現不同的埋點邏輯，提供了抓取行為的方法preCap與doCap以及生成抓取結果的方法preStore。
  • StandardMonitorRepository：存儲實時數據抓取數據結構。
  • DataObserver：暴露了JMX/HTTP介面數據。

2.3 關鍵類說明

  • Monitor實時監控主要是從DefaultMonitorSupporter類啟動初始化StandardMonitor對象，通過CaptureFramework將monitor對象安裝到DataStore對象中。
  • DataObserver提供JMX/HTTP服務，供後續MA抓取使用，其中Http服務註冊了三個handler，分別為HttpJEEJVMObserver、HttpJEEMonitorObserver、 HttpJEEProfileObserver。不同的handler暴露了不同的介面。
  • MonitorHandler包下的Handler類具體處理Monitor的指標數據計算和統計。

2.4 捕獲點剖析

CaptureFrameWork框架提供了統一的捕獲入口點，在UAVServer中分別提供了同步方法與非同步方法：

  • 同步捕獲入口點：runMonitorCaptureOnServerCapPoint
  • 非同步捕獲入口點：runMonitorAsyncCaptureOnServerCapPoint

2.4.1 同步與非同步調用的差異分析

非同步比同步多增加了一個參數CaptureContextMapFromAnotherThread，該參數若不為空，則需要合併上下文的資訊。一般情況下在使用非同步方法埋點時，在方法執行前調用非同步捕獲方法傳入的CaptureContextMapFromAnotherThread為空，並返回封裝好的上下文資訊，在方法執行結束後調用非同步捕獲方法傳入上下文資訊，並進行上下文資訊合併，再進行具體的捕獲操作，具體可參考以下程式碼片段：

  • 方法執行前的非同步調用

  • 方法執行後的非同步調用如下，其中ccMap為非同步調用返回的封裝好的上下文資訊

2.5 抓取行為剖析

  • Monitor介面：提供了多個介面，其中最主要的是doCapture與doPreStore方法，doCapture用來實現在特定的捕獲點執行抓取數據行為，doPreStore方法用來實現在存儲到數據結構之前的一些捕獲動作，做一些特殊數據的處理。
  • StandardMonitor類： Monitor介面的具體實現類。
  • StandardMonitorRepository類：存儲實時數據抓取數據結構。
  • MonitorElementInstance介面：存儲實時數據抓取數據結構的實例介面。
  • StandardMonitorElementInstance類：MonitorElementInstance介面的具體實現類。

無論是同步捕獲入口點還是非同步捕獲入口點都會執行doCapture方法，程式碼片段如下：

monitor.doCapture是調用了Monitor介面中的doCapture，其實現類是StandardMonitor。

StandardMonitor中的doCapture方法主要做了如下操作：

  • 根據參數獲取當前的MonitorElement數組，MonitorElement數組通過StandardMonitorRepository的getElementByCapId實現；
  • 循環處理MonitorElement數組，獲取捕捉數據實現類，根據實現類獲取當前要執行的handler，最後根據當前獲取的handler判斷捕獲階段（precap/docap），然後進行相應的處理。不同的handler根據不同的特性處理生成MonitorElementInstance，最後將結果存儲在StandardMonitorRepository數據結構中。

以ServerEndRespTimeCapHandler（服務端抓取行為）為例：

  • preCap方法：只記錄了服務的開始請求時間。
  • doCap方法：根據不同的monitorElemId進行不同的邏輯處理，最後封裝好MonitorElementInstance實例，然後再進行抓取行為結果的處理，其中包含最大值消峰、最大值、最小值、返回狀態碼、時間戳更新、計數等相應的數據處理。

三、實時數據採集

3.1 什麼是實時數據

即運行時數據，指的是在程式運行時產生的資訊，程式佔用的CPU、堆記憶體、JVM資訊以及提供服務訪問與客戶端調用的相關統計資訊(平均響應時間、訪問計數等)。

3.2 服務端數據採集

DefaultMonitorSupporter的實現

服務端數據採集以DefaultMonitorSupporter.start為入口點，構建monitor實例：

默認構建service類型的StandardMonitor實例，其中包含StandardMonitorRepository實例，StandardMonitorRepository實例註冊monitor，一個該實例包含多個MonitorElement實例，並將所有的MonitorElement實例保存在elemsMap屬性中。

elemsMap屬性根據不同的採集對象保存不同的採集類handler：

  • ServerEndRespTimeCapHandler：採集Server、APP、URL的響應時間和載入計數等.
  • JVMStateCapHandler：採集jvm狀態，包括Heap使用、GC計數、執行緒計數、CPU、class計數等。

程式碼片段如下：

3.3 客戶端數據採集

DefaultClientMonitorSupporter的實現 

客戶端數據採集以DefaultClientMonitorSupporter.start為入口點，構建monitor實例：

默認構建client類型的StandardMonitor實例，其中包含StandardMonitorRepository實例，StandardMonitorRepository實例註冊monitor，一個該實例包含多個MonitorElement實例，並將所有的MonitorElement實例保存在elemsMap屬性中。

  • elemsMap：屬性只保存一個ClientRespTimeCapHandler採集類。
  • ClientRespTimeCapHandler：採集客戶端的響應時間和載入計數等。

無論是客戶端的數據採集還是服務端的數據採集，都會將monitor安裝到DataObserver中；並且最後都會將構建成功的monitor綁定至指定的捕獲方法（即precap和docap）。

3.4 DataObServer的實現

DataObServer提供了兩種模式來暴露介面數據，分別為JMX和HTTP：

  • HTTP方式：由HttpDataObserverWorker.start作為入口點，分別註冊了三個handler，分別為獲取JVM數據、Monitor數據以及profile數據的handler。不同的handler暴露了不同的介面，最終都返回了JSON格式的數據。
  • JMX方式：JMX代理通過getMBeanInfo方法獲取暴露的介面，來獲取數據。

DataObServer還提供了安裝與卸載monitor、增加與移除listener以及獲取profile和monitor的方法：

官方網站：https://uavorg.github.io/main/

開源地址：https://github.com/uavorg

作者：王林林

Tags:

VirMach 便宜 VPS