大量數據也不在話下，Spring Batch並行處理四種模式初探
1 前言
歡迎訪問南瓜慢說 www.pkslow.com獲取更多精彩文章！
Spring相關文章：Springboot-Cloud
前面寫了一篇文章《通過例子講解Spring Batch入門，優秀的批處理框架》講解Spring Batch入門，但要發揮它的作用，並行處理不能不了解。
2 四種模式
大多數情況下，單線程、單進程的Spring Batch已經能滿足你的需求。在我們走向更複雜的特性之前，先看看簡單的能不能用，Keep it Simple and Stupid。
不過，當你確定要使用並行處理時，Spring Batch也提供了多種選擇。整體上分為兩大類：
- （1）單進程、多線程
- （2）多進程
細分如下：
- （1）多線程的
Step（單進程） - （2）並行的
Steps（單進程） - （3）遠程分塊（多進程）
- （4）遠程分區（多進程）
光從名字看，很難理解它們之間的差別，我們來一一介紹吧。
2.1 多線程的Step
通過提供一個TaskExecutor來執行，而TaskExecutor是可以自定義的，我們可以提供一個基於線程池的TaskExecutor，則可以實現多線程處理。
@Bean
public TaskExecutor taskExecutor(){
return new SimpleAsyncTaskExecutor("spring_batch");
}
@Bean
public Step sampleStep(TaskExecutor taskExecutor) {
return this.stepBuilderFactory.get("sampleStep")
.<String, String>chunk(10)
.reader(itemReader())
.writer(itemWriter())
.taskExecutor(taskExecutor)
.build();
}
2.2 並行Steps
這個看起來跟第一個很像，其實完全不一樣。它是多個steps之間來並行處理。所以job應該是可以分解為獨立的step，不是按一步一步的順序處理，這樣才可以並行執行。比如下面的例子，step1和step2合併成一個flow1，而step3為flow2，flow1與flow2之間可以並行處理。
代碼如下：
@Bean
public Job job() {
return jobBuilderFactory.get("job")
.start(splitFlow())
.next(step4())
.build() //builds FlowJobBuilder instance
.build(); //builds Job instance
}
@Bean
public Flow splitFlow() {
return new FlowBuilder<SimpleFlow>("splitFlow")
.split(taskExecutor())
.add(flow1(), flow2())
.build();
}
@Bean
public Flow flow1() {
return new FlowBuilder<SimpleFlow>("flow1")
.start(step1())
.next(step2())
.build();
}
@Bean
public Flow flow2() {
return new FlowBuilder<SimpleFlow>("flow2")
.start(step3())
.build();
}
@Bean
public TaskExecutor taskExecutor(){
return new SimpleAsyncTaskExecutor("spring_batch");
}
2.3 遠程分塊
在這種模式下，step會被拆成多個Java進程來處理，主程序與分塊執行程序之間通過中間件來通信。如下圖所示：
由上圖可以看出，讀取只有一個進程Manager，而處理進程Worker則可以多個，所以適用於易讀而難處理的場景。
2.4 遠程分區
遠程分區跟遠程分塊容易混淆，但其實它們是不同的。前面講解的遠程分塊是一個進程讀，多個進程處理；而遠程分區是多個進程讀，多個進程處理，多個進程寫：
所以，遠程分區適用於容易有IO瓶頸的系統，因為它將讀與寫都拆到多個worker進程中去了。遠程分區可以使用中間件，如消息隊列，也可以不用。它通過PartitionHandler來進行分區處理，而Partitioner則定義了如何進行分區。
3 總結
本文介紹了Spring Batch並行處理的四種模式，分別是多線程Step、並行Steps、遠程分塊、遠程分區。前兩種比較簡單，給出代碼例子；而後兩種則複雜得多，特別是遠程分區模式，把IO壓力和業務處理壓力都分解了，能大大提高整個流程的處理效率。後續我們再專門講解一下遠程分區吧。
歡迎關注微信公眾號<南瓜慢說>，將持續為你更新…
多讀書，多分享；多寫作，多整理。
