淺析Java7中的ConcurrentHashMap
- 2020 年 4 月 24 日
- 筆記
- ConcurrentHashMap, JAVA
引入ConcurrentHashMap
模擬使用hashmap在多執行緒場景下發生執行緒不安全現象
import java.util.HashMap;
import java.util.Map;
import java.util.UUID;
/**
* 模擬hashmap在多執行緒場景下的出現的不安全現象之一
* hashmap還有put丟失，jdk1.7擴容成環的問題
*/
public class Demo2 {
public static void main(String[] args) {
Map<String, String> hashmap = new HashMap<>();
//開30個執行緒去往hashmap中添加元素
for (int i = 1; i <= 30; i++) {
new Thread(() -> {
hashmap.put(Thread.currentThread().getName(), UUID.randomUUID().toString().substring(0, 5));
System.out.println(hashmap);
}, String.valueOf(i)).start();
}
}
}
運行結果如下，由於fail-fast機制的存在，出現了並發修改失敗的錯誤
如何解決該問題呢？
方式一：使用hashtable
Map<String, String> hashmap = new Hashtable<>();
方式二：使用Collections.synchronizedMap
Map<String, String> hashmap = Collections.synchronizedMap(new HashMap<>());
方式三：使用並發集合容器ConcurrentHashMap
Map<String, String> hashmap = new ConcurrentHashMap<>();
淺析Java7中ConcurrentHashMap源碼
數據結構
ConcurrentHashMap JDK1.7的數據結構是由Segment數組+HashEntry數組組成，其解決hash衝突的方式與jdk1.7中的hashmap方式差不多，解決執行緒安全是採用一種分段鎖的思想，多個執行緒操作多個Segment是相互獨立的，這樣一來相比於傳統的hashtable就大大提高了並發度。
我們在簡單畫個圖來理解分段鎖的思想：數組套數組，多個執行緒獨立訪問Segment，擴容嵌套數組
Segment與HashEntry
我們在來看下其Segment數組以及HashEntry數組在源碼中是如何定義的。
先來看看Segment的定義：由以下我們可以看到每個Segment都是繼承的ReentLock，且其內部嵌套的是HashEntry數組，Segment的數量相當於鎖的數量，這些鎖彼此之間福獨立，即「分段鎖」
//以內部類的形式定義，並且繼承的ReentratLock
static final class Segment<K,V> extends ReentrantLock implements Serializable {
private static final long serialVersionUID = 2249069246763182397L;
static final int MAX_SCAN_RETRIES =
Runtime.getRuntime().availableProcessors() > 1 ? 64 : 1;
//由此處也可以看出Segment內部嵌套的是HashEntry數組
transient volatile HashEntry<K,V>[] table;
//Segment的個數
transient int count;
//modCount代表被修改的次數，每次Remove、put都相當於一次修改
transient int modCount;
//閾值
transient int threshold;
//負載因子
final float loadFactor;
Segment(float lf, int threshold, HashEntry<K,V>[] tab) {
this.loadFactor = lf;
this.threshold = threshold;
this.table = tab;
}
//以下是Segment內部的一些操作
final V put(K key, int hash, V value, boolean onlyIfAbsent) {
.......
}
private void rehash(HashEntry<K,V> node) {
......
}
final V remove(Object key, int hash, Object value) {
....
}
......
在來看看HashEntry的定義
//以內部類的形式定義
static final class HashEntry<K,V> {
final int hash;
final K key;
//採用volatile修飾，保證其可見性和有序性
volatile V value;
volatile HashEntry<K,V> next;
HashEntry(int hash, K key, V value, HashEntry<K,V> next) {
this.hash = hash;
this.key = key;
this.value = value;
this.next = next;
}
//在HashEntry數組後面鏈上HashEntry對象
final void setNext(HashEntry<K,V> n) {
UNSAFE.putOrderedObject(this, nextOffset, n);
}
// Unsafe類是Java提供的操作記憶體的類，
static final sun.misc.Unsafe UNSAFE;
static final long nextOffset;
static {
try {
UNSAFE = sun.misc.Unsafe.getUnsafe();
Class k = HashEntry.class;
nextOffset = UNSAFE.objectFieldOffset
(k.getDeclaredField("next"));
} catch (Exception e) {
throw new Error(e);
}
}
}
關於Unsafe類中的putOrderedObject方法,摘自Java魔法類：Unsafe應用解析
//存儲變數的引用到對象的指定的偏移量處，使用volatile的存儲語義
public native void putObjectVolatile(Object o, long offset, Object x);
//有序、延遲版本的putObjectVolatile方法，不保證值的改變被其他執行緒立即看到。只有在field被volatile修飾符修飾時有效，而我們的HashEntry就是被volatile修飾的
public native void putOrderedObject(Object o, long offset, Object x);
關於Unsafe類，是Java提供的操作記憶體的類，其內容博大精深。可參考美團技術團隊寫的：Java魔法類：Unsafe應用解析
構造函數
我們來看下ConcurrentHashMap的構造函數在源碼中是如何定義的
public class ConcurrentHashMap<K, V> extends AbstractMap<K, V>
implements ConcurrentMap<K, V>, Serializable {
private static final long serialVersionUID = 7249069246763182397L;
//默認初始容量
static final int DEFAULT_INITIAL_CAPACITY = 16;
//默認載入因子
static final float DEFAULT_LOAD_FACTOR = 0.75f;
//默認並發等級
static final int DEFAULT_CONCURRENCY_LEVEL = 16;
//最大容量
static final int MAXIMUM_CAPACITY = 1 << 30;
//最小Segment數量
static final int MIN_SEGMENT_TABLE_CAPACITY = 2;
//最大Segment數量
static final int MAX_SEGMENTS = 1 << 16;
//默認構造函數
public ConcurrentHashMap() {
this(DEFAULT_INITIAL_CAPACITY, DEFAULT_LOAD_FACTOR, DEFAULT_CONCURRENCY_LEVEL);
}
public ConcurrentHashMap(int initialCapacity) {
this(initialCapacity, DEFAULT_LOAD_FACTOR, DEFAULT_CONCURRENCY_LEVEL);
}
public ConcurrentHashMap(int initialCapacity, float loadFactor) {
this(initialCapacity, loadFactor, DEFAULT_CONCURRENCY_LEVEL);
}
/**
* initialCapacity：初始參數
* loadFactor：載入因子
* concurrencyLevel：並發級別即Segment的數量
*/
public ConcurrentHashMap(int initialCapacity,
float loadFactor, int concurrencyLevel) {
//非法數校驗
if (!(loadFactor > 0) || initialCapacity < 0 || concurrencyLevel <= 0)
throw new IllegalArgumentException();
if (concurrencyLevel > MAX_SEGMENTS)
concurrencyLevel = MAX_SEGMENTS;
// 用來記錄向左按位移動的次數
int sshift = 0;
//用來記錄Segment的數量
int ssize = 1;
//該段while循環保證Segment的數量是2的冪
while (ssize < concurrencyLevel) {
++sshift;
ssize <<= 1;
}
this.segmentShift = 32 - sshift;
//這裡SegmentMask先提前減一了，
//在hashmap中計算數組下標索引是(table.length-1)&hash
//這裡也可以推斷出Segment數量一旦確定不能在變，擴容是擴Segment數組內的HashEntry數組
this.segmentMask = ssize - 1;
if (initialCapacity > MAXIMUM_CAPACITY)
initialCapacity = MAXIMUM_CAPACITY;
//每個Segment數組內要放置多少個HashEntry數組
int c = initialCapacity / ssize;
//確保無餘數
if (c * ssize < initialCapacity)
++c;
//確保每個Segment內部的HashEntry數組的大小一定為2的冪，當三個參數皆為默認值時，其Segment內部的table大小是2，
int cap = MIN_SEGMENT_TABLE_CAPACITY;
while (cap < c)
cap <<= 1;
// create segments and segments[0]
//初始化Segment數組，並填充Segment[0]，閾值是(int)(cap * loadFactor)，當參數皆為默認時，該值為1，當put第一個元素時不會擴容，在put就會觸發擴容
Segment<K,V> s0 =
new Segment<K,V>(loadFactor, (int)(cap * loadFactor),
(HashEntry<K,V>[])new HashEntry[cap]);
Segment<K,V>[] ss = (Segment<K,V>[])new Segment[ssize];
UNSAFE.putOrderedObject(ss, SBASE, s0); // ordered write of segments[0]
this.segments = ss;
}
.....
由構造函數可以看出來
- Segment數量默認是16，初始容量默認是16，負載因子默認是0.75，最小Segment是2
- Segment的數量即為並發級別，且內部保證是2的冪，Segment內部的table大小也保證為2的冪
- Segment數量一旦確定不會在更改，後續添加元素不會增加Segment的數量，而是增加Segment中鏈表數組的容量，這樣的好處是擴容也不用針對整個ConcurrentHashMap來進行了，而是針對Segment裡面的數組
- 初始化了Segment[0]，其他Segment還是null
put函數
來看看put函數
public V put(K key, V value) {
Segment<K,V> s;
//value不能為空
if (value == null)
throw new NullPointerException();
//通過hash函數獲取關於key的hash值
int hash = hash(key);
//計算要插入的Segment數組的下標，位運算提高計算速度，由於此處使用位運算，所以得保證是2的冪可以減少hash衝突，具體原因不詳述
int j = (hash >>> segmentShift) & segmentMask;
//如果要插入的Segment為初始化，調用ensureSeggment函數進行初始化(初始化concurrentHashMap時只初始化了第一個Segment[0])
if ((s = (Segment<K,V>)UNSAFE.getObject // nonvolatile; recheck
(segments, (j << SSHIFT) + SBASE)) == null) // in ensureSegment
s = ensureSegment(j);
//調用Segment的put函數
return s.put(key, hash, value, false);
}
到現在我們還沒有發現加鎖，在接著看Segment中的put函數，可見是在該函數中加的鎖，這又一次驗證了是分段鎖，計算完了Segment位置後，在針對某一個Segment內部進行插入的時候上鎖。
final V put(K key, int hash, V value, boolean onlyIfAbsent) {
//去獲取獨佔鎖，獲取鎖失敗進入scanAndLockForPut函數
HashEntry<K,V> node = tryLock() ? null :
scanAndLockForPut(key, hash, value);
V oldValue;
//到此處肯定已經獲取到鎖了
try {
//Segment內部的HashEntry數組
HashEntry<K,V>[] tab = table;
//計算元素插入的位置
int index = (tab.length - 1) & hash;
//定位到第index個HashEntry
HashEntry<K,V> first = entryAt(tab, index);
//該段for循環使用頭插法將元素進行插入
for (HashEntry<K,V> e = first;;) {
if (e != null) {
K k;
//如果在鏈表中找到相同的key,則新值替換舊值，並退出函數
if ((k = e.key) == key ||
(e.hash == hash && key.equals(k))) {
oldValue = e.value;
//onlyIfAbsent默認為false，!onlyIfAbsent表示替換舊值
if (!onlyIfAbsent) {
e.value = value;
//修改次數+1
++modCount;
}
break;
}
//如果沒有key值相同的則遍歷到鏈表尾部
e = e.next;
}
else {//已經遍歷到鏈表尾部
if (node != null)//在scanAndLockForPut函數中已經建立好node
node.setNext(first); //把node插入鏈表的頭部
else
//新建node，插入到鏈表頭部
node = new HashEntry<K,V>(hash, key, value, first);
//該count代表元素的個數
int c = count + 1;
//判斷是否超過閾值，超過調用rehash擴容
if (c > threshold && tab.length < MAXIMUM_CAPACITY)
rehash(node);
else
//把node賦值給tab[index]
setEntryAt(tab, index, node);
++modCount;
count = c;
oldValue = null;
break;
}
}
} finally {
//釋放鎖
unlock();
}
return oldValue;
}
Segment內部的put函數涉及到一個scanAndLockForPut函數，多個執行緒去進行put操作，去競爭鎖，那那些沒獲取到鎖的執行緒它是如何處理的呢，我們來看一下scanAndLockForPut函數
private HashEntry<K,V> scanAndLockForPut(K key, int hash, V value) {
HashEntry<K,V> first = entryForHash(this, hash);
HashEntry<K,V> e = first;
HashEntry<K,V> node = null;
int retries = -1; // negative while locating node
while (!tryLock()) {
HashEntry<K,V> f; // to recheck first below
//自旋過程中遍歷鏈表，若發現沒有重複的key值，則提前先新建一個節點為後續的插入節約時間
if (retries < 0) {
if (e == null) {
if (node == null) // speculatively create node
node = new HashEntry<K,V>(hash, key, value, null);
retries = 0;
}
else if (key.equals(e.key))
retries = 0;
else
e = e.next;
}
//自旋次數達到若干次後就調用lock()進行阻塞，阻塞後的執行緒由AQS進行管理入隊列
else if (++retries > MAX_SCAN_RETRIES) {
lock();
break;
}
else if ((retries & 1) == 0 &&
(f = entryForHash(this, hash)) != first) {
e = first = f; // re-traverse if entry changed
retries = -1;
}
}
return node;
}
該函數簡化簡化下來的思想如下：
//執行緒競爭鎖失敗後進入該函數
private HashEntry<K,V> scanAndLockForPut(K key, int hash, V value) {
//tryLock函數與Lock函數的區別就是tryLock函數獲取鎖失敗會返回false,而不是阻塞
while(!tryLock()){//自旋操作
......
System.out.println("干點自己的事情...")
}
}
所以scanAndLockForPut函數的策略就是拿不到鎖的執行緒不讓它直接阻塞，而是讓其自旋，自旋達到一定次數之後在調用lock()進行阻塞，另外在自旋的過程中遍歷了後面的HashEntry鏈表,如果沒有發現重複的節點就提前先建立一個，為執行緒之後拿到鎖插入節省時間。
ensureSegment函數
在ConcurrentHashMap初始化時，只初始化了Segment[0]，其他的Segment數組都是null，多個執行緒可能同時調用ensureSegment去初始化Segment[j]，所以在該函數內部應該避免重複初始化的問題，保證其執行緒安全。
private Segment<K,V> ensureSegment(int k) {
//賦值ss=this.segments
final Segment<K,V>[] ss = this.segments;
long u = (k << SSHIFT) + SBASE; // raw offset
Segment<K,V> seg;
//第一次判斷segment[j]是否被初始化
if ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u)) == null) {
//使用segment[0]為原型去初始化新的segment
Segment<K,V> proto = ss[0]; // use segment 0 as prototype
int cap = proto.table.length;
float lf = proto.loadFactor;
int threshold = (int)(cap * lf);
HashEntry<K,V>[] tab = (HashEntry<K,V>[])new HashEntry[cap];
//第二次判斷segment[j]是否被初始化
if ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u))
== null) { // recheck
Segment<K,V> s = new Segment<K,V>(lf, threshold, tab);
//while循環+CAS操作,當前執行緒成功設值或其他執行緒成功設值後，退出
while ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u))
== null) {//第三次判斷segment[j]是否被初始化
if (UNSAFE.compareAndSwapObject(ss, u, null, seg = s))
break;
}
}
}
return seg;
}
可見UNSAFE.getObjectVolatile(ss, u)) == null出現了三次，多次去判斷segment[j]是否被初始化了，即使如此也不能完全避免重複初始化，最後還採用CAS操作保證其只被初始化
rehash函數
我們在來看看具體是如何擴容的,在Segment內部的put函數我們看到，超過閾值後會進行擴容操作
private void rehash(HashEntry<K,V> node) {
//獲取舊數組和其容量
HashEntry<K,V>[] oldTable = table;
int oldCapacity = oldTable.length;
//擴容為舊容量的2倍、設置新的閾值
int newCapacity = oldCapacity << 1;
threshold = (int)(newCapacity * loadFactor);
//創建新的數組
HashEntry<K,V>[] newTable =
(HashEntry<K,V>[]) new HashEntry[newCapacity];
//sizeMask提前減1了
int sizeMask = newCapacity - 1;
//遍歷原數組
for (int i = 0; i < oldCapacity ; i++) {
//獲取舊數組中的元素
HashEntry<K,V> e = oldTable[i];
if (e != null) {
HashEntry<K,V> next = e.next;
//計算插入的索引
int idx = e.hash & sizeMask;
if (next == null) // 鏈表中只有單個元素時，直接放入新數組中去
newTable[idx] = e;
else { // Reuse consecutive sequence at same slot
HashEntry<K,V> lastRun = e;
int lastIdx = idx;
//尋找鏈表中最後一個hash值不等於lastIdx的元素
for (HashEntry<K,V> last = next;last != null;last = last.next) {
int k = last.hash & sizeMask;
if (k != lastIdx) {
lastIdx = k;
lastRun = last;
}
}
//一個優化，把在lastRun之後的鏈表元素直接鏈到新hash表中的lastIdx位置
newTable[lastIdx] = lastRun;
//在lastrun之前的所有鏈表元素，需要在新的位置逐個拷貝
for (HashEntry<K,V> p = e; p != lastRun; p = p.next) {
V v = p.value;
int h = p.hash;
int k = h & sizeMask;
HashEntry<K,V> n = newTable[k];
newTable[k] = new HashEntry<K,V>(h, p.key, v, n);
}
}
}
}
// 把新的節點加入Hash表
int nodeIndex = node.hash & sizeMask;
node.setNext(newTable[nodeIndex]);
newTable[nodeIndex] = node;
table = newTable;
}
可見擴容函數是擴容為原來數組的兩倍大小，且擴容進行了一次優化，並沒有對元素依次拷貝，而是先通過for循環找到lastRun位置。lastRun到鏈表末尾的所有元素，其hash值沒有改變，所以不需要一次重新拷貝，只需要把這部分鏈錶鏈到新hash表中所對應的位置即可。lastRun之前的節點則需要依次拷貝。
get函數
整個get函數相對來是實現思路不複雜，先找到在哪個Segment數組中，再去尋找具體在哪個table上，整個過程沒加鎖，因為Sigment中的HashEntry和HashEntry中的value都是由volatile修飾的，volatile保證了記憶體的可見性。
public V get(Object key) {
Segment<K,V> s; // manually integrate access methods to reduce overhead
HashEntry<K,V>[] tab;
int h = hash(key);
//先計算在哪個segment數組中
long u = (((h >>> segmentShift) & segmentMask) << SSHIFT) + SBASE;
if ((s = (Segment<K,V>)UNSAFE.getObjectVolatile(segments, u)) != null &&
(tab = s.table) != null) {
//計算在segment數組中的哪個HashEntry上
for (HashEntry<K,V> e = (HashEntry<K,V>) UNSAFE.getObjectVolatile
(tab, ((long)(((tab.length - 1) & h)) << TSHIFT) + TBASE);
e != null; e = e.next) {
K k;
//key值和當前節點的key指向同一片地址，或者當前節點的hash等於key的hash並且equals比價後相同則說明是目標節點
if ((k = e.key) == key || (e.hash == h && key.equals(k)))
return e.value;
}
}
return null;
}
小結
ConcurrentHashMap內容頗多且有難度，以上為簡單閱讀，如有不對的懇請指正。
- 在JDK1.7中，ConcurrentHashMap是基於分段鎖的思想來提高並發能力，數據結構採用Segment數組+HashEntry數組+鏈表來實現，每個Segment都相當於一把鎖(其繼承自ReentrantLock),多個執行緒操作多個Segment是相互獨立的，Segment有多少個即為並發級別有多大。
- Segment在ConcurrentHashMap初始化後就不會改變了，其擴容是針對每個Segment內部的HashEntry數組擴容，擴容為原來的兩倍大小且進行了優化。
- 多個執行緒put操作時候，競爭鎖失敗的執行緒會進行自旋，自旋達到一定次數在直接調用lock進行阻塞。
- 初始化ConcurrentHashMap的時候只會填充第一個Segment[0]，需要在多執行緒情況下避免重複初始化Segment[j]
- 讀操作未上鎖，Segment中的HashEntry數組和hashEntry對象中的value都是用volatile修飾的
