這不會又是一個Go的BUG吧?

hello,大家好呀,我是小樓。

最近我又雙叒叕寫了個BUG,一個線上服務死鎖了,不過幸虧是個新服務,沒有什麼大影響。

出問題的是Go的讀寫鎖,如果你是寫Java的,不必划走,更要看看本文,本文的重點在於Java和Go的讀寫鎖對比,甚至看完後你會有一個隱隱的感覺:Go的讀寫鎖是不是有BUG?

故障回放

背景簡單抽象一下:一個server服務(Go語言實現),提供了一個http接口,另有一個client服務來調用這個接口,整體架構非常簡單,甚至都不用畫架構圖你也能夠理解。

這兩個服務上線運行了一段時間都沒什麼問題,突然有一天client調用這個server的接口全都超時了。

碰到這種問題,第一時間去查看日誌和監控,client端全是超時日誌,server端日誌沒有異常,甚至連請求的監控都沒有上報,彷彿client端的請求沒有到達server端一樣。

於是去server服務器上手動請求了一下接口,結果卡主不動,這下排除了client,一定是server端出了問題。

這種卡死的問題其實很好查,直接用pprof看協程卡在哪裡基本就能得出結論(和Java的jstack類似的工具),但這個服務沒有開啟pprof,只能改了代碼打開pprof重新發佈,等待下次問題復現。

好在運氣不錯,2天後問題就出來了,用pprof看下程序卡在了哪裡:

image

原來卡在了一個判斷集群或服務是否是小流量的地方,該接口會接受一個集群名或服務名的參數,然後判斷該集群或服務是否是小流量集群,進而做一系列事,至於做了啥不重要。小流量集群是配置在配置中心中。

我把這段代碼摘出來(圖中是走的判斷集群分支,下面代碼以更簡單的服務分支講解,底層一致)。為了避免空洞,這裡我先簡單講解一下程序的邏輯:

  • 首先小流量的配置定義了一個讀寫鎖(sync.RWMutex),以及在內存中保持了哪些服務需要灰度的規則(scopesMap)

image

  • 配置變更時調用reset刷新這個scopesMap,用寫鎖,後續邏輯省略

image

  • 判斷是否為灰度服務,先加讀鎖看看規則是否存在:

image

  • 再加鎖判斷服務是否命中規則:

image

這樣圈出重點,你可能一眼就看出問題了,讀鎖加了兩次,第二次沒有必要,屬於手誤了。確實,刪除第二個加讀鎖的代碼就沒問題了。如果事情到這就結束了,那這篇文章也沒有必要寫了,下面我們分析下為什麼會死鎖。

為什麼會死鎖

看到這個結果,我第一反應是Go的鎖的重入性問題。

熟悉Java的同學對鎖的重入並不陌生,以防有讀者不明白鎖的重入性,我用一句話來概括:

可重入鎖就是可以重複進入的鎖,也叫遞歸鎖

Java中有一個ReentrantLock,比如這樣,重複加鎖是沒有問題的:

image

但Go裏面的鎖是不可重入的:

image

這個坑我也踩過,這是Go的實現問題。只要你願意,用Java也能實現不可重入鎖,但Java中大多數使用的還是可重入鎖,因為用起來比較方便。

至於Go為什麼不實現一個可重入的鎖,可以參考煎魚大佬的這篇文章《Go 為什麼不支持可重入鎖?》 ,其原因總結起來就是Go的設計者覺得重入鎖是個不好的設計,所以沒有採納。不過我覺得這篇文章的評論更精彩:

image

說到這,你可能會說,上面出問題的明明是讀寫鎖(sync.RWMutex),讀寫鎖的特點是什麼?

  • 讀與讀之間不互斥
  • 讀與寫、寫與寫之間互斥

既然讀鎖之間是不互斥,也就是可加兩次讀鎖,那麼讀鎖必然是可重入的。我們寫個demo測試下:

image

果然如我們所想,順便看一下加讀鎖的邏輯:

image

看我框出的代碼,如果有寫鎖在等待,讀鎖需要等寫鎖!

image

這是什麼邏輯?

如果一個協程已經拿到了讀鎖,另一個協程嘗試加寫鎖,這時應該加不了,沒什麼問題。如果這個讀鎖的協程再去拿讀鎖,需要等寫鎖,這就死鎖了啊!

為了驗證,我構造了一個demo:

image

這段代碼按①、②、③順序執行,第②段寫鎖需要等第①個讀鎖釋放,第③段讀鎖需要等第②段寫鎖釋放,最終就是一個死鎖的邏輯。

仔細想,這裏面最有爭議的要屬已經拿到讀鎖再次進入讀鎖需要等寫鎖這個邏輯。

Java中是這樣的嗎?寫個demo試試:

image

Java一點事都沒有,這是為啥?遇事不決,看源碼!但Java的源碼太長,又不是本文重點,所以就只說幾點重要的結論:

  1. Java的ReentrantReadWriteLock支持鎖降級,但不能升級,即獲取了寫鎖的線程,可以繼續獲取讀鎖,但獲取讀鎖的線程無法再獲取寫鎖;
  2. ReentrantReadWriteLock實現了公平和非公平兩種鎖,公平鎖的情況下,獲取讀鎖、寫鎖前需要看同步隊列中是否先線程在我之前排隊;非公平鎖的情況下:寫鎖可以直接搶佔鎖,但是讀鎖獲取有一個讓步條件,如果當前同步隊列head.next是一個寫鎖在等待,並且自己不是重入的,就要讓步等待。

在Java的實現下,如果一個線程持有了讀鎖,寫鎖自然是需要等待的,但是持有讀鎖的線程也可以再次重入該讀鎖。

我們發現Java和Go的讀寫鎖實現不一致,這個不一致也就是導致我們寫出BUG的原因。

這合理嗎

拋開實現,我們思考一下這樣合理嗎?

  • 一個協程(或線程)已經獲取到了讀鎖,別的協程(線程)獲取寫鎖時必然需要等待讀鎖的釋放
  • 既然這個協程(或線程)已經擁有了這個讀鎖,那麼為什麼再次獲取讀鎖時需要管別的寫鎖是否等待呢?

可以想像病人排隊看醫生,前面一個病人向醫生問診,進去後把門關上,在裏面無論問多長時間(理論上)是他的權利,後面的病人在他沒出來前是不能打開門的。

但Go的實現卻是,前一個病人每問完一句話得看一眼門外是否有人在等,如果有人在等,那他就要等門外的人問完才能問,但門外的人又在等他問,所以大家死鎖了,誰都別想看完病。

是不是細思下來,感覺這是不是Go的一個BUG?

Go為什麼這麼實現

我嘗試去github上搜索了一下,發現了這個issue:

//github.com/golang/go/issues/30657

從標題就能看出他遇到了和我一樣的問題:

Read-locking shouldn’t hang if thread has already a write-lock? #30657

看看裏面有人是怎麼回答的:

image

這位大佬說,這不符合Go鎖的原理,Go的鎖是不知道協程或者線程信息的,只知道代碼調用先後順序,即讀寫鎖無法升級或降級。

Java中的鎖記錄了持有者(線程id),但Go的鎖是不知道持有者是誰,所以獲取了讀鎖之後再次獲取讀鎖,這裡的邏輯是區分不了是持有者還是其他的協程,所以就統一處理。

這點其實在Go源碼的注釋中體現了,我也是後來才注意到:

image

翻譯一下是:

如果一個協程持有讀鎖,另一個協程可能會調用Lock加寫鎖,那麼再也沒有一個協程可以獲得讀鎖,直到前一個讀鎖釋放,這是為了禁止讀鎖遞歸。也確保了鎖最終可用,一個阻塞的寫鎖調用會將新的讀鎖排除在外。

不過這個警示實在是太不起眼了,大概就是這個效果:

image

這一幕像極了產品和程序員:

  • 產品經理:我要實現這個功能,怎麼實現我不管
  • Go:這破壞了我的設計原則,不接受這個功能
  • 產品經理:大家都退一步,你換個代價小的方法解決吧

於是,程序員在讀寫鎖上寫下了一段注釋:

image

最後

這個死鎖的坑確實很容易踩,尤其是Java程序員來寫Go,所以我們寫Go代碼時還是得寫得更Go一點才行。

Go的設計者比較「偏執」,認為「不好」的設計堅決不去實現,就如鎖的實現不應該依賴線程、協程信息;可重入(遞歸)鎖是一種不好的設計。所以這種看似有BUG的設計,也存在一定的道理

當然每個人都有自己的想法,你覺得Go的讀寫鎖這樣實現合理嗎?

如果你看完覺得有點收穫,給個在看吧,你的支持是我持續創作的動力~


搜索關注微信公眾號”捉蟲大師”,後端技術分享,架構設計、性能優化、源碼閱讀、問題排查、踩坑實踐。