hello,大家好呀,我是小樓。
最近我又雙叒叕寫了個BUG,一個線上服務(wù)死鎖了,不過幸虧是個新服務(wù),沒有什么大影響。
出問題的是Go的讀寫鎖,如果你是寫Java的,不必劃走,更要看看本文,本文的重點在于Java和Go的讀寫鎖對比,甚至看完后你會有一個隱隱的感覺:Go的讀寫鎖是不是有BUG?
故障回放
背景簡單抽象一下:一個server服務(wù)(Go語言實現(xiàn)),提供了一個http接口,另有一個client服務(wù)來調(diào)用這個接口,整體架構(gòu)非常簡單,甚至都不用畫架構(gòu)圖你也能夠理解。
這兩個服務(wù)上線運行了一段時間都沒什么問題,突然有一天client調(diào)用這個server的接口全都超時了。
碰到這種問題,第一時間去查看日志和監(jiān)控,client端全是超時日志,server端日志沒有異常,甚至連請求的監(jiān)控都沒有上報,仿佛client端的請求沒有到達server端一樣。
于是去server服務(wù)器上手動請求了一下接口,結(jié)果卡主不動,這下排除了client,一定是server端出了問題。
這種卡死的問題其實很好查,直接用pprof看協(xié)程卡在哪里基本就能得出結(jié)論(和Java的jstack類似的工具),但這個服務(wù)沒有開啟pprof,只能改了代碼打開pprof重新發(fā)布,等待下次問題復現(xiàn)。
好在運氣不錯,2天后問題就出來了,用pprof看下程序卡在了哪里:
原來卡在了一個判斷集群或服務(wù)是否是小流量的地方,該接口會接受一個集群名或服務(wù)名的參數(shù),然后判斷該集群或服務(wù)是否是小流量集群,進而做一系列事,至于做了啥不重要。小流量集群是配置在配置中心中。
我把這段代碼摘出來(圖中是走的判斷集群分支,下面代碼以更簡單的服務(wù)分支講解,底層一致)。為了避免空洞,這里我先簡單講解一下程序的邏輯:
- 首先小流量的配置定義了一個讀寫鎖(sync.RWMutex),以及在內(nèi)存中保持了哪些服務(wù)需要灰度的規(guī)則(scopesMap)
- 配置變更時調(diào)用reset刷新這個scopesMap,用寫鎖,后續(xù)邏輯省略
- 判斷是否為灰度服務(wù),先加讀鎖看看規(guī)則是否存在:
- 再加鎖判斷服務(wù)是否命中規(guī)則:
這樣圈出重點,你可能一眼就看出問題了,讀鎖加了兩次,第二次沒有必要,屬于手誤了。確實,刪除第二個加讀鎖的代碼就沒問題了。如果事情到這就結(jié)束了,那這篇文章也沒有必要寫了,下面我們分析下為什么會死鎖。
為什么會死鎖
看到這個結(jié)果,我第一反應(yīng)是Go的鎖的重入性問題。
熟悉Java的同學對鎖的重入并不陌生,以防有讀者不明白鎖的重入性,我用一句話來概括:
可重入鎖就是可以重復進入的鎖,也叫遞歸鎖。
Java中有一個ReentrantLock,比如這樣,重復加鎖是沒有問題的:
但Go里面的鎖是不可重入的:
這個坑我也踩過,這是Go的實現(xiàn)問題。只要你愿意,用Java也能實現(xiàn)不可重入鎖,但Java中大多數(shù)使用的還是可重入鎖,因為用起來比較方便。
至于Go為什么不實現(xiàn)一個可重入的鎖,可以參考煎魚大佬的這篇文章《Go 為什么不支持可重入鎖?》,其原因總結(jié)起來就是Go的設(shè)計者覺得重入鎖是個不好的設(shè)計,所以沒有采納。不過我覺得這篇文章的評論更精彩:
說到這,你可能會說,上面出問題的明明是讀寫鎖(sync.RWMutex),讀寫鎖的特點是什么?
- 讀與讀之間不互斥
- 讀與寫、寫與寫之間互斥
既然讀鎖之間是不互斥,也就是可加兩次讀鎖,那么讀鎖必然是可重入的。我們寫個demo測試下:
果然如我們所想,順便看一下加讀鎖的邏輯:
看我框出的代碼,如果有寫鎖在等待,讀鎖需要等寫鎖!
這是什么邏輯?
如果一個協(xié)程已經(jīng)拿到了讀鎖,另一個協(xié)程嘗試加寫鎖,這時應(yīng)該加不了,沒什么問題。如果這個讀鎖的協(xié)程再去拿讀鎖,需要等寫鎖,這就死鎖了??!
為了驗證,我構(gòu)造了一個demo:
這段代碼按①、②、③順序執(zhí)行,第②段寫鎖需要等第①個讀鎖釋放,第③段讀鎖需要等第②段寫鎖釋放,最終就是一個死鎖的邏輯。
仔細想,這里面最有爭議的要屬已經(jīng)拿到讀鎖再次進入讀鎖需要等寫鎖這個邏輯。
Java中是這樣的嗎?寫個demo試試:
Java一點事都沒有,這是為啥?遇事不決,看源碼!但Java的源碼太長,又不是本文重點,所以就只說幾點重要的結(jié)論:
在Java的實現(xiàn)下,如果一個線程持有了讀鎖,寫鎖自然是需要等待的,但是持有讀鎖的線程也可以再次重入該讀鎖。
我們發(fā)現(xiàn)Java和Go的讀寫鎖實現(xiàn)不一致,這個不一致也就是導致我們寫出BUG的原因。
這合理嗎
拋開實現(xiàn),我們思考一下這樣合理嗎?
- 一個協(xié)程(或線程)已經(jīng)獲取到了讀鎖,別的協(xié)程(線程)獲取寫鎖時必然需要等待讀鎖的釋放
- 既然這個協(xié)程(或線程)已經(jīng)擁有了這個讀鎖,那么為什么再次獲取讀鎖時需要管別的寫鎖是否等待呢?
可以想象病人排隊看醫(yī)生,前面一個病人向醫(yī)生問診,進去后把門關(guān)上,在里面無論問多長時間(理論上)是他的權(quán)利,后面的病人在他沒出來前是不能打開門的。
但Go的實現(xiàn)卻是,前一個病人每問完一句話得看一眼門外是否有人在等,如果有人在等,那他就要等門外的人問完才能問,但門外的人又在等他問,所以大家死鎖了,誰都別想看完病。
是不是細思下來,感覺這是不是Go的一個BUG?
Go為什么這么實現(xiàn)
我嘗試去github上搜索了一下,發(fā)現(xiàn)了這個issue:
https://github.com/golang/go/issues/30657
從標題就能看出他遇到了和我一樣的問題:
Read-locking shouldn’t hang if thread has already a write-lock? #30657
看看里面有人是怎么回答的:
這位大佬說,這不符合Go鎖的原理,Go的鎖是不知道協(xié)程或者線程信息的,只知道代碼調(diào)用先后順序,即讀寫鎖無法升級或降級。
Java中的鎖記錄了持有者(線程id),但Go的鎖是不知道持有者是誰,所以獲取了讀鎖之后再次獲取讀鎖,這里的邏輯是區(qū)分不了是持有者還是其他的協(xié)程,所以就統(tǒng)一處理。
這點其實在Go源碼的注釋中體現(xiàn)了,我也是后來才注意到:
翻譯一下是:
如果一個協(xié)程持有讀鎖,另一個協(xié)程可能會調(diào)用Lock加寫鎖,那么再也沒有一個協(xié)程可以獲得讀鎖,直到前一個讀鎖釋放,這是為了禁止讀鎖遞歸。也確保了鎖最終可用,一個阻塞的寫鎖調(diào)用會將新的讀鎖排除在外。
不過這個警示實在是太不起眼了,大概就是這個效果:
這一幕像極了產(chǎn)品和程序員:
- 產(chǎn)品經(jīng)理:我要實現(xiàn)這個功能,怎么實現(xiàn)我不管
- Go:這破壞了我的設(shè)計原則,不接受這個功能
- 產(chǎn)品經(jīng)理:大家都退一步,你換個代價小的方法解決吧
于是,程序員在讀寫鎖上寫下了一段注釋:
最后
這個死鎖的坑確實很容易踩,尤其是Java程序員來寫Go,所以我們寫Go代碼時還是得寫得更Go一點才行。
Go的設(shè)計者比較「偏執(zhí)」,認為「不好」的設(shè)計堅決不去實現(xiàn),就如鎖的實現(xiàn)不應(yīng)該依賴線程、協(xié)程信息;可重入(遞歸)鎖是一種不好的設(shè)計。所以這種看似有BUG的設(shè)計,也存在一定的道理。
當然每個人都有自己的想法,你覺得Go的讀寫鎖這樣實現(xiàn)合理嗎?
如果你看完覺得有點收獲,給個贊、在看吧,你的支持是我持續(xù)創(chuàng)作的動力~
搜索關(guān)注”捉蟲大師”,后端技術(shù)分享,架構(gòu)設(shè)計、性能優(yōu)化、源碼閱讀、問題排查、踩坑實踐。