三十四、多執行緒真的比單執行緒快?
@Author: Runsen
事實上,Python 多執行緒另一個很重要的話題叫,GIL
(Global Interpreter Lock
,即全局解釋器鎖)。
多執行緒不一定比單執行緒快
在Python中,可以通過多進程、多執行緒和多協程來實現多任務。難道多執行緒就一定比單執行緒快?
下面我用一段程式碼證明我自己得觀點。
'''
@Author: Runsen
@微信公眾號: Python之王
@部落格: //blog.csdn.net/weixin_44510615
@Date: 2020/6/4
'''
import threading, time
def my_counter():
i = 0
for _ in range(100000000):
i = i+1
return True
def main1():
start_time = time.time()
for tid in range(2):
t = threading.Thread(target=my_counter)
t.start()
t.join() # 第一次循環的時候join方法引起主執行緒阻塞,但第二個執行緒並沒有啟動,所以兩個執行緒是順序執行的
print("單執行緒順序執行total_time: {}".format(time.time() - start_time))
def main2():
thread_ary = {}
start_time = time.time()
for tid in range(2):
t = threading.Thread(target=my_counter)
t.start()
thread_ary[tid] = t
for i in range(2):
thread_ary[i].join() # 兩個執行緒均已啟動,所以兩個執行緒是並發的
print("多執行緒執行total_time: {}".format(time.time() - start_time))
if __name__ == "__main__":
main1()
main2()
運行結果
單執行緒順序執行total_time: 17.754502773284912
多執行緒執行total_time: 20.01178550720215
我怕你說我亂得出來得結果,我還是截個圖看清楚點
這時,我懷疑:我的機器出問題了嗎?其實不是這樣,本質上來說Python 的執行緒失效了,沒有起到並行計算的作用。
Python 的執行緒,的確封裝了底層的作業系統執行緒,在 Linux 系統里是 Pthread
(全稱為 POSIX Thread
),而在 Windows 系統里是 Windows Thread
。另外,Python 的執行緒,也完全受作業系統管理,比如協調何時執行、管理記憶體資源、管理中斷等等。
GIL不是Python的特性
GIL 的概念用簡單的一句話來解釋,就是任一時刻,無論執行緒多少,單一 CPython 解釋器只能執行一條位元組碼。這個定義需要注意的點:
首先需要明確的一點是GIL並不是Python的特性,它是在實現Python解析器(CPython)時所引入的一個概念。
C++是一套語言(語法)標準,但是可以用不同的編譯器來編譯成可執行程式碼。有名的編譯器例如GCC,INTEL C++,Visual C++等。
Python也一樣,同樣一段程式碼可以通過CPython,PyPy,Psyco等不同的Python執行環境來執行。
其他 Python 解釋器不一定有 GIL。例如 Jython (JVM) 和 IronPython (CLR) 沒有 GIL,而 CPython,PyPy 有 GIL;
因為CPython是大部分環境下默認的Python執行環境。所以在很多人的概念里CPython就是Python,也就想當然的把GIL歸結為Python語言的缺陷。所以這裡要先明確一點:GIL並不是Python的特性,Python完全可以不依賴於GIL
GIL本質就是一把互斥鎖
GIL本質就是一把互斥鎖,既然是互斥鎖,所有互斥鎖的本質都一樣,都是將並發運行變成串列,以此來控制同一時間內共享數據只能被一個任務所修改,進而保證數據安全。
可以肯定的一點是:保護不同的數據的安全,就應該加不同的鎖。
GIL 的工作原理:比如下面這張圖,就是一個 GIL 在 Python 程式的工作示例。其中,Thread 1、2、3 輪流執行,每一個執行緒在開始執行時,都會鎖住 GIL,以阻止別的執行緒執行;同樣的,每一個執行緒執行完一段後,會釋放 GIL,以允許別的執行緒開始利用資源。
計算密集型
計算密集型任務的特點是要進行大量的計算,消耗CPU資源。
我們先來看一個簡單的計算密集型示例:
'''
@Author: Runsen
@微信公眾號: Python之王
@部落格: //blog.csdn.net/weixin_44510615
@Date: 2020/6/4
'''
import time
COUNT = 50_000_000
def count_down():
global COUNT
while COUNT > 0:
COUNT -= 1
s = time.perf_counter()
count_down()
c = time.perf_counter() - s
print('time taken in seconds - >:', c)
time taken in seconds - >: 9.2957003
這個是單執行緒, 時間是9s, 下面我們用兩個執行緒看看結果又如何:
'''
@Author: Runsen
@微信公眾號: Python之王
@部落格: //blog.csdn.net/weixin_44510615
@Date: 2020/6/4
'''
import time
from threading import Thread
COUNT = 50_000_000
def count_down():
global COUNT
while COUNT > 0:
COUNT -= 1
s = time.perf_counter()
t1 = Thread(target=count_down)
t2 = Thread(target=count_down)
t1.start()
t2.start()
t1.join()
t2.join()
c = time.perf_counter() - s
print('time taken in seconds - >:', c)
time taken in seconds - >: 17.110625
我們程式主要的操作就是在計算, CPU沒有等待, 而改為多執行緒後, 增加了執行緒後, 在執行緒之間頻繁的切換,增大了時間開銷, 時間當然會增加了。
還有一種類型是IO密集型,涉及到網路、磁碟IO的任務都是IO密集型任務,這類任務的特點是CPU消耗很少,任務的大部分時間都在等待IO操作完成(因為IO的速度遠遠低於CPU和記憶體的速度)。對於IO密集型任務,任務越多,CPU效率越高,但也有一個限度。常見的大部分任務都是IO密集型任務,比如Web應用。
總結:對於io密集型工作(Python爬蟲),多執行緒可以大幅提高程式碼效率。對CPU計算密集型(Python數據分析,機器學習,深度學習),多執行緒的效率可能比單執行緒還略低。所以,數據領域沒有多執行緒提高效率之說,只有將CPU提升到GPU,TPU來提升計算能力。
本文已收錄 GitHub,傳送門~ ,裡面更有大廠面試完整考點,歡迎 Star。