numba,讓你的Python飛起來!
- 2019 年 10 月 4 日
- 筆記
python由於它動態解釋性語言的特性,跑起代碼來相比java、c++要慢很多,尤其在做科學計算的時候,十億百億級別的運算,讓python的這種劣勢更加凸顯。
辦法永遠比困難多,numba就是解決python慢的一大利器,可以讓python的運行速度提升上百倍!
1 什麼是numba?
numba是一款可以將python函數編譯為機器代碼的JIT編譯器,經過numba編譯的python代碼(僅限數組運算),其運行速度可以接近C或FORTRAN語言。

python之所以慢,是因為它是靠CPython編譯的,numba的作用是給python換一種編譯器。

python、c、numba三種編譯器速度對比
使用numba非常簡單,只需要將numba裝飾器應用到python函數中,無需改動原本的python代碼,numba會自動完成剩餘的工作。
import numpy as np import numba from numba import jit @jit(nopython=True) # jit,numba裝飾器中的一種 def go_fast(a): # 首次調用時,函數被編譯為機器代碼 trace = 0 # 假設輸入變量是numpy數組 for i in range(a.shape[0]): # Numba 擅長處理循環 trace += np.tanh(a[i, i]) return a + trace
以上代碼是一個python函數,用以計算numpy數組各個數值的雙曲正切值,我們使用了numba裝飾器,它將這個python函數編譯為等效的機器代碼,可以大大減少運行時間。
2 numba適合科學計算
numpy是為面向numpy數組的計算任務而設計的。
在面向數組的計算任務中,數據並行性對於像GPU這樣的加速器是很自然的。Numba了解NumPy數組類型,並使用它們生成高效的編譯代碼,用於在GPU或多核CPU上執行。特殊裝飾器還可以創建函數,像numpy函數那樣在numpy數組上廣播。
什麼情況下使用numba呢?
- 使用numpy數組做大量科學計算時
- 使用for循環時
3 學習使用numba
第一步:導入numpy、numba及其編譯器
import numpy as np import numba from numba import jit
第二步:傳入numba裝飾器jit,編寫函數
# 傳入jit,numba裝飾器中的一種 @jit(nopython=True) def go_fast(a): # 首次調用時,函數被編譯為機器代碼 trace = 0 # 假設輸入變量是numpy數組 for i in range(a.shape[0]): # Numba 擅長處理循環 trace += np.tanh(a[i, i]) # numba喜歡numpy函數 return a + trace # numba喜歡numpy廣播
nopython = True選項要求完全編譯該函數(以便完全刪除Python解釋器調用),否則會引發異常。這些異常通常表示函數中需要修改的位置,以實現優於Python的性能。強烈建議您始終使用nopython = True。
第三步:給函數傳遞實參
# 因為函數要求傳入的參數是nunpy數組 x = np.arange(100).reshape(10, 10) # 執行函數 go_fast(x)
第四步:經numba加速的函數執行時間
% timeit go_fast(x)
輸出:
3.63 µs ± 156 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
第五步:不經numba加速的函數執行時間
def go_fast(a): # 首次調用時,函數被編譯為機器代碼 trace = 0 # 假設輸入變量是numpy數組 for i in range(a.shape[0]): # Numba 擅長處理循環 trace += np.tanh(a[i, i]) # numba喜歡numpy函數 return a + trace # numba喜歡numpy廣播 x = np.arange(100).reshape(10, 10) %timeit go_fast(x)
輸出:
136 µs ± 1.09 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
結論:
在numba加速下,代碼執行時間為3.63微秒/循環。不經過numba加速,代碼執行時間為136微秒/循環,兩者相比,前者快了40倍。
4 numba讓python飛起來
前面已經對比了numba使用前後,python代碼速度提升了40倍,但這還不是最快的。
這次,我們不使用numpy數組,僅用for循環,看看nunba對for循環到底有多鍾愛!
# 不使用numba的情況 def t(): x = 0 for i in np.arange(5000): x += i return x %timeit(t())
輸出:
408 µs ± 9.73 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
# 使用numba的情況 @jit(nopython=True) def t(): x = 0 for i in np.arange(5000): x += i return x %timeit(t())
輸出:
1.57 µs ± 53.8 ns per loop (mean ± std. dev. of 7 runs, 1000000 loops each)
使用numba前後分別是408微秒/循環、1.57微秒/循環,速度整整提升了200多倍!
5 結語
numba對python代碼運行速度有巨大的提升,這極大的促進了大數據時代的python數據分析能力,對數據科學工作者來說,這真是一個lucky tool !
當然numba不會對numpy和for循環以外的python代碼有很大幫助,你不要指望numba可以幫你加快從數據庫取數,這點它真的做不到哈。
——————- End ——————-
文章轉載自公眾號 Python大數據分析 , 作者 朱衛軍