【低門檻 手把手】python 裝飾器(Decorators)原理說明
本文目的是由淺入深地介紹python裝飾器原理
裝飾器(Decorators)是 Python 的一個重要部分
其功能是,在不修改原函數(類)定義程式碼的情況下,增加新的功能
為了理解和實現裝飾器,我們先引入2個核心操作:
1 必要的2個核心操作
1.1 核心操作1, 函數內部可以定義函數
def hi(name='world'):
print(f"hello, {name}")
def howdoyoudo(name2=name):
print(f"how do you do? {name2}")
howdoyoudo()
howdoyoudo('world')
hi("ytt") # 但是新函數還是存在的。
hi("ycy") # 但是新函數還是存在的。
try:
howdoyoudo()
except:
print("function not found")
在這個例子中,函數hi的形參name,默認為’world’
在函數內部,又定義了另一個函數 howdoyoudo,定義這個函數時,將形參name作為新函數的形參name2的默認值。
因此,在函數內部調用howdoyoudo()時,將以調用hi時的實參為默認值,但也可以給howdoyoudo輸入其他參數。
上面的例子運行後輸出結果為:
hello, ytt
how do you do? ytt
how do you do? world
hello, ycy
how do you do? ycy
how do you do?
worldfunction not found
這裡新定義的howdoyoudo可以稱作一個「閉包」。不少關於裝飾器的blog都提到了這個概念,但其實沒必要給它取一個多專業的名字。我們知道閉包是函數內的函數就可以了
1.2 核心操作2 函數可以作為對象被輸入輸出
1.2.1 核心操作2的前置條件,函數是對象
當我們進行 def 的時候,我們在做什麼?
def hi():
print("hi")
return "world"
這時,hi函數,列印一個字元串,同時返回一個字元串。
但hi函數本身也是一個對象,一個可以執行的對象。執行的方式是hi()。
這裡hi和hi()有本質區別,
hi 代表了這個函數對象本身
hi() 則是運行了函數,得到函數的返回值。
def hi(name='world'):
print(f"hello, {name}")
return name
msg = hi() # 運行函數,返回字元串,因此msg是個字元串
print(msg)
hello = hi # 將函數本身賦值給hello,此時hello是另一個函數,即使刪除原函數hi,新函數hello也可以正常調用
del hi # 刪除原函數hi
try:
hi()
except:
print("func hi not found")
hello("ycy") # 但是新函數還是存在的。
作為對比,可以想像以下程式碼
a = 'example'
b = a
del a
此時也是b存在,可以正常使用。
1.2.2函數作為輸入
我們定義2個函數,分別實現自加1, 自乘2,
再定義一個函數double_exec,內容是將某個函數調用2次
在調用double_exec時,可以將函數作為輸入傳進來
def func1(n):
return n+1
def func2(n):
return n*2
def double_exec(f,x):
return f(f(x))
rst = double_exec(func1, 5)
print(rst)
rst = double_exec(func2, 3)
print(rst)
輸出結果就是
7
27
1.2.3 函數作為輸出
同樣,也可以將函數作為輸出
def select_func(i):
def func1(n):
return n+1
def func2(n):
return n*2
func_list = [func1, func2]
return func_list[i]
func = select_func(0) # 第1個函數
print(func(5))
func = select_func(1) # 第2個函數
print(func(5))
輸出結果為
6
10
2 嘗試構造裝飾器
有了以上兩個核心操作,我們可以嘗試構造裝飾器了。
裝飾器的目的:在不修改原函數(類)定義程式碼的情況下,增加新的功能
試想一下,現在有一個原函數
def original_function:
print("this is original function")
在不修改原函數定義程式碼的情況下,如果想進行函數內容的添加,可以將這個函數作為一個整體,添加到這樣的包裹中:
def my_decorator(f):
def wrap_func():
print(f"before call {f.__name__}")
f()
print(f"after call {f.__name__}")
return wrap_func
new_function = my_decorator(original_function)
我們定義了一個my_decorator函數,這個函數進行了一種操作:
對傳入的f,添加操作(運行前後增加列印),並把添加操作後的內容連同運行原函數的內容,一起傳出
這個my_decorator,定義了一種增加前後列印內容的行為
調用my_decorator時,對這個行為進行了操作。
因此,new_function是一個在original_function上增加了前後列印行為的新函數
這個過程被可以被稱作裝飾。
例子中的對象 | 角色 | 說明 |
---|---|---|
wrap | 閉包函數 | 重新定義了一種格式,這個格式可以任意的,是裝飾器的真正內容 |
my_decorator | 裝飾器 | 定義了按warp這種格式進行操作的函數 |
f | 待裝飾函數(形參) | 在定義裝飾器時,待裝飾函數只是一個參數 |
original_function | 實際進行裝飾的函數 | 一個具體的需要裝飾的函數 |
new_function | 裝飾後的函數 | 一個具體的裝飾完成的函數 |
這裡已經可以發現,裝飾器本身對於被裝飾的函數是什麼,是不需要考慮的。裝飾器本身只定義了一種裝飾行為,這個行為是通過裝飾器內部的閉包函數()進行定義的。
運行裝飾前後的函數,可以清晰看到裝飾的效果
def original_function():
print("this is original function")
def my_decorator(f):
def wrap_func():
print(f"before calling {f.__name__}")
f()
print(f"after calling {f.__name__}")
return wrap_func
new_function = my_decorator(original_function)
original_function()
print("#########")
new_function()
3裝飾器定義的簡寫
我們復現一下實際要用裝飾器的情況,我們往往有一種裝飾器,想應用於很多個函數,比如
def my_decorator(f):
def wrap_func():
print(f"before calling {f.__name__}")
f()
print(f"after calling {f.__name__}")
return wrap_func
def print1():
print("num=1")
def print2():
print("num=2")
def print3():
print("num=3")
此時,如果我們想給3個print函數都加上裝飾器,需要這麼做
new_print1 = my_decorator(print1)
new_print2 = my_decorator(print2)
new_print3 = my_decorator(print3)
實際調用的時候,就需要調用添加裝飾器的函數名了
new_print1()
new_print2()
new_print3()
當然,也可以賦值給原函數名
print1 = my_decorator(print1)
print1 = my_decorator(print2)
print3 = my_decorator(print3)
這樣至少不需要管理一系列裝飾前後的函數。
同時,在不需要進行裝飾的時候,需要把
print1 = my_decorator(print1)
print1 = my_decorator(print2)
print3 = my_decorator(print3)
全部刪掉。
事實上,這樣並不方便,尤其對於更複雜的裝飾器來說
為此,python提供了一種簡寫方式
def my_decorator(f):
def wrap_func():
print(f"before calling {f.__name__}")
f()
print(f"after calling {f.__name__}")
return wrap_func
@my_decorator
def print1():
print("num=1")
這個定義print1函數前的@my_decorator,相當於在定義完print1後,自動直接運行了
print1 = my_decorator(print1)
一個新的麻煩及解決辦法
不論採用@my_decorator放在新函數前,還是顯示地重寫print1 = my_decorator(print1),都會存在一個問題:
裝飾後的函數,名字改變了(其實不止名字,一系列的索引都改變了)
def print1():
print("num=1")
print(f"before decorate, function name: {print1.__name__}")
print1 = my_decorator(print1)
print(f"after decorate, function name: {print1.__name__}")
輸出結果為:
before decorate, function name: print1
after decorate, function name: wrap_func
這個現象的原因是,裝飾行為本身,是通過構造了一個新的函數(例子中是wrap_func函數)來實現裝飾這個行為的,然後把這個修改後的函數賦給了原函數名。
這樣,會導致我們預期的被裝飾函數的一些系統變數(比如__name__)發生了變化。
對此,python提供了解決方案:
from functools import wraps # 導入一個系統工具
def my_decorator(f):
@wraps(f) # 在定義裝飾行為函數的時候,增加一個新的裝飾器
def wrap_func():
print(f"before calling {f.__name__}")
f()
print(f"after calling {f.__name__}")
return wrap_func
經過這個行為後,被裝飾函數的系統變數問題被解決了
def print1():
print("num=1")
print(f"before decorate, function name: {print1.__name__}")
print1 = my_decorator(print1)
print(f"after decorate, function name: {print1.__name__}")
輸出結果為
before decorate, function name: print1
after decorate, function name: print1
當然,如果你不需要使用一些系統變數,也可以不關注這個問題。
複雜一點的情況1 被裝飾函數有輸入輸出
剛才的例子都比較簡單,被裝飾的函數是沒有參數的。如果被裝飾的函數有參數,只需要在定義裝飾行為時(事實上,這個才更通用),增加(*args, **kwargs)描述即可
from functools import wraps
def my_decorator(f):
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
print(f"before calling {f.__name__}")
ret = f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
print(f"after calling {f.__name__}") # line-after
return ret # 執行 "line-after" 後,將f的輸出返回
return wrap_func
之前的描述中可以感受到,對於例子中的裝飾行為(前後加列印),函數被裝飾後,本質上是調用了新的裝飾函數wrap_func。
因此,如果原函數需要有輸入參數傳遞,只需要在wrap_func(或其他任意名字的裝飾函數)定義時,也增加參數輸入(*args, **kwargs),並將這些參數,原封不動地傳給待裝飾函數f。
這種定義裝飾行為的方式更具有普遍性,忘記之前的定義方式吧
我們試一下
@my_decorator
def my_add(x, y):
return x + y
n = my_add(1, 3)
print(n)
輸出
before calling my_add
after calling my_add
4
這裡需要注意的是,如果按照以下的方式定義裝飾器
from functools import wraps
def my_decorator(f):
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
print(f"before calling {f.__name__}")
return f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
print(f"after calling {f.__name__}") # line-after
return wrap_func
那麼以下語句將不會執行
print(f"after calling {f.__name__}") # line-after
因為裝飾後實際的函數wrap_func(雖然名字被改成了原函數,系統參數也改成了原函數),運行到return f(*args, **kwargs) 的時候已經結束了
複雜一點的情況2 裝飾器有輸入
因為裝飾器my_decorator本身也是可以輸入的,因此,只需要在定義裝飾器時,增加參數,並在後續函數中使用就可以了,比如
from functools import wraps
def my_decorator(f, msg=""):
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
print(f"{msg}, before calling {f.__name__}")
return f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
print(f"{msg}, after calling {f.__name__}") # line-after
return wrap_func
此時裝飾器已經可以有輸入參數了
def my_add(x, y):
return x + y
my_add = my_decorator(my_add, 'yusheng')
n = my_add(1, 3)
print(n)
輸出
yusheng, before calling my_add
yusheng, after calling my_add
4
你可能發現,為什麼不用簡寫版的方法了
@my_decorator(msg='yusheng')
def my_add(x, y):
return x + y
n = my_add(1, 3)
print(n)
因為以上程式碼會報錯!!
究其原因,雖然
@my_decorator
def my_add(x, y):
return x + y
等價於
def my_add(x, y):
return x + y
my_add = my_decorator(my_add)
但是,
@my_decorator(msg='yusheng')
def my_add(x, y):
return x + y
並不等價於
def my_add(x, y):
return x + y
my_add = my_decorator(my_add, msg='yusheng')
這本身和@語法有關,使用@my_decorator時,是系統在應用一個以單個函數作為參數的閉包函數。即,@是不能帶參數的。
但是你應該發現了,之前的@wraps(f)不是帶參數了嗎?請仔細觀察以下程式碼
def my_decorator_with_parma(msg='')
def my_decorator(f):
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
print(f"{msg}, before calling {f.__name__}")
return f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
print(f"{msg}, after calling {f.__name__}") # line-after
return wrap_func
return my_decorator
通過一層嵌套,my_decorator_with_parma本質上是返回了一個參數僅為一個函數的函數(my_decorator),但因為my_decorator對my_decorator_with_parma來說是一個閉包,my_decorator_with_parma是可以帶參數的。(這句話真繞)
通過以上的定義,我們再來看
@my_decorator_with_parma(msg='yusheng')
def my_add(x, y):
return x + y
可以這麼理解,my_decorator_with_parma(msg=’yusheng’)的結果是原來的my_decorator函數,同時,因為my_decorator_with_parma可以傳參,參數實際上是參與了my_decorator的(因為my_decorator對my_decorator_with_parma是閉包),my_decorator_with_parma(msg=’yusheng’)全等於一個有參數參加的my_decorator
因此,以上程式碼等價於有參數msg傳遞的
@my_decorator
def my_add(x, y):
return x + y
比較繞,需要理解一下,或者乾脆強記這種範式:
from functools import wraps
def my_decorator(msg=''): # 名字改一下
def inner_decorator(f): # 名字改一下
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
print(f"{msg}, before calling {f.__name__}")
ret = f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
print(f"{msg}, after calling {f.__name__}") # line-after
return ret
return wrap_func
return inner_decorator
以上範式包含函數的輸入輸出、裝飾器的輸入,可以應對大部分情況了。
實驗一下:
@my_decorator(msg='yusheng')
def my_add(x, y):
return x + y
my_add(1, 2)
輸出
yusheng, before calling my_add
yusheng, after calling my_add
有用的函數裝飾器例子
統計耗時的日誌
from functools import wraps
import datetime
def log(output_path=None): # 名字改一下
def decorator(f): # 名字改一下
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
now = datetime.datetime.now()
msg = now.strftime("%Y-%m-%d %H:%M:%S") # 運行時刻
msg += f" {f.__name__}()\n" # 運行的函數名
ret = f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
aft = datetime.datetime.now()
time_cost = aft - now
ms = time_cost.total_seconds() * 10**3 # 毫秒
msg += now.strftime("%Y-%m-%d %H:%M:%S")
msg += f" {f.__name__}() return, cost {ms} ms"
if output_path is None:
print(msg)
else:
print(f"print logs into {output_path}")
with open(output_path, 'a+') as fp:
fp.write(msg + '\n')
return wrap_func
return decorator
以上是一個log裝飾器,利用datetime統計了函數的耗時,
並且,裝飾器可以進行輸出文件操作,如果給出了文件路徑,則輸出文件,否則就列印。
利用這個裝飾器,可以靈活地進行耗時統計
@log()
def my_sum(x, y):
s = 0
for i in range(x, y+1):
s += i
return s
my_sum(1, 9999999)
不設置輸出文件地址,則列印。運行結果為:
2021-12-03 10:01:52 my_sum()
2021-12-03 10:01:52 my_sum() return, cost 506.3299999999999 ms
也可以輸出到文件
@log('test.log')
def my_sum(x, y):
s = 0
for i in range(x, y+1):
s += i
return s
my_sum(1, 9999999)
輸出結果為
print logs into test.log
同時在當前目錄生成了一個test.log 文件,內容為:
2021-12-03 10:03:17 my_sum()
2021-12-03 10:03:17 my_sum() return, cost 461.813 ms
從裝飾函數到裝飾類
以上的裝飾器都是以函數形式出現的,但我們可以稍做改寫,將裝飾器以類的形式實現。
from functools import wraps
import datetime
class Log:
def __init__(self, path=None):
self._output = path
def __call__(self, f): # 相當於原來的 inner_decorator
@wraps(f)
def wrap_func(*args, **kwargs): # 增加了輸入參數
now = datetime.datetime.now()
msg = now.strftime("%Y-%m-%d %H:%M:%S") # 運行時刻
msg += f" {f.__name__}()\n" # 運行的函數名
ret = f(*args, **kwargs) # 透傳了輸入參數,並記錄了輸出
aft = datetime.datetime.now()
time_cost = aft - now
ms = time_cost.total_seconds() * 10**3 # 毫秒
msg += now.strftime("%Y-%m-%d %H:%M:%S")
msg += f" {f.__name__}() return, cost {ms} ms"
if self._output is None:
print(msg)
else:
print(f"print logs into {self._output}")
with open(self._output, 'a+') as fp:
fp.write(msg + '\n')
return wrap_func
這個裝飾器類Log 上個例子里的裝飾器函數log功能是一樣的,同時,這個裝飾器類還可以作為基類被其他繼承,進一步增加功能。