Python 中 -m 的典型用法、原理解析與發展演變
- 2019 年 11 月 10 日
- 筆記
在命令行中使用 Python 時,它可以接收大約 20 個選項(option),語法格式如下:
python [-bBdEhiIOqsSuvVWx?] [-c command | -m module-name | script | - ] [args]
本文想要聊聊比較特殊的「-m」選項:關於它的典型用法、原理解析與發展演變的過程。
首先,讓我們用「–help」來看看它的解釋:
-m mod run library module as a script (terminates option list)
"mod"是「module」的縮寫,即「-m」選項後面的內容是 module(模組),其作用是把模組當成腳本來運行。
「terminates option list」意味著「-m」之後的其它選項不起作用,在這點上它跟「-c」是一樣的,都是「終極選項」。官方把它們定義為「介面選項」(Interface options),需要區別於其它的普通選項或通用選項。
-m 選項的五個典型用法
Python 中有很多使用 -m 選項的場景,相信大家可能會用到或者看見過,我在這裡想分享 5 個。
在 Python3 中,只需一行命令就能實現一個簡單的 HTTP 服務:
python -m http.server 8000 # 注:在 Python2 中是這樣 python -m SimpleHTTPServer 8000
執行後,在本機打開「http://localhost:8000」,或者在區域網內的其它機器上打開「http://本機ip:8000」,就能訪問到執行目錄下的內容,例如下圖就是我本機的內容:
與此類似,我們只需要一行命令「python -m pydoc -p xxx」,就能生成 HTML 格式的官方幫助文檔,可以在瀏覽器中訪問。
上面的命令執行了 pydoc 模組,會在 9000 埠啟動一個 http 服務,在瀏覽器中打開,我的結果如下:
它的第三個常見用法是執行 pdb 的調試命令「python -m pdb xxx.py」,以調試模式來執行「xxx.py」腳本:
第四個同樣挺有用的場景是用 timeit 在命令行中測試一小段程式碼的運行時間。以下的 3 段程式碼,用不同的方式拼接 「0-1-2-……-99」 數字串。可以直觀地看出它們的效率差異:
最後,還有一種常常被人忽略的場景:「python -m pip install xxx」。我們可能會習慣性地使用「pip install xxx」,或者做了版本區分時用「pip3 install xxx」,總之不在前面用「python -m」做指定。但這種寫法可能會出問題。
很巧合的是,在本月初(2019.11.01),Python 的核心開發者、第一屆指導委員會 五人成員之一的 Brett Cannon 專門寫了一篇部落格《Why you should use "python -m pip" 》,提出應該使用「python -m pip」的方式,並做了詳細的解釋。
他的主要觀點是:在存在多個 Python 版本的環境中,這種寫法可以精確地控制三方庫的安裝位置。例如用「python3.8 -m pip」,可以明確指定給 3.8 版本安裝,而不會混淆成其它的版本。
(延伸閱讀:關於 Brett 的文章,這有一篇簡短的歸納《原來我一直安裝 Python 庫的姿勢都不對呀!》)
-m 選項的兩種原理解析
看了前面的幾種典型用法,你是否開始好奇:「-m」是怎麼運作的?它是怎麼實現的?
對於「python -m name」,一句話解釋:Python 會檢索sys.path
,查找名字為「name」的模組或者包(含命名空間包),並將其內容當成「__main__」模組來執行。
1、對於普通模組
以「.py」為後綴的文件就是一個模組,在「-m」之後使用時,只需要使用模組名,不需要寫出後綴,但前提是該模組名是有效的,且不能是用 C 語言寫成的模組。
在「-m」之後,如果是一個無效的模組名,則會報錯「No module named xxx」。
如果是一個帶後綴的模組,則首先會導入該模組,然後可能報錯:Error while finding module specification for ‘xxx.py’ (AttributeError: module ‘xxx’ has no attribute ‘__path__’。
對於一個普通模組,有時候這兩種寫法表面看起來是等效的:
兩種寫法都會把定位到的模組腳本當成主程式入口來執行,即在執行時,該腳本的__name__
都是」__main__「,跟 import 導入方式是不同的。
但它的前提是:在執行目錄中存在著「test.py」,且只有唯一的「test」模組。對於本例,如果換一個目錄執行的話,「python test.py」當然會報找不到文件的錯誤,然而,「python -m test」卻不會報錯,因為解釋器在遍歷sys.path
時可以找到同名的「test」模組,並且執行:
由此差異,我們其實可以總結出「-m」的用法:已知一個模組的名字,但不知道它的文件路徑,那麼使用「-m」就意味著交給解釋器自行查找,若找到,則當成腳本執行。
以前文的「python -m http.server 8000」為例,我們也可以找到「server」模組的絕對路徑,然後執行,儘管這樣會變得很麻煩。
那麼,「-m」方式與直接運行腳本相比,在實現上有什麼不同呢?
- 直接運行腳本時,相當於給出了腳本的完整路徑(不管是絕對路徑還是相對路徑),解釋器根據文件系統的查找機制, 定位到該腳本,然後執行
- 使用「-m」方式時,解釋器需要在不 import 的情況下,在所有模組命名空間 中查找,定位到腳本的路徑,然後執行。為了實現這個過程,解釋器會藉助兩個模組:
pkgutil
和runpy
,前者用來獲取所有的模組列表,後者根據模組名來定位並執行腳本
2、對於包內模組
如果「-m」之後要執行的是一個包,那麼解釋器經過前面提到的查找過程,先定位到該包,然後會去執行它的「__main__」子模組,也就是說,在包目錄下需要實現一個「__main__.py」文件。
換句話說,假設有個包的名稱是「pname」,那麼,「python -m pname」,其實就等效於「python -m pname.__main__」。
仍以前文創建 HTTP 服務為例,「http」是 Python 內置的一個包,它沒有「__main__.py」文件,所以使用「-m」方式執行時,就會報錯:No module named http.__main__; ‘http’ is a package and cannot be directly executed。
作為對比,我們可以看看前文提到的 pip,它也是一個包,為什麼「python -m pip」的方式可以使用呢?當然是因為它有「__main__.py」文件:
「python -m pip」實際上執行的就是這個「__main__.py」文件,它主要作為一個調用入口,調用了核心的"pip._internal.main"。
http 包因為沒有一個統一的入口模組,所以採用了「python -m 包.模組」的方式,而 pip 包因為有統一的入口模組,所以加了一個「__main__.py」文件,最後只需要寫「python -m 包」,簡明直觀。
-m 選項的十年演變過程
最早引入 -m 選項的是 Python 2.4 版本(2004年),當時功能還挺受限,只能作用於普通的內置模組(如 pdb 和 profile)。
隨後,知名開發者 Nick Coghlan 提出的《PEP 338 — Executing modules as scripts》把它的功能提升了一個台階。這個 PEP 在 2004 年提出,最終實現在 2006 年的 2.5 版本。
(插個題外話:Nick Coghlan 是核心開發者中的核心之一,也是第一屆指導委員會的五人成員之一。記得當初看材料,他是在 2005 年被選為核心開發者的,這時間與 PEP-338 的時間緊密貼合)
這個 PEP 的幾個核心點是:
-
結合了 PEP-302 的新探針機制(new import hooks),提升了解釋器查找包內模組的能力
-
結合了其它的導入機制(例如
zipimport
和凍結模組(frozen modules)),拓展了解釋器查找模組的範圍與精度 -
開發了新的
runpy.run_module(modulename)
來實現本功能,而不用修改 CPython 解釋器,如此可方便移植到其它解釋器
至此,-m 選項使得 Python 可以在所有的命名空間內定位到命令行中給定的模組。
2009 年,在 Python 3.1 版本中,只需給定包的名稱,就能定位和運行它的「__main__」子模組。2014 年,-m 擴展到支援命名空間包。
至此,經過十年的發展演變,-m 選項變得功能齊全,羽翼豐滿。
最後,我們來個 ending 吧:-m 選項可能看似不起眼,但它絕對是最特別的選項之一,它使得在命令行中,使用內置模組、標準包與三方庫時變得更輕鬆便利。有機會就多用一下吧,體會它帶來的愉悅體驗。
參考材料
https://docs.python.org/3.7/using/cmdline.html#cmdoption-m
https://snarky.ca/why-you-should-use-python-m-pip
https://www.python.org/dev/peps/pep-0338/
https://blog.csdn.net/jian3x/article/details/89556592
公眾號【Python貓】, 本號連載優質的系列文章,有喵星哲學貓系列、Python進階系列、好書推薦系列、技術寫作、優質英文推薦與翻譯等等,歡迎關注哦。