圖靈獎得主Judea Pearl ：從「貝葉斯網路之父」到「AI社區的叛徒」

• 2020 年 6 月 18 日
• AI

圖靈獎得主Judea  Pearl，早在40多年前便通過貝葉斯網的設計，使機器實現概率推理而在人工智慧領域聲名大噪，並被譽為「貝葉斯網路之父」，但近年卻公開聲稱自己其實是人工智慧社區的一名「叛徒」：離開了主流追逐、並且也是由他奠定重要理論基礎和方法論的概率推理，而去追求一項更具挑戰性的任務——因果推理。Judea Pearl 認為當今深度學習所有令人印象深刻的成就，都只不過是為了適應「曲線擬合（Curve fitting）」而今，這也導致深度學習的研究員們困在了「關聯級別」的問題窘境里。Judea  Pearl 期望能掀起一場「因果革命」，採用因果推理模型，從因果而非單純的數據關聯角度去研究人工智慧。

攜多年磨一劍的「因果推理」理論，Judea Pearl將出席第二屆北京智源大會（官網：//2020.baai.ac.cn）並做Keynote演講，為我們徐徐呈現他眼中多彩而神奇的人工智慧「畫卷」。為了更好地消化他的演講觀點，我們不妨通過本文來預熱了解一下Judea Pearl 關於因果推斷的主要思想。

圖1：長按圖片，內行盛會，首次免費註冊

Judea Pearl 

圖2：Judea Pearl（圖片出自網路）

Judea Pearl 在2018年出版了一本新著《為什麼：關於因果關係的新科學》系統總結了自己近25年關於「因果推斷」探索的思想結晶、研究成果。下面我們對該書中文版[1]的部分文字和圖片進行引用和整理，以幫助大家快速了解他的基本思想。

1. 因果關係的三個層級

Judea Pearl  的這部著作，核心圍繞「因果關係之梯」的三個層級來描述，他說：「我在機器學習方面的研究經歷告訴我，因果關係的學習者必須熟練掌握至少三種不同層級的認知能力：觀察能力（Seeing）、行動能力（Doing）和想像能力（Imagining）。」

圖3：因果關係的三個層級——關聯、干預、反事實

第一層級（關聯）：觀察能力，指發現環境中規律的能力。

第二層級（干預）：行動能力，指預測對環境刻意改變後的結果，並根據預測結果選擇行為方案。

第三層級（反事實）：想像能力，指想像並不存在的世界，並推測觀察到的現象原因為何。

第一層級「關聯」和第二層級「干預」主要針對當前的弱人工智慧，包括對現有貝葉斯網路在深度學習領域的拓展、前門標準實踐、do演算等核心演算法；而第三層級「反事實」，Judea Pearl 認為反事實能力基於基於人的想像力和假設，是人類獨有的思考能力，也是令人工智慧達到人類智慧的關鍵命門。

2. 反事實的演算法化：

將意識和智慧體轉化為計算現實

現在基於統計的機器學習方法，其理論缺陷便在於此：由於缺乏反事實這一層級的資訊，使得無論總結經驗還是預測未來，都缺乏理據。比如一個基於統計的事實「感冒了，吃了感冒藥，感冒好了」，實際上這並不能證明感冒藥的效果，如果要證明其中的因果性，需要研究相應的反事實：「如果當初沒有吃感冒藥，現在感冒好不好？」

Judea Pearl 說：「 如果在我睡覺的時候，我的家庭機器人打開了吸塵器，我會告訴它：『你不該吵醒我。』我們對真正的智慧機器人的期望是，它們應該明白你我都能完全理解的事：吸塵器會製造噪音，噪音會吵醒睡覺的人，而這會讓被吵醒的人不高興。」

圖4：一個聰明的機器人會考慮它行為的因果影響

所以強人工智慧應該是能反思其行為，並能從過去的錯誤中吸取教訓的機器。它應該能夠理解「我本應該採取不同的行為」這句話。這個說法的反事實解釋是：「我做了 X = x，得到的結果是 Y = y。然而，假如我之前採取了不同的行動，比如說 X = x'，那麼結果本應該會更好，也許是 Y = y'。

3. 新冠肺炎的反事實研究

針對當前的新冠疫情，Judea Pearl 於2020年4月2日在其部落格上發布了一項相關研究[2]，目標是「如何將有限的醫療資源提供給最需要的病人」。通過這個研究案例，我們也可以一窺「反事實」的推理過程：

一男一女兩名患者來到你的急診室，他們的COVID-19檢測都呈陽性。哪個病人最需要治療?我們要看一下相關的數據。

圖5：COVID-19  （圖片出自網路）

一組分別針對男性和女性的隨機對照試驗結果表明，男性在接受治療的情況下，有57%的幾率康復，而在不接受治療的情況下，只有37%的幾率康復。另一方面，女性在接受治療的情況下，康復率為55%，在不接受治療的情況下，康復率為45%。我們可能會得出這樣的結論：男性的治療效果比女性更佳。但事實並沒有這麼簡單。

事實證明，數據可以用多種方式進行解釋。我們看男性治療的數據，有兩種極端的解釋，第一種是：治療組和未治療組之間20%的差異挽救了20%本來會死亡的患者的生命；第二種極端的解釋是，治療挽救了所有57%的患者的生命，而實際上殺死了37%的其他病人。

再看女性的數據，在第一種極端的解釋中，55%的康復率中有10%是通過治療挽救的，45%無論如何都會恢復。在第二種極端的解釋中，55%的患者被治療所挽救，而45%被治療所殺死。

綜上所述，受益人的百分比，對於男性來說，可能在20%到57%之間，而對於女性來說，可能在10%到55%之間。

現在設置Y為因變數，y表示康復，y'表示死亡。X表示自變數，x表示治療，x'表示不治療。用y(x)表示接受治療後康復的事件，y(x')表示沒有接受治療並康復的事件。用y'(x)表示治療後死亡的事件，y'(x')表示沒有接受治療後死亡的事件。用P(y(x))表示在實驗組接受治療並康復的概率，用P(y'(x'))表示沒有接受治療並死亡的概率。我們用PNS表示男性與女性因治療而受益的概率。

如下圖所示，以男性為例，當P(y(x))=0.57,P(y(x'))=0.37時，0.2<=PNS<=0.57。這裡也符合之前的猜想。令P(x)=0.4，P(y|x)=0，P(y|x')=0，同樣，令P(y(x))=0.57,P(y(x'))=0.37，這時得出的結果是0.57<=PNS<=0.57，意思是57%的男性可以從治療當中受益。

圖6：結合實驗數據，計算得出57%的男性能夠從治療中受益

再看女性的例子，我們令P(x)=0.45，P(y|x)=1，P(y|x')=0，再令P(y(x))=0.55，P(y(x')=0.45。得到的結果是PNS=0.1。

現在我們知道，57%的男性和10%的女性能夠從治療當中獲益。

但是我們不能只考慮因治療受益的因素，還要考慮沒有因治療而受益（或者說因治療而受害）的因素。將之前同樣的數值代入，得到的結果是37%的男性因治療而受害，而0%的女性因治療而受害。

在實驗組（接受治療）中，我們治癒一個人，對社會的益處只能算作一個單位；在對照組（不接受治療）中，我們沒有讓某人接受治療，對社會造成的危害是2個單位，因為我們失去了能夠治癒某人的機會。綜上所述，男性：1*0.57-2*0.37=-0.17；女性：1*0.1-2*0=0.1。所以，如果你是一名決策者，你應該優先治療女性。

4. 因果革命的數理框架

當然，反事實演算法僅是Judea Pearl 多年來因果理論研究的一部分，關於他整個因果推理體系的數理框架，體現在他設計的結構化因果模型（Structural  Casual Models，SCM）之中，這是Pearl  為了突破現有機器學習對於因果推斷的理論限制、推動一場全新的「因果革命」而打造的核心引擎。

Judea Pearl  在2020年5月31日更新於部落格的一篇近期訪談中，認為SCM靈活地整合了當今統計模型的主要優點和方法，特別是結合了圖模型和潛在的輸出邏輯，其中圖用來編碼「我們所知道的」，邏輯用來編碼「我們想要知道的」，然後用數學工具將這兩類數據進行結合。

這裡我們選取SCM的主要邏輯部分作一個簡介，關於它進一步的詳細內容，推薦大家閱讀 Judea Pearl  2019年發表於ACM會議的報告《The Seven Tools of Causal Inference, with Reflections on Machine Learning》[3]。

SCM主要包括：圖模型、反事實和介入式邏輯、 結構化方程三部分。圖模型作為表徵知識的語言，反事實邏輯幫助表達問題，結構化方程以清晰的語義將前兩者關聯起來。

如圖8所示，SCM引擎接受三種輸入：假設（Assumptions）、查詢（Queries）和數據（Data），並生成三種輸出：被估量（Estimand）、估計值（Estimate）和擬合指數（fit indices）。被估量（E_S）是一個數學公式，該公式基於假設，提供從任意假設數據中回答查詢的方法（可獲取假設數據的情況下）。在接收到數據後，該引擎使用被估量來生成問題的實際估計值 E_s hat，以及問題置信度的統計估計值（以反映數據集的有限規模，以及可能的衡量誤差或缺失數據）。最後，該引擎生成一個「擬合指數」列表，可衡量數據與模型傳遞的假設的兼容性。

圖7：Judea Peal的結構化因果模型（Structural  Casual Model，SCM）

此外，這裡還推薦大家閱讀馬克斯·普朗克智慧系統中心主任 Bernhard Schölkopf  在2019年12月發表的一篇論文《CAUSALITY FOR MACHINE LEARNING》[4]，它詳細討論了Pearl 的因果推理理論和機器學習的聯繫，不僅得到了Judea Pearl 本人在Twitter 上的高度認可，甚至還得到了另一點陣圖靈獎獲得者Yann LeCun的「點贊」。

在NIPS 2017 某個研討會 Q& A 上，Judea Pearl 曾經這麼解釋他心中的因果革命：「30年前，我們還無法為『Mud does not cause Rain』編寫一個公式；現在，我們可以公式化和評估每一個因果或反事實陳述」。

 5.人工智慧領域最好的學者

圖8：人工智慧的科幻圖（圖片來自網路）

Judea Pearl 篤信「絕對能開發出具有自由意志的機器人」，其路徑便是「因果推理代替關聯推理」，他並不擔心可能存在的「機器人作惡」問題：「我們能夠製造出有能力辨別善惡的機器，它至少應該和人類一樣可靠，而且有望比人類更可靠。我們對道德機器的首要要求是它能夠反省自己的行為，其涉及反事實分析。一旦我們編寫完使機器實現自我覺察的程式，我們就能賦予機器以同理心和公平感，因為這些程式建基於相同的計算原則。」

2017年間，Facebook、Twitter等社交網站曾鬧了個「烏龍」：大家熱傳一張Judea Pearl在NIPS 2017 上對著「空無一人的房間演講」的照片，感慨真是「機器學習悲慘的一天」，事後發現這是因攝影師拍攝角度而導致的誤會。但這個烏龍能快速傳播，本身也說明Judea Pearl 這麼多年來在學術領域一直處在以孤軍作戰的狀態。Judea Pearl 本人喜歡說這麼一個段子：1960年代，他從紐約某不知名大學博士畢業後，去各校求職屢屢碰壁，總被告知「從來沒聽說過這個學校」，以至於最終UCLA對他的接納，成為他人生中「除了娶我太太以外最重要的事情」。

這個段子給筆者的印象是，Judea Pearl似乎天然有一種唐吉柯德般的戰士情節：總是在踐行一條少數人走的未知道路。同時，當我們細細探尋他多年來放棄輕易可獲的鮮花和掌聲、孤身探尋強人工智慧和因果革命之心路軌跡，會發現背後支撐他的心靈能量——篤信人類智慧可以編寫出「人工智慧為善」的源程式碼。因此，筆者以機器學習領域奠基人、加州大學伯克利電腦系教授 Michael I Jordan 曾經對他的評價作為本文的結尾：

Judea Pearl 教授是AI 領域最好的學者，沒有之一。

參考文獻

[1]朱迪亞·珀爾（Judea Pearl），達納·麥肯齊（Dana Mackenzie）. 為什麼：關於因果關係的新科學[M]. 北京：中信出版集團股份有限公司，2019年7月

[2]Judeal Pearl. Which Patients are in Greater Need: A counterfactual analysis with reflections on COVID-19，//causality.cs.ucla.edu/blog/

[3]Judeal Pearl. The Seven Tools of Causal Inference, with Reflections on Machine Learning，//cacm.acm.org/magazines/2019/3/234929-the-seven-tools-of-causal-inference-with-reflections-on-machine-learning/fulltext

[4]Bernhard Schölkopf. 2019.CAUSALITY FOR MACHINE LEARNING. arXiv:1911.10500