楊強親筆簽名!2020年最新出版《遷移學習》免費贈送!錯過太可惜!

由於知識獲取與表示的困難,以及當時計算機計算能力的限制,符號主義的主張沒有得到應有的發展和大規模的應用,以知識為基礎的學習方法也同樣受到重創。21 世紀初,機器學習中的一個分支——概率統計學習(特別是深度學習)異軍突起,獲得巨大成功。它不僅建立了較好的理論基礎和有效的演算法,還成功地得到商業應用,成為推動產業和社會發展的重要力量,使 AI 進入了以數據驅動為主導的第二代 AI 發展時代。為了邁向真正的 AI,我們需要第三代 AI,而遷移學習正在向這一道路邁進。

作者介紹:
楊強 微眾銀行首席人工智慧官,香港科技大學計算機科學與工程系講席教授,第四範式有限公司聯合創始人。
張宇 南方科技大學計算機科學與工程系副教授。
戴文淵 第四範式有限公司創始人兼首席執行官。
潘嘉林 新加坡南洋理工大學計算機科學與工程學院教務長講座副教授。

楊強教授領銜撰寫,研究團隊十餘年艱苦研究工作的積累。

   

遷移學習「開山之作」,解決人工智慧的「最後一公里」問題。

   

張鈸院士作序,鄧力、高文、李開復、周志華(按姓氏拼音排序)聯袂推薦。


(楊強老師和AI研習社合照)

註:文末有贈書!

人工智慧、機器學習以及遷移學習

人工智慧(Artificial Intelligence,AI)是艾倫·圖靈受其提出的「機器會思考嗎?」這一著名圖靈測試問題啟發而得到的願景。該圖靈測試問題激勵了幾代研究人員探索機器智能運行的方法。然而縱觀最近二三十年的發展,人工智慧研究經歷了多次起伏,其中大部分都圍繞著機器如何從外部世界獲取知識這一核心問題而演變。


從人工建立基於規則的知識庫到從數據中進行機器學習,使機器像人類一樣思考的嘗試已經走了很長的路。目前,機器學習(machine learning)已經從一個模糊的學科發展成為一種推動工業和社會發展的重要力量,可以實現從電子商務和廣告投放到教育和醫療等領域的自動化決策。由於機器學習具有使機器通過在標註和未標註的數據中進行學習和適應來獲得知識的強大能力,因此它正在成為一種世界通用的技術。機器學習根據數據生成預測模型,因此往往需要高質量的數據作為「老師」來幫助調控統計模型。這種對未來事件進行準確預測的能力是基於對任務領域的觀察和理解。訓練樣本中的數據通常是被標註的,也就是說訓練樣本中的觀察和預測結果是相互耦合和相關的。之後,這些樣本就能夠被機器學習演算法當成「老師」來「訓練」可應用到新數據的模型。現實生活中有許多應用機器學習的成功例子。基於計算機的圖像分析領域中的人臉識別是一個很好的例子。假設我們已經獲得了大量的醫療影像照片。那麼,機器學習系統可以使用這些照片訓練模型,從而判斷新照片中是否有某種疾病的可能性。機器學習模型還可以應用於公司的安保系統中,以判斷訪客是否是公司的員工。


儘管機器學習模型可以具有高質量,但它也有可能出錯,尤其是當模型應用於有別於訓練環境的場景中時。例如,如果從具有不同光照強度和不同程度的雜訊(如陰影、不同角度的光照、路人的遮擋等)的室外環境拍攝照片,那麼系統的識別能力將會顯著下降。這是由於由機器學習系統訓練的模型被應用於「不同」的場景。性能下降表明模型可能已過時,當出現新情況時需要及時更新。正是這種將模型從一種場景更新或者遷移到另一場景的需求體現了本書主題的重要性。


對遷移學習(transfer learning)的需求不僅僅局限於圖像理解,通過自然語言處理(Natural Language Processing,NLP)技術理解 Twitter 文本消息是另一個例子。假設我們希望將 Twitter 消息根據用戶的不同情緒(如高興、傷心等)進行分類。那麼,當使用來自青少年群體的一組 Twitter 消息構建一個模型然後將其用於成年人的新數據時,模型的性能就會急劇下降,因為不同群體很可能會以不同的方式表達他們的觀點。


如上面的例子所述,在許多應用中使用機器學習的一個重要挑戰是,現有的模型不能很好地適應到新的領域中。究其原因,訓練數據量小、場景變化、任務變化等都可能導致這一問題。例如,在醫學診斷和醫學圖像領域,短期內往往無法獲得新病症的大量高質量訓練數據用於模型的重訓練。沒有充足的訓練數據的支撐,機器學習模型的性能往往不盡如人意。獲得和標註新應用場景下的數據通常要花費很多精力和資源,這已然是現實生活中實現人工智慧的一個主要障礙。打個比方,擁有一個精心設計卻沒有訓練數據的 AI 系統就像一輛沒有油或電的跑車。


上述討論顯示了將機器學習應用於實際場景的一個主要障礙:在應用機器學習演算法前,我們無法獲得各個領域的大量訓練數據。除此之外,還有其他幾個重要原因:

1)許多應用場景數據量小。當前機器學習的成功應用依賴於大量有標籤數據的可用性。然而,高質量有標籤數據總是供不應求。傳統的機器學習演算法常常因為數據量小而產生過擬合問題,因而無法很好地泛化到新的場景中。

2)機器學習模型需要強魯棒性。傳統的機器學習演算法假設訓練和測試數據來自相同的數據分布。然而,這種假設對於許多實際應用場景來說太強。在許多情況下,數據分布不僅會隨著時間和空間而變化,也會隨著不同的情況而變化,因此我們可能無法使用相同的數據分布來對待新的訓練數據。在不同於訓練數據的新場景下,已經訓練完成的模型需要在使用前進行調整。

3)個性化和定製問題。根據個人喜好和需求為每個用戶提供個性化的服務是至關重要且具有經濟效應的。在許多實際應用中,我們只能從單個用戶收集到非常少的個人數據。因此,當我們嘗試將通用的模型應用到特定的場景時,傳統的機器學習演算法會遇到冷啟動問題。

4)用戶隱私和數據安全。在實際應用中,我們常常需要和其他組織合作,從而需要利用多個數據集。這些數據集通常屬於不同的所有者,並且出於隱私或者安全考慮不能彼此泄露。當利用多個數據集構建同一模型時,我們希望提取每個數據集的「本質」並在構建模型中擬合它們。例如,如果能夠在網路設備的「邊緣」調整通用模型,那麼就不需要上傳存儲在設備上的數據來增強該通用模型,因此邊緣設備的隱私將得以保證。


智能系統的上述目標促進了遷移學習的發展。簡而言之,遷移學習是一種機器學習範式,其演算法能夠從一個或多個應用場景中提取知識以幫助提高目標場景中的學習性能。與需要大量精心準備的訓練數據作為輸入的傳統機器學習技術相比,遷移學習可以被理解為一種新的學習範式,我們將在本書對其進行詳細介紹。除此之外,遷移學習也是解決許多大規模線上應用中數據稀疏性和冷啟動問題的一種方式,例如,線上推薦場景中可能因為有標籤用戶評分數據太少而無法構建高質量的推薦系統。


遷移學習能夠在應用開發初期以及技術上發展較少的地理場景中幫助提升 AI 的性能,即使在這些場景中沒有太多的有標籤數據。例如,假設我們希望在一個新的線上購物應用中構建書籍推薦系統,並且假設在這個全新的書籍購物領域沒有太多的交易記錄。那麼,如果遵循監督學習(supervised learning)方法在這個全新的書籍領域中用不充分的訓練數據構建預測模型,我們就無法對用戶的下一次購買行為建立可信的預測。然而,通過遷移學習,可以找到相關的、開發完善的但是不同的領域尋求幫助,比如現有的電影推薦領域。利用遷移學習,可以找到書籍和電影兩個領域之間的相似性和差異性。例如,一些作者會將他們的書拍成電影,因此這樣的電影和書籍會吸引類似的用戶群體。值得一提的是,領域之間的相似性允許模型聚焦於書籍推薦領域的獨特之處進行優化,從而有效地利用數據集之間的潛在相似性。那麼,書籍領域的分類和用戶偏好模型就能夠從電影領域進行優化。


基於遷移學習的方法,一旦我們在一個領域中獲得了訓練好的模型,就可以將這個模型引入其他類似的領域。因此,為了設計一個合理的遷移學習方法,找到不同領域任務間準確的「距離」度量方式是必需的。如果兩個領域間的「距離」過大,那麼我們可能不希望應用遷移學習技術,因為這樣的學習可能產生一些負面影響。另一方面,如果兩個領域非常「靠近」,則可以有效地應用遷移學習。


在機器學習中,領域之間的距離通常根據描述數據的特徵來度量。在圖像分析中,特徵可以是圖像中的像素或者區域,例如顏色和形狀。在自然語言處理中,特徵可以是單詞或者短語。一旦了解兩個領域非常接近,我們就能確保 AI 模型可以從一個已開發好的領域遷移到一個欠開發的領域,從而使 AI 應用更少地依賴數據。這對於成功的遷移學習應用來說是一個好的預兆。


能夠將知識從一個領域遷移到另一個領域說明機器學習系統能夠將其適用範圍擴展到其源域外。這種泛化能力使得在 AI 能力或者計算能力、數據和硬體等資源相對匱乏的領域內,更加容易實現 AI 且 AI 更加魯棒。在某種程度上,遷移學習可以促進 AI 成為一種更為包容的、為每個人服務的技術。


為了給出一個直觀的例子,我們可以使用類比的方式突出遷移學習背後的關鍵要素。考慮在世界不同國家開車的情況。在美國和中國,駕駛員位置在汽車的左側並且汽車靠右行駛。在英國,駕駛位置在汽車右側並且汽車靠左行駛。對於習慣在美國開車的人來說,在英國開車時,其駕駛習慣的轉換尤為困難。然而,遷移學習能夠幫助我們找到兩個駕駛領域中的不變性並將其作為一種共同特徵。仔細觀察可以發現,無論駕駛員坐在哪邊,其離道路中心始終是最近的。換言之,駕駛員坐在離路邊最遠的位置。這一事實能夠使駕駛員將駕駛習慣順利地從一個國家「遷移」到另一個國家。因此,遷移學習背後的關鍵要素是尋找不同領域和任務之間的「不變性」。在人工智慧領域,遷移學習已在知識重用、基於案例的推理、類比學習、領域自適應、預訓練和微調等不同術語下得到了廣泛研究。在教育和學習心理學領域,學習遷移與機器學習中的遷移學習有類似的概念。具體地說,學習遷移是指從之前的源任務中獲得的歷史經驗可用於影響目標情境中的未來學習和表現(L.Thorndike 和 S.Woodworth,1901)。教育領域中的學習遷移和機器學習中的遷移學習有一個共同目標,即在一個場景中處理學習的過程,然後將學習應用到另一個場景中。在這兩個領域中,學習到的知識或者模型都在進行了一定程度的適應後應用到後繼的目標任務中。深入研究教育理論和學習心理學的文獻 (Ellis,1965;Pugh 和 Bergin,2006;Schunk,1965;Cree 和 Macaulay,2000) 可以發現,儘管機器學習中的遷移學習旨在賦予機器適應場景的能力,教育領域中的學習遷移試圖研究人在教育中的適應性,但是二者在遷移的過程或者處理方式上卻是相似的。


最後關於遷移學習的好處需要提及的是模擬技術。在諸如機器人和藥物設計等複雜任務中,在真實的環境中進行試驗的成本通常是非常昂貴的。在機器人領域,移動機器人或自動駕駛汽車需要收集大量的訓練數據。例如,汽車碰撞可能有多種方式,但在現實生活中造成汽車碰撞的成本太高。相反,研究人員通常建立複雜的模擬器,以便在模擬環境訓練出來的模型可以通過遷移學習應用到實際環境中。遷移學習的作用是考慮模擬環境中許多未知的未來情況,並使模擬環境中得到的預測模型(諸如汽車自動駕駛中的躲避障礙物模型)適應不可預見的未來情況。


遷移學習的基礎研究問題

正如上面提到的,遷移學習中存在三個研究問題,即「遷移什麼」「如何遷移」和「何時遷移」。由於遷移學習的目標是跨不同領域遷移知識,因此第一個問題就是可以遷移哪些跨域的知識來提高目標域的泛化性能,也就是「遷移什麼」問題。在確定了要遷移的知識後,後續問題便是如何將知識編碼到學習演算法中進行遷移,這對應於「如何遷移」問題。「何時遷移」是詢問在哪些情況下應該進行遷移學習或者可以安全地進行遷移學習。


這三個問題背後的一個基本研究問題是如何衡量任何一對域或者任務之間的「距離」。通過域或者任務之間的距離度量,可以確定任務之間的哪些共有知識可以用於減少域或者任務之間的距離,即「遷移什麼」,並根據識別出來的共有知識確定如何減少域或者任務之間的距離,即「如何遷移」。此外,通過域或任務之間的距離度量,可以在邏輯上決定「何時遷移」:如果距離太大,則建議不進行遷移學習。否則,遷移才是「安全的」。


因此,隨後的問題是如何進行距離度量。傳統上,對於任何兩個概率分布之間的距離存在各種類型的統計度量方法。其中,典型的度量方法包括但不限於 KL 散度、A 距離和最大均值差異(Maximum Mean Discrepancy,MMD)。回顧一下,域包含特徵空間和邊緣概率分布兩個組成部分,任務也包含標籤空間和條件概率分布兩個組成部分。因此,通過假設源域(源任務)和目標域(目標任務)共享一個特徵(標籤)空間,可以將現有的概率分布間距離的統計度量方法用於度量域或者任務之間的距離。但是,使用統計距離度量方法進行遷移學習存在一些限制。首先,研究人員發現這些基於通用分布的距離度量通常過於粗糙,並且在兩個域或者任務之間的可遷移性距離度量方面不能很好地發揮作用。其次,如果域具有不同的特徵空間和 / 或標籤空間,則必須首先將數據映射到相同的特徵空間和 / 或標籤空間,然後將統計距離度量方法應用到後續步驟中。因此,需要對兩個域或者任務之間距離的泛化度量進行更多的研究。


遷移學習應用


1.圖像理解

從目標識別到行為識別的很多圖像理解任務已經運用了遷移學習。通常,這些計算機視覺任務需要大量有標籤數據來訓練模型,例如使用眾所周知的 ImageNet 數據集。然而,當計算機視覺的情景稍有變化(例如從室內到室外、從靜止攝像機變為移動攝像機)時,需要調整模型以適應新情況。遷移學習是解決這些適應問題的常用技術。


在圖像分析領域,許多最近的方法將深度學習架構和遷移學習相結合。例如,Long 等人(2015)利用深度學習框架將源域和目標域之間的距離最小化。在 Facebook 上發表的一篇文章中,Mahajan 等人(2018)將遷移學習應用到圖像分類中。該方法首先在非常大的圖像數據集上訓練深度學習模型,然後在目標域的特定任務中利用相對少量的有標籤數據對預先訓練的模型進行調整。該模型是一個為基於數十億社交媒體圖片主題標籤的分類任務而訓練的深度卷積網路,目標任務是目標識別或圖像分類。他們的分析表明,增加預訓練數據集的大小以及在源任務和目標任務之間選擇密切相關的標籤空間都很重要。這一觀察結果說明,遷移學習需要設計「標籤空間工程」方法以匹配源和目標的學習任務。他們的工作還表明,可以通過提高源模型的複雜度和增加數據集大小獲得對目標任務的改進。


遷移學習還使得圖像分析在具有巨大社會影響的應用中發揮重要作用。在 Xie 等人(2016)的研究中,斯坦福大學地球科學的學者基於衛星圖像, 利用遷移學習來預測全球貧困水平。首先,他們使用白天的圖像預測夜間光照圖像,然後將所得模型遷移到預測貧困的問題上。與傳統的基於調查的方法相比,該方法得到了非常準確的預測結果並且只需要很少的人工標註工作。


2.生物信息學和生物成像

在生物學中,許多實驗成本高昂且數據很少。例如,醫生嘗試使用計算機發現潛在疾病時的生物成像,以及使用軟體模型掃描複雜的 DNA 和蛋白質序列以尋找特定疾病以及治癒的模式。遷移學習越來越多地被用於幫助將知識從一個領域遷移到另一個領域來解決生物學中有標籤數據獲取成本高昂的難題。例如,Xu 和 Yang(2011)對在生物信息學應用中利用遷移學習和多任務學習進行了早期調研。Xu 等人(2011)提出了一種遷移學習過程以識別在有標籤數據極少的目標域中的蛋白質細胞結構。在生物醫學圖像分析中,一個難題是收集足夠的訓練數據來訓練模型以識別諸如癌症等指定疾病的圖像模式。這種識別需要大量的訓練數據。然而,這些數據通常因為需要專家進行標註而十分昂貴。此外,預訓練模型和未來模型的數據通常來自不同的分布。這些問題激發了許多應用遷移學習來使預訓練模型適應新任務的研究工作。例如,在 Shin 等人(2016)的研究中,基於 ImageNet 數據的預訓練模型被用作源域模型,然後被遷移到醫學成像領域中用於胸腹淋巴結檢測和間質性肺病分類,該研究取得了巨大的成功。


3.推薦系統和協同過濾

通常情況下,由於冷啟動問題,在線產品推薦系統難以建立。如果我們能發現域之間的相似性並將推薦模型從一個成熟域適應到新域,那麼就可以緩和冷啟動問題。這通常可以節省成功完成一個原本不可能的任務所耗費的時間和資源。例如,Li 等人(2009b)和 Pan 等人(2010b)開創性地將遷移學習應用到了在線推薦領域。在他們的應用中,跨域推薦系統將用戶偏好模型從現有域(如圖書推薦領域)遷移到一個新域(如電影推薦領域)中。該場景對應於在線商務站點開放新業務線時希望在新業務線中快速部署推薦模型的商業案例。在這樣做時,必須克服新業務線中缺少交易數據的問題。另一項工作是整合強化學習(reinforcement learning)和推薦系統,從而使依據用戶歷史記錄和潛在的興趣多樣性推薦的項目是準確的。例如,Liu 等人(2018)提出了一種在推薦準確度和主體多樣性中達到平衡的 bandit 演算法,以允許系統挖掘新主題以及迎合用戶最近的選擇。關於遷移學習,該工作表明平衡探索和利用的推薦策略確實可以在域之間進行遷移。


4.機器人和汽車自動駕駛

在設計機器人和汽車自動駕駛時,從模擬場景中學習是一種特別有用的方法。在硬體交互部分,收集用於訓練強化學習和監督學習模型的有標籤數據是十分昂貴的。正如 Taylor 和 Stone(2007) 所描述的,遷移學習能夠幫助研究人員在一個或多或少理想的域(源域)中構建模型,然後在目標域中學習處理預期事件的策略。目標域模型可以處理更多現實世界中的情況,以進一步處理更多未預料到的雜訊數據。當模型很好地適應後,可以在重新訓練目標域模型的過程中節省大量勞動力和資源。Tai 等人(2017)設計了基於 10 維稀疏範圍發現的無地圖支持運動規劃器,並通過端到端的深度強化學習演算法對其進行了訓練,然後通過真實樣本將學習好的規劃器泛化遷移到了現實場景中。


5.自然語言處理和文本挖掘

文本挖掘是遷移學習演算法的一個很好的應用場景。文本挖掘旨在從文本中發現有用的結構性知識並將其應用於其他領域中。在文本挖掘的所有問題中,文本分類旨在用不同的類標籤標記新的文本文檔。一個典型的文本分類問題是情感分類。在線論壇、博客、社交網路等在線網站上有大量用戶生成的內容,能夠總結消費者對產品和服務的看法非常重要。情感分類能夠通過將評論分為正面和負面兩個類別來解決這個問題。但是,在不同的域中,例如不同類型的產品、不同類型的在線網站、不同的行業,用戶可能使用不同的詞語表達他們具有相同情感的觀點。因此,在一個域上訓練的情感分類器可能在其他域上表現不佳。在這種情況下,遷移學習可以幫助調整已訓練完成的情感分類器以適應不同的領域。


近期,對預訓練的研究獲得了遷移學習本質的新見解。Devlin 等人(2018)發現了遷移學習應用成功的一個條件:擁有足夠數量的源域訓練數據。例如,谷歌的自然語言處理系統 BERT(Bidirectional Encoder Representations from Transformers,Transformer 的雙向編碼器表示)(Devlin 等人,2018)將遷移學習應用於許多 NLP 任務中,證明使用強大的預訓練模型可以解決許多傳統自然語言處理領域的棘手問題(如問答系統)。在公開的 SQuAD 2.0 競賽中,BERT 在許多任務中取得了令人驚訝的領先結果(Rajpurkar 等人,2016)。其源域由非常龐大的自然語言文本語料庫組成,BERT 使用該語料庫訓練基於注意力機制的雙向 Transformer 模型。預訓練模型能夠使語言模型中的各種預測比以前更準確,並且其預測能力隨著源域中訓練數據量的增加而增加。然後,通過在諸如下一句子分類、問答和命名實體識別(Named Entity Recognition,NER)中向源模型添加額外的較小的層,便可以將 BERT 模型應用於目標域中的特定任務。這種遷移學習方法屬於基於模型的遷移,其中大多數超參數保持相同,但是會選擇幾個超參數通過目標域中的新數據進行調整。

福利時間


這一次,AI職通車為大家送出一本楊強老師親筆簽名版《遷移學習》,AI研習社定製T恤5件。同時我們還聯合機械工業出版社,為大家帶來3本《遷移學習》以及購書福利。


老師簽名中


(圖書章節)

只要掃碼加入AI職通車問卷調查群,參與問卷調查。我們將在所有問卷中,挑選出一位完成最認真的用戶,送上楊強老師親筆簽名版《遷移學習》掃描下方二維碼入群哦!

掃我入群,嬴簽名書


活動時間:


即日起——2020年8月16日18:00

Tips:

另外,8月14號當天,機械工業出版社的天貓旗艦店5折購書優惠,每99元減10元。
8月24號開始,在噹噹有滿100,減50優惠哦。有特別想要《遷移學習》的同學不要錯過!

記住,是機械工業出版社的天貓旗艦店

媽媽說:

好東西不要偷偷藏著,

分享才有更多快樂。

周杰倫說:

聽媽媽的話。

一個「在看」,

收穫加倍的快樂↓↓↓