林軒田《機器學習基石》課程總結

最近發布了一系列台灣大學資訊工程系林軒田(Hsuan-Tien Lin)教授開設的《機器學習基石》的課程總結,分為4個部分,點擊標題可查看:

  1. 機器什麼時候能夠學習?(When Can Machines Learn?)
  2. 機器為什麼能夠學習?(Why Can Machines Learn?)
  3. 機器怎樣學習?(How Can Machines Learn?)
  4. 機器怎樣可以學得更好?(How Can Machines Learn Better?)

1 「3」的魔力

整個課程中,「3」這個數字貫穿始終。比如在介紹機器學習時,介紹了它和3個相關領域(數據挖掘、人工智慧、統計學)的區別與聯繫:

在說明可學習性理論時,講了機器學習的3個理論邊界

課程介紹了3種線性模型(PLA/Pocket、線性回歸、邏輯回歸):

還介紹了3種關鍵工具(特徵變換、正則化、驗證):

以及3個學習原則(奧卡姆剃刀、抽樣偏差、數據窺探):

在未來的《機器學習技法》課程中,還會從3個方面(更多特徵變換、更多正則化、更少標籤)進行擴展,進而引出一系列的模型:

2 課程回顧

以下是每一節課的回顧。