機器學習數學基礎：學習線性代數，千萬不要誤入歧途！推薦一個正確學習路線
機器學習數學基礎：學習線性代數，千萬不要誤入歧途！推薦一個正確學習路線
序言
寫完《機器學習深度研究：機器學習中的高等數學/微積分及Python實現》，覺得十分對不起讀者，寫的自己都不滿意。
就像前篇所說，這種極度基礎的知識是最難介紹的，我也在思考如何轉變方式，把問題講清楚。但是頭條是不支援數學公式的，篇幅也受限。所以本篇文章，我想介紹一下自己的學習歷程，看過不錯的教材和影片推薦給大家。這樣大家也能少走彎路，更全面的學到知識。
同時建議：貪多嚼不爛，求精不求多，我有自信，看過我推薦的這本書和影片，線性代數就絕對可以搞定了。
機器學習中的線性代數
線性代數是機器學習領域不可或缺的一部分，從描述演算法操作的符號到程式碼中演算法的實現，都屬於線性代的研究範圍。線性代數在機器學習的幾乎所有地方都有使用，具體用到的知識點有：
- 向量和它的各種運算，包括加法，減法，數乘，轉置，內積
- 向量和矩陣的範數，L1範數和L2範數
- 矩陣和它的各種運算，包括加法，減法，乘法，數乘
- 逆矩陣的定義與性質
- 行列式的定義與計算方法
- 二次型的定義
- 矩陣的正定性
- 矩陣的特徵值與特徵向量
- 矩陣的奇異值分解
- 線性方程組的數值解法，尤其是共軛梯度法
教材推薦
學習線性代數，你可千萬不要掏出同濟大學版的教材出來，這本書非常糟糕，它只適合考試復慣用。
我推薦《Linear Algebra Review and Reference》
本資料為CS229 Andrew Ng-Mechine Learning課程關於線性代數的複習講義。
英文不好的同學也不用擔心，已經有大佬將其翻譯成中文了，目錄如下：
-
- 基礎概念和符號
- 1.1 基本符號
- 2.矩陣乘法
- 2.1 向量-向量乘法
- 2.2 矩陣-向量乘法
- 2.3 矩陣-矩陣乘法
- 3 運算和屬性
- 3.1 單位矩陣和對角矩陣
- 3.2 轉置
- 3.3 對稱矩陣
- 3.4 矩陣的跡
- 3.5 範數
- 3.6 線性相關性和秩
- 3.7 方陣的逆
- 3.8 正交陣
- 3.9 矩陣的值域和零空間
- 3.10 行列式
- 3.11 二次型和半正定矩陣
- 3.12 特徵值和特徵向量
- 3.13 對稱矩陣的特徵值和特徵向量
- 4.矩陣微積分
- 4.1 梯度
- 4.2 黑塞矩陣
- 4.3 二次函數和線性函數的梯度和黑塞矩陣
- 4.4 最小二乘法
- 4.5 行列式的梯度
- 4.6 特徵值優化
如需電子版請私信我：線性代數 wx：htsa360
影片推薦
有些同學更喜歡看影片，這裡我吹爆一門由大名鼎鼎的3blue1brown出品的教程：《線性代數的本質》，3blue1brown的課程，動畫精美，講解生動，非常適合幫助建立數學的形象思維，值得反覆觀看。
看過之後我相信你會發出這樣的感慨：我以前學的線性代數是什麼鬼呀！
舉個例子，叉積這個概念在機器學習中應用不能更廣泛，3B1B對它的解釋：把w投射到v所在的直線上，將w在v上投影的長度乘以v的長度，就是其點積的值
想要觀看的同學可以去B站搜索：av6731067
