統計推斷：極大似然估計、貝葉斯估計與方差偏差分解
- 2022 年 2 月 13 日
- 筆記
1 參數估計、頻率學派和貝葉斯學派 1.1 極大似然估計 設\(\bm{X}=(X_1,\dots X_n)\)(這裡\ …
Continue Reading全概率公式、貝葉斯公式
- 2022 年 2 月 2 日
- 筆記
全概率公式 全概率公式為概率論中的重要公式，它將對一複雜事件A的概率求解問題轉化為了在不同情況下發生的簡單事件的概率的求 …
Continue ReadingPython中的隨機取樣和概率分布(二)
- 2021 年 12 月 6 日
- 筆記
在上一篇博文《Python中的隨機取樣和概率分布(一)》(鏈接：//www.cnblogs.com/orion-orio …
Continue Reading【概率論】隨機變數
- 2021 年 11 月 9 日
- 筆記
隨機變數 定義 一般地，隨機變數是從 \(\Omega\)（樣本空間）到實數域上的函數。 累積分布函數 \(F(x) …
Continue Reading
實例複習機器學習數學 – 2. 幾種典型離散隨機變數分布
- 2021 年 7 月 14 日
- 筆記
隨機變數的引入 上一節我們討論的都是隨機事件，某一個隨機事件可能包含若干個隨機試驗樣本空間中的隨機結果，如果對於每一個可 …
Continue Reading
機器學習數學複習 – 1.概率論基礎
- 2021 年 6 月 29 日
- 筆記
概率相關 從骰子實驗引出的各種概率概念 1.投骰子，出現點數為 6 的概率 $\frac{1}{6}$. 投骰子，已知出 …
Continue ReadingAI數學基礎之:概率和上帝視角
- 2021 年 3 月 5 日
- 筆記
目錄 簡介 蒙題霍爾問題 上帝視角解決概率問題 上帝視角的好處 簡介 天要下雨，娘要嫁人。雖然我們不能控制未來的走向，但 …
Continue Reading兩個多維高斯分布之間的KL散度推導
- 2020 年 10 月 12 日
- 筆記
在深度學習中，我們通常對模型進行抽樣並計算與真實樣本之間的損失，來估計模型分布與真實分布之間的差異。並且損失可以定義 …
Continue Reading樣本協方差矩陣的定義與計算
- 2020 年 8 月 13 日
- 筆記
協方差矩陣是用來衡量一組隨機變數之間的線性關係的矩陣。我們都知道，對於$n$個隨機變數$X_1,X_2,… …
Continue Reading
隱馬爾可夫模型詳解
- 2020 年 8 月 10 日
- 筆記
隱馬爾可夫模型（Hidden Markov Model, HMM）是可用於標註問題的模型，描述由隱藏的馬爾可夫鏈隨機 …
Continue Reading