最大似然估計(極大似然估計)

個人部落格://xiaoxiablogs.top

概率與似然

對於最大似然估計我們使用最簡單的拋硬幣問題來進行講解

概率

當我們拋一枚硬幣的時候,就可以去猜測拋硬幣的各種情況的可能性,這個可能性就稱為概率
一枚質地均勻的硬幣,在不考慮其他情況下是符合二項分布的,即正面和翻面的概率都是0.5,那麼我們拋10次硬幣5次正面在上面的概率為:

\[P(5次正面朝上)=C^5_{10}0.5^5(1-0.5)^5=0.24609375\approx0.25
\]

似然

但是現實生活中,我們並不知道硬幣是否均勻,那麼我們就需要通過多次拋硬幣來推測硬幣是否均勻或者說推測硬幣每一面朝上的概率,這就是似然

最大似然估計

那麼什麼是最大似然估計(又稱極大似然估計)呢?
所謂的最大似然估計其實就是假設硬幣正面朝上的概率,然後計算實驗結果的概率是多少,概率越大,那麼這個假設的概率越可能是真的。
假設我們投了10次硬幣,其中有6次正面朝上,那麼我們根據這個實驗結果對其進行假設
我們可以先假設正面朝上的概率為0.5,那麼達到實驗結果的概率為:

\[P = C^6_{10}0.5^6(1-0.5)^4=0.205078125\approx0.21
\]

我們還可以假設正面朝上的概率為0.6,那麼達到實驗結果的概率為

\[P=C^6_{10}0.6^6(1-0.6)^4=0.25082265600000003\approx0.25
\]

那麼我們就可以說,正面朝上的概率為0.6要比0.5的更有可能。

當然,我們僅僅比較這兩種情況是不夠的,我們需要將所有的情況都進行對比,然後求出最大的可能性。
接下來我們使用作圖的方法來看一下最有可能的取值
在這裡插入圖片描述
根據上圖我們可以看出,可能性最大的應該是正面概率為0.6的時候。
以上通過實驗結果,然後對相應的概率進行假設,從而得到最有可能造成測試結果的概率的過程,就稱為最大似然估計