EM演算法

理解EM演算法

介紹EM演算法的材料裡,我目前看過且覺得比較好的就是NG老師的CS229講義和李航老師的統計學習方法。 我也提不出什麼新東西,就結合混合高斯分佈,在這兩位牛人的基礎上,談一點自己覺得看待EM演算法很重要的2個必須弄清楚的問題:為什麼要有EM演算法,為什麼叫E步和M步,還解釋了一些介紹EM演算法時免不 […]

最大似然估計、梯度下降、EM演算法、座標上升

機器學習兩個重要的過程:學習得到模型和利用模型進行預測。 下面主要總結對比下這兩個過程中用到的一些方法。 一,求解無約束的目標優化問題 這類問題往往出現在求解模型,即引數學習的階段。 我們已經得到了模型的表示式,不過其中包含了一些未知引數。 我們需要求解引數,使模型在某種性質(目標函式)上最大或最小 […]

EM演算法的python實現的方法步驟

前言:前一篇文章大概說了EM演算法的整個理解以及一些相關的公式神馬的,那些數學公式啥的看完真的是忘完了,那就來用程式碼記憶記憶吧!接下來將會對python版本的EM演算法進行一些分析。 EM的python實現和解析 引入問題(雙硬幣問題) 假設有兩枚硬幣A、B,以相同的概率隨機選擇一個硬幣,進行如下 […]