套戥平台Lenard Esau Baum的Baum-Welch(鮑姆-韋爾奇算法模型）
在電氣工程、計算機科學、統計計算和生物信息學中，鮑姆-韋爾奇算法是用於尋找隱馬爾可夫模型未知參數的最大期望算法，它利用前向-後向算法來計算E-Step的統計信息。
最大期望算法（Expectation-maximization algorithm，又譯期望最大化算法）在統計中被用於尋找，依賴於不可觀察的隱性變量的概率模型中，參數的最大似然估計。
在統計計算中，最大期望（EM）算法是在概率模型中尋找參數最大似然估計或者最大後驗估計的算法，其中概率模型依賴於無法觀測的隱變量。最大期望算法經常用在機器學習和計算機視覺的數據聚類（Data Clustering）領域。最大期望算法經過兩個步驟交替進行計算，第一步是計算期望（E），利用對隱藏變量的現有估計值，計算其最大似然估計值；第二步是最大化（M），最大化在E步上求得的最大似然值來計算參數的值。M步上找到的參數估計值被用於下一個E步計算中，這個過程不斷交替進行。
最大期望值算法由亞瑟·P·丹普斯特，南·萊爾德和唐納德·魯賓在他們1977年發表的經典論文中提出。他們指出此方法之前其實已經被很多作者“在他們特定的研究領域中多次提出過”。
EM算法用於在方程不能直接求解的情況下尋找統計模型的(局部)最大似然參數。這些模型中較爲典型的是含有潛變量，未知參數並且已知觀測數據的模型。也就是說，要麼數據中存在缺失的值，要麼模型可以通過假設存在更多未觀測到的數據點來更簡單地表示。以混合模型（Mixture Model）爲例，通過假設每個觀察到的數據點都有一個對應的未觀察到的數據點，也可以說是潛在變量，來指定每個數據點所屬的混合部分，這樣就可以更簡單地描述混合模型。
估計無法觀測的數據
鮑姆-韋爾奇算法是以其發明者倫納德·埃紹·鮑姆和勞埃德·理查德·韋爾奇的名字命名的。鮑姆-韋爾奇算法和隱馬爾可夫模型在20世紀60年代末和70年代初由鮑姆和他的同事在國防分析研究所的一系列文章中首次描述。HMMs最初主要應用於語音處理領域。20世紀80年代，HMMs開始成爲分析生物系統和信息，特別是遺傳信息的有用工具。此後，它們成爲基因組序列概率建模的重要工具。
前向過程：
後向過程：
更新：
假設我們有一隻會下蛋的雞，每天中午我們都會去拾取雞蛋。而雞是否下蛋依賴於一些未知的隱含狀態，這裏我們簡單的假設只有兩種隱含狀態會決定它是否下蛋。我們不知道這些隱含狀態的初始值，不知道他們之間的轉換概率，也不知道在每種狀態下雞會下蛋的概率。我們隨機初始化他們來開始猜測。
假設我們得到的觀測序列是(E=eggs, N=no eggs): N, N, N, N, N, E, E, N, N, N。
這樣我們同時也得到了觀測狀態的轉移：NN, NN, NN, NN, NE, EE, EN, NN, NN。
通過上面的信息來重新估計狀態轉移矩陣。
爲了估計初始狀態的概率，我們分別假設序列的開始狀態是S1和S2，然後求出最大的概率，再歸一化之後更新初始狀態的概率。一直重複上面的步驟，直到收斂。
免責聲明：社區由Moomoo Technologies Inc.提供，僅用於教育目的。
更多信息
評論
登錄發表評論
