北大開源協會培訓之「貝葉斯網+HMM」(附79頁PPT)
什麼?貝葉斯網和HMM有關係?是的,看似不相干的兩類模型(大部分機器學習的書上要麼不同時講這倆模型,要麼分開講,而且跨越章節還很多),其實不僅僅是有關係,而且關係密切。今天一起來回顧下北大開源協會這兩年培訓都會涉及到的--「貝葉斯網+HMM」。
1.概率圖簡介
概率圖模型是用圖來描述多個隨機變數條件獨立關係的一種概率模型。節點對應一個觀測變數或隱變數,連接表示兩個隨機變數間的依賴關係。
概率圖模型主要內容包括:學習、表示、推理。
學習:參數學習(變分法、蒙特卡羅法等)、結構學習(e.g. 貝葉斯優化)
表示:貝葉斯網路(e.g. 樸素貝葉斯)、馬爾可夫網路(e.g. HMM)
推理:近似推理(變分法、蒙特卡洛法等)、精準推理(信念傳播法、消除變數法等)
2. 貝葉斯網: