其實當初寫馬爾可夫鏈,只是想介紹下矩陣乘法的一些應用背景,想不到由一道老鼠版Maze Runner問題出發引出的三個思考催生了後續兩篇博客,以至於差不多把馬爾可夫鏈問題講了個大概了. 相信完整讀完前三篇博客的讀者,現在已經躍躍欲試,嘗試在身邊尋找可以應用馬可爾夫鏈的實際場景,準備一展身手改變世界了吧. 橘子老君本文將分享一些蒐集來的馬爾可夫鏈應用場景供讀者參考,希望能帶來一些啟發. 另外,相關在線課程也正在緊張製作當中,敬請期待!
回顧
目前,我們總計接觸了兩個馬爾可夫鏈的問題背景,一個是老鼠版Maze Runner問題,一個是Page Rank演算法. 下面我們一起回憶下馬爾可夫鏈模型的相關概念.
我們用 表示 個研究對象可能處於的狀態,
把研究對象經過 次轉移後處於狀態 的概率所組成的 維向量 稱為狀態向量. 稱為初始狀態向量.
如果研究對象每一次的狀態轉移,只與轉移前所處的狀態有關,與之前的轉移無關,即我們用 表示從狀態 轉移到狀態 的概率. 各個狀態之間轉移的概率所組成的方陣