其实当初写马尔可夫链,只是想介绍下矩阵乘法的一些应用背景,想不到由一道老鼠版Maze Runner问题出发引出的三个思考催生了后续两篇博客,以至于差不多把马尔可夫链问题讲了个大概了. 相信完整读完前三篇博客的读者,现在已经跃跃欲试,尝试在身边寻找可以应用马可尔夫链的实际场景,准备一展身手改变世界了吧. 橘子老君本文将分享一些搜集来的马尔可夫链应用场景供读者参考,希望能带来一些启发. 另外,相关在线课程也正在紧张制作当中,敬请期待!
回顾
目前,我们总计接触了两个马尔可夫链的问题背景,一个是老鼠版Maze Runner问题,一个是Page Rank演算法. 下面我们一起回忆下马尔可夫链模型的相关概念.
我们用 表示 个研究对象可能处于的状态,
把研究对象经过 次转移后处于状态 的概率所组成的 维向量 称为状态向量. 称为初始状态向量.
如果研究对象每一次的状态转移,只与转移前所处的状态有关,与之前的转移无关,即我们用 表示从状态 转移到状态 的概率. 各个状态之间转移的概率所组成的方阵