北大开源协会培训之「贝叶斯网+HMM」(附79页PPT)
什么?贝叶斯网和HMM有关系?是的,看似不相干的两类模型(大部分机器学习的书上要么不同时讲这俩模型,要么分开讲,而且跨越章节还很多),其实不仅仅是有关系,而且关系密切。今天一起来回顾下北大开源协会这两年培训都会涉及到的--「贝叶斯网+HMM」。
1.概率图简介
概率图模型是用图来描述多个随机变数条件独立关系的一种概率模型。节点对应一个观测变数或隐变数,连接表示两个随机变数间的依赖关系。
概率图模型主要内容包括:学习、表示、推理。
学习:参数学习(变分法、蒙特卡罗法等)、结构学习(e.g. 贝叶斯优化)
表示:贝叶斯网路(e.g. 朴素贝叶斯)、马尔可夫网路(e.g. HMM)
推理:近似推理(变分法、蒙特卡洛法等)、精准推理(信念传播法、消除变数法等)
2. 贝叶斯网: