让我们从初级水平开始。

什么是MCMC？要回答这个问题，我们首先需要重新审视贝叶斯统计。贝叶斯统计建立在这样一种观点的基础上，即事物发生的概率受先验概率假设和事件发生的可能性的影响，如数据所示。对于贝叶斯统计，概率由分布表示。

如果先验和似然概率分布是正态分布的，我们能够用函数描述后验分布。这称为封闭形式的解决方案。这种类型的贝叶斯如下所示。正如您所看到的，后验分布由先验分布和可能分布两者组成，最终在中间某处。

但是当概率不是那么漂亮时呢？当概率看起来更像这样时会发生什么？

在这种情况下，可能性没有正态分布，因此我们最终得到了右倾的后验分布。由于我们无法用公式表达，我们必须使用马尔可夫链蒙特卡罗。

马尔可夫链蒙特卡罗的三个部分

第一：蒙特卡洛

蒙特卡罗模拟通过生成随机数来模拟复杂系统。

在下面动图中，蒙特卡罗生成一个参数为（0-1,0-1）的随机点，通过识别最终在曲线下面的点数我们能够近似于该区域，形成一个整圆并获得π。

第二：马尔可夫链

马尔可夫链本质上是变量如何围绕图形'走动'，或随机变量随时间从一种状态变为另一种状态的表示。

上图是马尔可夫情绪状态链的表示。在这个链条中，如果你是开朗的，你有20％的几率将情绪状态改变到马马虎虎，20％的几率你会变得悲伤，60％的几率你会保持开朗。

F（Xt + 1 | Xt）= f（Xt + 1 | Xt，Xt-1，Xt-2，...，X1）

用英语：如果我现在知道发生了什么，知道发生什么事情让我们走到这一步或之前的步骤等等，并不能为我提供更多的信息。

举一个类似这样的例子：

棋盘游戏：当玩Monopoly并试图确定玩家进入某个空间的概率时，您需要的唯一信息是当前玩家的位置。之前转牌圈的位置并不会影响下一个位置，除非它确定了本回合的位置。

第三：验收 - 拒绝抽样

MCMC的第三部分是验收拒绝抽样。当我们对新的观察结果进行抽样时，我们会确定它是否在正确的方向，然后决定是保留它还是丢弃它。

两种常见的接受拒绝算法是Metropolis-Hasting算法和No-U-Turn采样器。

对Metropolis-Hasting的更加高级的解释：

假设我们在x点。
我们猜测下一步。我们称之为x *
然后我们计算x * / x概率的比率。这是使用似然和先验分布的乘积计算。
如果p（x *）/ p（x）的比率（也称为接受概率）大于1，则我们接受x *作为新位置。
即使接受概率小于1，我们也不会自动拒绝x *。我们通过从Uniform（0,1）分布中选择一个随机数来翻转硬币。如果数字小于接受概率，我们接受x *如果它更高，我们拒绝x *并重新开始该过程。

本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请点击举报。