首页 . 教育学 . 教育学 . 教育测量与评价 . 题目参数估计

马尔科夫链蒙特卡洛方法

/Markov Chain Monte Carlo;MCMC/
条目作者罗照盛

罗照盛

最后更新 2022-01-20
浏览 235
最后更新 2022-01-20
浏览 235
0 意见反馈 条目引用

在贝叶斯理论框架下通过计算机进行模拟的蒙特卡洛方法(Monte Carlo)。

英文名称
Markov Chain Monte Carlo;MCMC
所属学科
教育学

产生于19世纪50年代早期。MCMC方法将马尔科夫(Markov)过程引入到蒙特卡洛模拟中,实现抽样分布随模拟的进行而改变的动态模拟,弥补了传统的蒙特卡洛积分只能静态模拟的缺陷。MCMC方法是一种简单有效的计算方法,在很多领域得到应用,如贝叶斯(Bayes)问题、计算机问题等。MCMC方法是使用马尔科夫链的蒙特卡洛积分。为某一空间,为产生的总样本数,为链条达到平稳时的样本数,则MCMC方法的基本思路可概括为:①构造马尔科夫链。构造一条马尔科夫链,使其收敛到平稳分布。②产生样本。由中的某一点出发,用①中的马尔科夫链进行抽样模拟,产生点序列:。③蒙特卡洛积分。任意一函数的期望估计为:

采用MCMC方法时,马尔科夫链转移核的构造至关重要。不同的转移核的构造方法,将产生不同的MCMC方法。常用的MCMC方法主要有两种,分别为Metropolis-Hastings算法和Gibbs抽样。

Metropolis算法是马尔科夫链蒙特卡洛的基石。它由美国物理学家N.梅特罗波利斯(Nicholas Metropolis)等人在1953年的一篇论文中提出。Metropolis算法用一个对称的建议分布来产生一个潜在的转移点,然后根据特定的接受拒绝方法来决定是否转移到该潜在点。最初的Metropolis算法将取为对称的函数,而Metropolis-Hastings算法将之推广到非对称的,其中满足的充要条件是。已知当前状态,该算法的迭代步骤是:①从建议分布抽取潜在转移点。②在均匀分布中抽取一个随机数,若满足,则更新,否则令。对于梅特罗波利斯等人建议采用如下形式:

是一种特殊的Metropolis算法。对于一个维随机变量,Gibbs算法在生成的第个分量时选择建议分布为第个分量基于其他所有分量的条件分布。即已知当前状态,通过如下的方法更新个分量来更新:①对于固定的(初值为1),从条件分布中抽样出。②令,重复上步。

MCMC方法依赖于模拟的收敛性。针对模拟的收敛性,有三种常用的收敛性诊断方法:①同时产生多条马尔科夫链。这种方法的思路是选取多个不同的初值,同时产生多条马尔科夫链,经过一段时间后,若这几条链稳定下来,则说明算法收敛了。在实际操作中,可在同一个二维图中画出这些不同的马尔科夫链产生的后验样本值对迭代次数的散点图。如果经过若干次迭代后,这些散点图基本稳定,重合在一起,则可判断其算法收敛。②比率诊断法。这种方法的思路是选取多个不同的初值,同时产生条马尔科夫链,记第条链的方差估计为,链内方差的均值为,链间方差为,则:的值趋近1,则表明MCMC模拟收敛,且比较稳定。通常,表明收敛性较好;如果值很大,则表明需要增大模拟的次数,且考虑收敛速度慢的原因。③Teweke Test法。Teweke Test由一系列的检验组成,其基本思路是:先对所有样本(假设有个)做一次检验,然后去掉最前面的个样本,用剩余的个样本重复上述检验,再继续去掉最前面的个样本,用剩余的个样本重复上述检验,依次类推,重复次这样的检验,直到时终止检验。观察这检验的值,若大部分值都落在内,则表明马尔科夫链已收敛到平稳分布。

相关条目

阅读历史

    意见反馈

    提 交

    感谢您的反馈

    我们会尽快处理您的反馈!
    您可以进入个人中心的反馈栏目查看反馈详情。
    谢谢!