原文链接:http:///?p=25428介绍本文,我们说明了贝叶斯学习和 计算统计一些结果。 from math import pi 马尔可夫链的不变测度考虑一个高斯 AR(1) 过程, , 其中 是标准高斯随机变量的独立同分布序列,独立于 。假使 。然后,具有均值的高斯分布 和方差 是马尔可夫链的平稳分布。我们用马尔可夫链的单个轨迹所取值的直方图来检查这个属性。 f=lambda x,m,sq: exp(-(x-m)\*\*2/(2\*sq))/sqrt(2\*pi\*sq) 第二个例子我们在这里考虑一个马尔可夫链的例子,它的状态空间 是开单位区间。如果链在 ,它等概率 选择两个区间之一 或者 ,然后移动到一个点, 它均匀分布在选定的区间内。马尔可夫链的不变分布有 cdf, 。通过微分,我们可以得到相关的密度: 。对所有 , 我们现在用马尔可夫链取值的直方图检查这个属性。 x=arange(1,m)/m 我们还可以说明直方图如何收敛到平稳分布的密度。这可以通过使用 matplotlib 中的“动画”模块的动态动画来完成。下面是python代码。 点击标题查阅往期内容 左右滑动查看更多 anm = animation.FuncAnimation 这个例子结束是一个动画。 data = \[\] 我们现在用一个例子来说明大数定律。如 。那么,我们期望 , x=arange/(p) 对称随机游走 Metropolis Hasting 算法我们现在考虑一个目标分布,它是两个高斯分布的混合,一个集中在 ,另一个集中在 。 是中心标准正态分布的密度。 为了针对此分布,我们根据对称随机游走 Metropolis Hasting 算法进行采样。当链处于状态时 ,我们提出一个候选 , 根据 ,其中 。然后我们接受 ,有概率 , 其中 。否则, 。 from IPython.display import HTML 独立Metropolis Hasting算法我们再次考虑一个目标分布,它是两个高斯分布的混合,一个集中在 ,另一个集中在 ,,其中 是中心标准正态分布的密度。 为了针对这种分布,我们根据具有独立提议的 Metropolis Hasting 算法进行采样。当链处于状态时 ,我们提出一个候选 ,根据 ,其中 。然后我们接受 有概率 , 其中 和 是密度 。否则, 。 mc=randn*one |
|