Probabilistic Graphical Models (week5)

本周内容：sampling methods, 包括gibbs sampling和metropolis-hastings sampling，作业中涉及了MH sampling的变种。
筒子们有人在跟吗？比较疑惑的一点是，老师似乎没有从理论上证明gibbs sampling的有效性，就是说会向真正的概率分布收敛，是这样吗？

PRML书中有很详细的关于GibbsSampling是MH的特例的证明

xnature 发表于 2013-5-18 09:44
PRML书中有很详细的关于GibbsSampling是MH的特例的证明

我的意思不是这个，GibbsSampling是MH特例这个在video里也大体体现了，我的意思是GibbsSampling在什么情况下能够向目标收敛。。好吧也许这个应该查文献，只是确认下我没有漏掉课程中的哪个点。

Shuang7 发表于 2013-5-18 10:33
我的意思不是这个，GibbsSampling是MH特例这个在video里也大体体现了，我的意思是GibbsSampling在什么情况 ...

诶？你是说迭代到什么时候么

xnature 发表于 2013-5-18 10:37
诶？你是说迭代到什么时候么

确切地说是“为什么迭代就能向目标靠近而不是远离”。

Shuang7 发表于 2013-5-18 10:40
确切地说是“为什么迭代就能向目标靠近而不是远离”。

那不就是MH保证会收敛么

xnature 发表于 2013-5-18 11:16
那不就是MH保证会收敛么

好吧。。又看了一下，回忆起来核心在Transition matrix的构造了， if detailed balance holds, and T is regular, then T has a unique stationary distribution \pi，构造时令\pi = P(x)，理论上就保证了sampling的有效性。

嗯嗯，我在跟，这个课节奏真的是有点快啊，而且week 5的PA真的很多！！！

问下PA5是不是可以用MATLAB 2011做？

melancholic 发表于 2013-5-20 00:08
问下PA5是不是可以用MATLAB 2011做？

2009b可以做，11不清楚。。