message-passing

变量消除的缺点

elimination algorihthm中会有clique中重复使用的情况,message passing将重复使用的clique保留下来,这样可以减少运算复杂度。

Elimination on a tree

将从i开始的变量消除记作$m_{ji}(x_i)$,并且是$x_i$的函数。
$$m_{ji}(x_i)=\sum_{x_j}(\psi(x_j) \psi(x_i,x_j)\prod_{k\in N(j)\j} m_{kj}(x_j))$$

$m_{ji}(x_i)$能够表示从$x_j$到$x_i$的置信。

Two-pass Algorithm

算法的实施的具体步骤,确定一个根节点,从其他节点中收集信息到这个根节点,然后回到分布的信息。直到某一节点中包含了除却继续传播节点的所有信息,这样就计算信息,然后传播到剩下的节点。

参考文献

[1] http://www.cs.cmu.edu/~epxing/Class/10708-14/lecture.html
[2] http://people.eecs.berkeley.edu/~jordan/prelims/?C=N;O=A
注:本文主要参考[1]中第5讲视频以及笔记,参考[2]中第4章。

非常感谢各位老板投喂!