机器学习 课件 4.4 狄利克雷过程的构造方式.pdf

狄利克雷过程的构造方式

（1）波利亚坛子过程

设随机变量Xi1，表示第i次取出的球是黑色，否则Xi

0。得到序列X1,...,Xn是可交换，下面的公式就是一个

x个白球

y个黑球可交换的示例：

黑白球满足二项分布

波利亚坛子过程：每次从坛子中随机

取出一个球，并且观察球的颜色，放

回被取出的球，并且放入一个和取出X1,...,Xn不独立，也不是马尔可夫过程，颜色序列的分布

球颜色一样的球，然后重复这个过程只和黑球白球的数量有关，而和抽取黑球白球的顺序无关

（2）折棍子过程

1.有限混合模型中不同2.狄利克雷过程混合

满足狄利克雷分布

分布的权重生成过程：模型样本生成过程:

DP中的BaseMeasure为原来的Base

Measure（连续的测度）和一个离散的测

3.G在(a1,...,ak)划分上的测度的后验计算度组成，这种组合在统计中叫作棍子和板

（3）中国餐馆过程

概率的计算：

定义：设第n+1个顾客到来时，已经有k张桌子，

桌子上分别有n1,...,nk个顾客，那么第n+1所属类别

个顾客可以以ni/(α+n)的概率坐在第i张桌子上，

还可以以α/(α+n)的概率坐在一张新的桌子上

模型的预测分布：

DP

概率的计算：

通过中国餐馆过程构造出的随机变量序列

符合DP的性质和要求

TheEnd