Bayesian神经网络.pptVIP

Bayesian神经网络 Bayesian神经网络的简介 Bayesian神经网络实际上是Bayesian方法和 神经网络方法的结合体，它集合了两种方法 的优点。 1可以处理非线性问题； 2可以控制模型的复杂度，防止过度拟合； 3可以用于统计中的分类以及拟合问题； 4可用于模型比较。 Bayesian方法 Bayesian方法的关键问题是构建模型中所有 未知参数的后验分布。构建方法就是利用 Bayesian定理来确定后验分布。 如果给定数据样本D，则 这里， ?代表模型的参数，H代表此模型的所有假设 p(?|D,H)代表给定数据模型参数的后验分布 p(D|?,H)代表参数?的似然几率 p(?|H)代表参数?的先验分布 p(D|H)是归一化常数，叫模型H的证据常数 分类问题 x代表一组变量即{x1,x2,......}，而是信号的事 例用t=1表示，本底用t=0表示，那么一训练 好的神经网络就可以输出后验概率y， 即由x定义的事例属于信号t=1类别的几率。 p(x|1),p(x|0)分别是信号和本底的概率分布函 数，而p(1),p(0)分别是信号和本底的先验概 率。 Bayesian神经网络的本质 Bayesian神经网络实际上就是把训练神经网 络当成一个推断问题，并且利用Bayesian方 法来解决。Bayesian方法用来确定神经网络 参数空间每一点w的概率密度。而参数