人工神经网络-Artificial-Neural-Networks很全哦!!.ppt

* * Boltzmann机的训练 Boltzmann机是多级循环网络，是Hopfield网的一种扩展。 神经元ANi实际输出状态oi=1的概率为： T趋近于0时，神经元的状态不再具有随机性，Boltzmann机退化成一般Hopfield网。 * * Boltzmann机的训练 神经元ANi在运行中状态发生了变化 Boltzmann机的能量函数(一致性函数 ) * * Boltzmann机的训练 如果ΔΕi0，则应该选ANi输出为1，否则，应该选ANi输出为0。 ΔΕi的值越大，神经元ANi应该处于状态1的概率就应该越大。反之，ΔΕi的值越小，神经元ANi应该处于状态1的概率就应该越小。从而，oi=1的概率为： * * Boltzmann机的训练 处于状态a，b的概率Pa和Pb，对应于oi=1和oi=0，其它的神经元在a，b状态下不变 Pa=γpi Pb =γ（1-pi） * * Boltzmann机的训练 网络进行足够多次迭代后，处于某状态的概率与此状态下的能量和此时系统的温度有关。 由于高温时网络的各个状态出现的概率基本相同，这就给它逃离局部极小点提供了机会。 当系统的温度较低时，如果EaEb，则PaPb：网络处于较低能量状态的概率较大 * * Boltzmann机的训练 1986年，Hinton和Sejnowski训练方法 自由概率Pij-：没有输入时ANi