神经网络控制(Boltzmann机).pptVIP

神经网络控制刘慧文2016年4月智能控制理论与技术预测模式分类Boltzmann机是一种随机神经网络，也是一种反馈型神经网络。它在很多方面类似于离散Hopfield网络。组合优化与规划Boltzman机应用3.3.3Boltzmann机功能上，Boltzmann可以看成是多层网络，其中一部分结点是输入结点，一部分是输出结点，还有一部分是隐结点。隐结点不与外界发生联系，它主要用来实现输入与输出之间的高阶联系。结构上，Boltzmann机是单层的反馈网络形式上，与离散Hopfield网一样，具有对称的连接权系数，即Wij=Wji，且Wii＝0。1231．网络的结构和工作方式Boltzmann机特点：Boltzmann机每个神经元的工作方式T为“温度”Boltzmann机的能量函数为这时，的概率为Boltzmann机也有同步和异步工作方式考虑异步工作方式，k时刻第i个神经元调整状态,根据Hopfield网络有1)若(a)若(b)若综上所述则较大概率2)若则较大概率(a)若(b)若不管以上何种情况，随着系统状态的演变，从概率的意义上，系统的能量总是朝小的方向变化，所以系统最后总能稳定到能量的极小点附近。由于这是随机网络，在能量极小点附近，系统也不会停止在某一个固定的状态。由于神经元状态按概率取值，因此以上分析只是从概率意义上说网络的能量总的趋势是朝着减小的方向演化．但在有些步神经元状态可能按小概率取值，从而使能量增加，在有些情况下这对跳出局部极值是有好处的。这也是Boltzmann机与Hopfield网另一个不同之处。为了有效地演化到网络能量函数的全局极小点，通常采用模拟退火的方法。即开始采用较高的温度T，此时各状态出现概率的差异不大，比较容易跳出局部极小点进入到全局极小点附近，然后再逐渐减小温度T，各状态出现概率的差别逐渐拉大，从而一方面可较准确地运动到能量的极小点，同时阻止它跳出该最小点。010302两点说明：01根据前面的结果，当xi由1变为0时，△xi(k)=-1，则02设xi(k+1)＝1(其它状态不变)的概率为p1，相应的能量函数为E1，xi(k+1)＝0(其它状态不变)的概率为p0，相应的能量函数为E0，则01有02推广之，容易得到，对于网络中任意两个状态?和?出现的概率与它们的能量E?和E?之间也满足03这正好是Boltzmann分布,也就是该网络称为Boltzmann机的来由。两点结论：Boltzmann机处于某一状态的概率主要取决于在此状态下的能量，能量越低，概率越大；此概率还取决于温度参数T，T越大，不同状态出现概率的差异就越小，较容易跳出能量的局部极小点而到达全局的极小点。T越小时情形正相反。这也就是采用模拟退火方法寻求全局最优的原因所在。网络的学习和训练