一种基于可信度不确定性推理及其神经网络实现.docVIP

一种基于可信度的不确定性推理及其神经网络实现 　　摘要：提出了基于可信度因子和可信度区间的不确定性推理模型，并用改进的BP神经网络实现其推理过程，最后利用MATLAB神经网络工具箱给出仿真示例。改进的BP神经网络在实现不确定性推理方面有效避免了沿用传统方法所带来的规则数激增及推理缓慢等缺陷，并提高了网络的泛化能力。仿真示例表明，它不仅可以自动学习和模拟专家的典型经验，而且还可以将专家的典型经验推广应用到一般情形。 　　关键词：神经网络； 专家系统； 不确定性推理 机器学习 　　中图法分类号：TP311文献标识码：A 　　文章编号：1001－3695(2007)01－0241－03 　　 　　现实世界中客观事物或现象的不确定性导致了在各认识领域中的信息和知识大多是不确定的。自从1967年第一个专家系统MYCIN出现以来，对于各种不确定性的研究就已引起了人们的重视。如何表示和处理不确定性知识成为人工智能研究的重要课题之一。相关的理论和应用层出不穷。二十世纪六七十年代出现了主观Bayes方法、确定性理论、可能性理论和证据理论等；八十年代以后，又提出了灰色系统理论、粗糙集理论、可拓理论、集对分析等。这些理论从不同角度对不同类型的不确定性进行了研究，并应用于各种场合。?? 　　 　　1基于可信度因子和可信度区间的知识表示?? 　　 　　可信度是指人们对某一事物（或事情）的某方面性质在主观上确信的程度。传统的基于规则的知识表达方法如规则1所示。?? 　　 　　这种表示方法虽然简单明了，但在不确定性领域却显得捉襟见肘。为了使基于规则表示的知识更为实用，可以为规则中的带有不确定性的概念引入标志其可信程度的可信度因子或可信度区间。 　　基于可信度因子的不确定性知识的表达方式可采用规则2所示。?? 　　 　　更一般地，采用可信度区间表示推理中“七八成”、“十有八九”等不确定性概念。可信度区间由两个可信度因子表示，这两个可信度因子的取值分别是可信程度的下限和上限。基于可信度区间的不确定性知识的表达方式可采用如下规则：?? 　　 　　由于对不确定性概念引入了可信度，使得原本模糊的概念定量化、清晰化，因而基于可信度的规则表示法更能反映中医思维方式，也更具有实用性。但是这种表示方法也有显著的缺陷：①对于可信度因子和可信度区间的取值不可能穷尽;②知识库中的规则数随着可信度因子和可信度区间的取值不同而成倍地增长，导致知识难以管理以及推理效率低下。然而，如果利用神经网络来实现基于可信度因子或可信度区间的不确定性推理，则可借助于神经网络良好的泛化能力和并行计算特性，有效地避免这些缺陷。?? 　　 　　2BP神经网络及其改进?? 　　 　　BP神经网络是一种多层前馈神经网络，名字源于网络连接权值和阈值的调整规则采用的是误差反向传播（Back Propagation）学习算法，即BP学习算法。该算法是Rumelhart等人[1]在1986年提出的。由于BP神经网络结构简单、可塑性强，以及BP学习算法数学意义明确、步骤分明，BP神经网络在函数逼近、模式识别、信息分类、数据压缩等领域得到了广泛的应用。?? 　　BP算法是一种有监督学习算法，即对于一组确定的训练样本，给定了网络的期望输出值（目标输出值）。当样本中的输入作为网络的输入后，网络将产生实际输出。如果实际输出与样本的期望输出有误差，则根据BP算法，调整网络的连接权值和阈值，连接权值和阈值的不断调整过程就是使得网络的实际输出值逐步逼近期望输出值的过程。经过学习后的神经网络将知识分布于各连接权值和阈值上。神经网络将利用知识的过程转换为各神经元的并行计算过程。对于新的输入，神经网络将利用并行计算的特性迅速地在输出层得出响应。?? 　　在BP网络的训练过程中经常会出现网络泛化能力差的情况，即网络对于训练样本中的输入可以产生与期望输出误差很小的实际输出，但对于训练样本之外的新的输入却可能产生与相应的目标输出有较大误差的实际输出。?? 　　改进BP神经网络泛化能力的一种方法是规则化调整方法[2]。普通的BP神经网络都采用网络误差的均方根之和作为性能函数，如下所示：?? 　　 　　其中，e??i，t??i，y??i分别表示第i个训练样本的训练误差、目标输出和网络实际输出。而规则化调整方法采用的网络性能函数如下式所示：?? 　　 　　其中，γ是性能参数，msw是网络中权值和阈值的均方和，其取值为msw=1n∑nj=1(w??j)2,其中n是网络中权值和阈值的个数。?? 　　采用规则化调整方法的性能函数训练神经网络可以减少网络的有效权值和阈值，并且使网络的训练输出更加平滑，从而增强网络的泛化能力。但是性能参数γ的选择是一个不好解决的问题，如果太大，网络的泛化能力不好；如果