第八讲 人工神经网络.ppt

　 下面讨论一个用于医疗诊断的例子。假设系统的诊断模型只有六种症状、两种疾病、三种治疗方案。对网络训练样本是选择一批合适的病人并从病历中采集如下信息： 　　（1）症状：对每一症状只采集有、无及没有记录这三种信息。 　　（2）疾病：对每一疾病也只采集有、无及没有记录这三种信息。 　　（3）治疗方案：对每一治疗方案只采集是否采用这两种信息。 其中，对“有”、“无”、“没有记录”分别用+1，-1，0表示。这样对每一个病人就可以构成一个训练样本。 假设根据症状、疾病及治疗方案间的因果关系以及通过训练本对网络的训练得到了下图所示的神经网络。 其中,x1,x2, …，x6 为症状；x7, x8 为疾病名； x9, x10, x11为治疗方案；xa, xb, xc是附加层，这是由 于学习算法的需要 而增加的。在此网络中， x1，x2, …， x6是输入层； x9, x10,x11是输出层；两者之间以疾病名作为中间层。 　 一个医疗诊断系统的神经网络模型 下面对图加以进一步说明： 　　a. 这是一个带有正负权值wij 的前向网络，由wij可构成相应的学习矩阵。当i≥j时，wij =0；当ij且节点i之间不存在连接孤时，wij 也为0；其余， wij为图中连接弧上所标出的数据。这个学习矩阵可用来表示相应的神经网络。 　　 b. 神经元取值为+1，0，-1，特性函数为一离散型的阈值函数，其计算公式为： 其中， Xj 表示节点j 输入的加权和；xj 为节点j的输出，为计算方便，式中增加了 w0jx0?项，x0 ?的值为常数1，w0j?的值标在节点的圆圈中，它实际上是-? ，?是节点j的阈值。 　 c. 图中连接弧上标出的wij值是根据一组训练样本，通过某种学习算法（如BP算法）对网络进行 训练得到的。这就是神经网络系统所进行的知识获取。 　 d. 由全体wij值及各种症状、疾病、治疗方案名所构成的集合形成了该疾病诊治系统的知识库。 2. 基于神经网络的推理 基于神经网络的推理是通过网络计算实现的。把用户提供的初始证据用作网络的输入，通过网络计算最终得到输出结果。 例如，对上面给出的诊治疾病的例子，若用户提供的证据是 x1=1（即病人有 这个症状）， x2=x3= -1(病人没有这个症状），有 0+2×1+（-2）×（-1）+3×（-1）=1＞0 因此，该病人患的病是x7。 由上例可以看出网络推理的大致过程。一般来说，正向网络推理的步聚如下： 　　(1) 把已知数据输入网络输入层的各个节点。 　　(2) 利用 特性函数分别计算网络中各层的输出。计算中，前一层的输出作为后一层有关节点的输入，逐层进行计算 ，直至计算出输出层的输出值为止。 　　(3)用阈值函数对输出层的输出进行判定，从而得到输出结果。 * * 人工神经网络是具有下列特性的有向图 ◇对于每个节点i 存在一个状态变量xi ； ???? ◇从节点j 至节点i ,存在一个连接权系数wij； ◇对于每个节点i ，存在一个阈值θ i； ???? ◇对于每个节点 i ，定义一个变换函数fi ；对于最一般的情况，此函 数取如下的形式 神经网络的基本特性和结构 神经元的模型确定之后，一个神经网络的特性及能力主要取决于网络的拓扑结构及学习方法 人工神经网络连接的几种基本形式 前向网络 (a) 从输出到输入有反馈的前向网络 (b) 用来存储某种模式序列 层内互连前向网络 (c) 限制层内同时动作的神经元；分类功能 相互结合型网络 (d) 人工神经网络典型结构 x1 x2 xn … … … y1 y2 yn x1 x2 xn … … … y1 y2 yn a） b） x1 x2 xn … … … y1 y2 yn x1 x2 x3 x4 y1 y2 y3 y4 c） d） 人工神经网络最具有吸引力的特点是它的学习能力。学习是神经网络研究的一个重要内容，神经网络的适应性是通过学习实现的.人工神经网络的学习过程就是对它的训练过程. 神经网络基本学习算法 什么是学习？ 学习就是对信息进行编码,其目的就是通过向有限个例子（训练样本）的学习来找到隐藏在例子背后（即产生这些例子）的规律（如函数形式）。 当样本数据改变系统参数时，系统会对这些改变进行自适应或自组织的学习，在神经网络中表现为突触的改变。 按突触修正假说，神经网络在拓扑结