2019年人工神经网络与智能算法.ppt

31 SNN 中的智能问题求解器使用步骤 ? Step 4 ： 选择输出变量（ Output Variable Selection ），选择 XOR 变量作为输出变量。 32 SNN 中的智能问题求解器使用步骤 ? Step 5 ： 选择输入变量（ Input Variable Selection ），选择变 量 FIRST, SECOND 作为输入变量。并关闭选项“ Search for an effective subset… ”。 33 SNN 中的智能问题求解器使用步骤 ? Step 6 ： 样本分组（ Division of cases ）。控制训练 （ Training ） 、检验（ Verification ）和测试（ Testing ）样本的 大小。 采用自定义分 组样本 34 SNN 中的智能问题求解器使用步骤 ? Step 7 ： 选择网络类型（ Type of Network ）。为比较网络，几 种网络都选，即线性、径向基函数 (RBF) 、通用回归神经网络 (GRNN) 、三层和四层 MLP 。 35 SNN 中的智能问题求解器使用步骤 ? Step 8 ： 控制网络隐层数目 （ Hidden Units ）。选择 “ Determine network complexity automatically ” 自动确定网络 复杂性，忽略数值选定。 36 SNN 中的智能问题求解器使用步骤 ? Step 9 ： 网络设计过程 （ Duration of Design Process ）。选择 完全“ Thorough ” 项 。 37 SNN 中的智能问题求解器使用步骤 ? Step 10 ： 希望保存最佳网络和在网络确定过程中增加网络大 小 （ Saving Networks ）。选择 “ Keep networks … ”和 “ Increase … ” 项。 38 SNN 中的智能问题求解器使用步骤 ? Step 11 ： 结果显示 （ Results Shown ）。选择列表样本结果 “ Datasheet… ” 和统计结果汇总“ Overall …” 。 SNN 计算完成 后，给出多种结果。 39 SNN 的求解异或问题的结果 Data Set Editor 给 出了训练 样本。 Run Data Set 是训练 结果，有 目标值、 计算值和 误差。 Regression Statistics 是 最优网络计算的统计结 果。 Network Set Editor 则是 智能问题求 解器所用的 各种网络的 计算结果。 Network Illustration 则是最优网 络的图示。 40 SNN 的求解异或问题的结果 ? 计算结果表明了多层网络的隐层神经元数为 5 时，计算的误差 已达 10 -5 ，可以用来描述异或问题。 ? 是否还有描述异或问题更好的网络结构呢？ ? 隐层数为 4 的 RBF 网络，计算异或问题的误差达到 10 -15 ，比隐 层神经元数为 5 的多层网络的计算误差要小 10 个数量级，完全 描述了异或问题。 41 1.4 关于 ANN 的进一步说明 ? 选用合适的学习训练网络样本、优化网络结构、采用 适当的学习训练方法就能得到包含学习训练样本范围 的输入与输出关系。 ? 如果用于学习训练的样本不能充分反映体系的特性， 用 ANN 也不能很好的描述与预测体系，所以有 “ 垃圾 进，垃圾出；金子进，金子出 ”之说。 ? 确定性模型的参数回归与 ANN 之类的非确定性模型 的不同特点。 42 确定性模型与非确定性模型的比较 ? 确定性模型的参数回归的特点： ? 自变量与因变量之间有明确的函数关系，具有未知数值的 参数，需要通过自变量与因变量的数据组样本来回归估计， 而且参数个数通常较少，具有明确的物理意义。 ? ANN 之类的非确定性模型的特点： ? 无须针对问题提出明确的自变量与因变量之间的函数关系， 而函数关系用含有众多自由参数的模型回归拟合，但自由 参数无明确的物理意义。 ? 因此，确定性模型回归的主要目标是得到模型的参数 值。而非确定性模型计算的主要目标是得到输入与输 出的关系。 43 二、模拟退火法（ Simulated Annealing ） ? 人工神经网络方法是用某种目标函数的全局极小作为算法搜 索和网络所要达到的目标。在学习或运行过程中，网络的误 差总是按其梯度下降的方向变化。当梯度趋于零时