神經网络_考点分析.docVIP

一， 三，单样本和批处理流程图，单层感知器，多层感知 四，支持向量机的特点： 1， 支持向量机建立的分类超平面能够在保证分类精度的同时， 使超平面两侧的空白区域最大化，从而实现对线性可分问题 的最优分类。 2， 支持向量机的算法不依赖于设计者的经验知识 （在径向基函数类型的支持向量机中，径向基函数的数量和 它们的中心分别由支持响亮的个数和支持向量的值决定， 而传统的RBF网络对这些参数的确定则依赖于经验知识） 3， 支持向量机最终求得的是全局最优解而不是局部极值，具有 良好的泛化能力，不会出现过学习现象。 记不住就把下面这个图画上： SOFM网络的主要特点： 1， 把高维输入映射到低维的能力 2， 拓扑保形的特性 正则化网络的3个性质： 1)正则化网络是一种通用币近期，只要有足够的隐节 点，可以以任意精度逼近紧集上的任意多元连续函 数； 2)具有最佳逼近特性，即任给一个未知的非线性函数 f，总可以找到一组权值使得正则化网络对于f的逼 近优于其他可能的选择； 3)正则化网络得到的解是最佳的，所谓“最佳”体现在 同时满足对样本的逼近误差和逼近曲线平滑性。 五，RBF网络与多层感知器的比较： 相同点： – RBF网络与多层感知器都是非线性多层前向网络， 都是通用逼近器。 – 对于任一个多层感知器，总存在一个RBF网络可以 代替它，反之亦然 不同点： 1) RBF网络只有一个隐层； 多层感知器的隐层可以是一层也可以是多层的。 2) 多层感知器的隐层和输出层其神经元模型是一样的。 RBF网络的隐层神经元和输出层神经元不仅模型不同，而且 在网络中起到的作用也不一样。 3) RBF网络的隐层是非线性的，输出层是线性的。 当用多层感知器解决模式分类问题时，它的隐层和输出层通 常选为非线性的；当用多层感知器解决非线性回归问题时， 通常选用线性输出层。 多层感知器的主要能力 非线性映射能力:a)无需事先了解描述这种映射关系的数学方程 b)能够解决难以得到解析解、缺乏专家经验、能够表示与转 化为模式识别或非线性映射问题的问题。 泛化能力:当向网络输入训练时未曾见过的非样本数据时，网络也能 完成由输入空间向输出空间的正确映射。 容错能力:允许输入样本中带有较大的误差甚至个别错误。 单样本训练：每输入一个样本，都要回传误差并调整权值，会导致收敛速 度过慢 批处理（Batch）训练： 根据总误差计算各层的误差信号并调整权值，在样本数较多时，批训练比单样本训练时的收敛速度快 广义RBF网络与正则化RBF网络的几点不同： 1)径向基函数的个数M与样本的个数N不相等，且M常 常小于N； 2)径向基函数的中心不再限制在数据点上，而是由训 练算法确定； 3)各径向基函数的扩展函数不再统一，其值由训练算 法确定； 4)输出函数的线性中包含阈值函数，用于补偿基函数 在样本集上的平均值与目标值之平均值之间的差 别。 六，神经网络的基本特点 – 结构特点： ??信息处理的并行性、信息存储的分布性、信息处理单元的 互联性、结构的可塑性 – 性能特点： ??高度的非线性、良好的容错性和计算的非精确性 – 能力特征： ??自学习、自组织与自适应性 神经网络的基本功能 1）联想功能2）非线性映射3）分类与识别4）优化计算5）知识处理 2 / 7