神经网络复习资料.docVIP

神经元的数学模型，网络结构，输入与输出 网络结构：递归网络、单层前馈馈，多层前馈 BP神经网络是误差反向传播神经网络的简称。 激活函数的类型 1阈值函数2sigmond函数 神经网络中常见的非线性单元 三种基本的神经网络架构 感知机、Hamming网络、Hopfield网络 知识表示的规则 三种距离 欧几里得距离 x（1）与x(2)距离： : 内积： 根据教师信号有无，机器学习可分为有教师学习和无教师学习，其中无教师学习又分为无监督学习和强化学习 传统电子计算机与神经网络计算机的异同 机器学习有哪些任务 1模式联想，模式识别，函数逼近，控制，波束形成 2第一章 感知器收敛定理: 感知器收敛算法： 感知器收敛条件：初始条件w(0)等于0 贝叶斯分类准则： 感知器与贝叶斯的比较: 2章 如何克服感知器非线性可分的条件约束，举例说明如何解决XOR问题 XOR问题就是如何用神经网络实现异或逻辑。 写出线性回归的表示，并给出最大后验和最大似然估计权重向量计算公式，并指出两者的不同点 最大似然估计 最大后验估计 无约束优化方法： 当观察样本趋于无穷时，线性最小二乘滤波器渐进于维纳滤波器： 最小均方算法： 最小均方算法和最小二乘算法区别： 准则函数不同 最小均方算法代价函数： 更新公式： 最小二乘