第5章 信号与权值向量空间.pptVIP

第5章 信号和权值向量空间 5.1 目标 5.2 理论和实例 5.2.1 线性向量空间 5.2.2 线性无关 5.2.3 生成空间 5.2.4 内积 5.2.5 范数 5.2.6 正交性 5.2.7 向量展开式 5.3 小结 5.4 结束语;5.1 目标 从第3章和第4章可以看出：将神经网络的输入、输出以及权值矩阵的行作为向量看待是非常有好处的。这一章将详细研究这些向量空间，并且复习一些对分析神经网络十分有用的向量空间性质。 5.2 理论和实例 5.2.1 线性向量空间 定义 一个线性向量空间X是一组定义在标量域F上且满足如下条件的元素集合（向量）： 1）一个称为向量加的操作定义为： ; 2） 3） 4）存在惟一一个称为零向量的向量 ，对于所有的 ，有： 。 5）对于每一个向量 ，在X中只有惟一一个被称为 ，满足 。 6）一个称为向量乘的操作定义为：对所有 的标量，以及所有的向量 ，有 。 7）对于任意的 和标量1，有 。 8）对于任意两个标量 ，以及任意的 ，有 。 ; 9） 。 10）; 基集 X的基集是由生成X的线性无关的向量所组成的集合。 5.2.4 内积 内积 任何满足如下列条件的关于 的标量函数都可以定义为一个内积 ： 1） 2） 3） 对于 中的向量而言，其标准内积为 ; 对定义在[0,1]区间内所有连续函数的集合C[0,1]而言， 5.2.5 范数 范数 如果一个标量函数 满足一下一些性质，则称其为范数：; 角度 5.2.6 正交性 正交性 如果两个向量 ，满足 ，那么说这两个向量是正交的。 Gram-Schmidt正交化方法 假设有n个线性无关的向量 ，如果希望通过这些向量得到n个正交向量 ，那么;或 投影 是 在向量 上的投影。 ;标准正交向量 5.2.7 向量展开式 向量??开式 如果向量空间X的基集为 那么任意 有如下惟一的向量展开式： 所以，有限维向量空间中的任意向量都可以用一列数来表示： X=[x1 x2 … xn] T;5.3 小结 线性向量空间 向量之间的夹角 线性无关 正交性 生成空间 向量展开式 内积 互逆基向量 范数 ;5.4 结束语 本章给出了一些有关向量空间的基本概念和相关知识，它们是理解神经网络工作原理的关键。