第6章 神经网中的线性变换.pptVIP

第六章 神经网络中的线性变换 6.1 目的 6.2 理论和实例 6.2.1线性变换 6.2.2矩阵表示 6.2.3基变换 6.2.4特征值和特征向量 6.3 小结 * * 6.1 目的 本章接着第五章继续讨论神经网络分析所需要的数学基础。第五章复习了有关向量空间的内容，本章将探讨在神经网络中所采用的线性变换。 6.2 理论和实例 hopfield网络通过下式同步对网络输出进行修改 a(t+1)=satlin(Wa(t)+b) 6.2.1 线性变换 变换 一个变换由以下三部分组成 （1）一个被称为定义域的元素集合X={ } （2）一个被称为值域的元素集合Y={ } （3）一个将每个 和一个元素 相联系的规则。 线性变换 一个变换 是线性的，如果 1）对所有的 2）对所有的 假设某个变换 是在二维空间 中将一个向量旋转 角，如图6-2所示。图6-3和图6-4表示该旋转变换满足线性变换定义中的条件1。图6-5表示旋转变换满足线性变换定义中的条件2。 6.2.2 矩阵表示 设 是向量空间X的一个基底， 是向量空间Y的一个基。即是对任意两个向量 ，有 设 是一个定义域为X值域为Y的线性变换 那么 可以写成 此式正好是下面形式的矩阵乘 下面将以旋转变换为例，来讨论变换的矩阵表示，看看 如何找到该变换的矩阵表示。这里的定义域和值域相同（ ）。为简单起见，对其采用标准基 如图6-6所示。 第1步是对第一个基向量进行变换，并且 以基向量的形式展开变换后的向量。如果 将向量s1逆时针旋转一个角度 ，可得 如图6-7所示。 第2步是对第二个基向量进行变换。如果将向量s2逆时针旋转一个角度 ，可得 如图6-8所示。完整的矩阵表示可以由下式给出： 6.2.3 基变换 考虑一个线性变换： 。设 是向量空间X的一个基， 是向量空间Y的一个基。所以有 所以，如果 那么变换 的矩阵表示形式是 或 Ax=y 现在假设对X和Y使用不同的基集。设{t1,t2,…,tn}是X的新基集,{w1,w2,…,wm}是Y的新基集。那么，向量 可写成 向量 可写成 得到如下新的矩阵表示： 或 A′(x′)=y′ 那么，A和A’之间的关系是什么呢？要解答这个问题，必须找出两个基集之间的关系。首先，由于每个ti是x的一个元素，那么可以按照X原先基集的形式展开： 其次，因为每个wi是Y的一个元素，所以也可以按照Y原先基集的形式展开： 所以，基向量可以写成如下的列向量表示形式： 定义一个列为ti的矩阵：Bt=[t1 t2 … tn] X=x′1t1+x′2t2+…+x′ntn=Btx′ 定义一个列为wi的矩阵：Bw=[w1 w2 … wm] y=Bwy′ 现在将X=x′1t1+x′2t2+…+x′ntn=Btx′ 和y=Bwy′代入到Ax=y，可得 ABtX′=Bwy′ 如果我们用Bw-1乘以上式的两边，有[Bw-1ABt]x′=y′ 基变换 A′=[Bw-1ABt] 相似变换 现在利用基{t1,t2}找到一个新的矩阵表示（如图6-9所示）。 第一步，按照标准基的形式对t1和t2进行 展开。观察图6-9可知：t1=s1+0.5s2 t2=-s1+s2 现在可以得到矩阵 取θ=30° 为了检验这些矩阵是否正确，假设和 相对应的测试向量是： 变换后的测试向量是 这些向量表示在图6-10中。