模式识别例题.docVIP

感知器算法 已知两类训练样本，(0,0),(0,1)属于w1，(1,0),(1,1)属于w2，试用感知器算法求解w* 训练样本分量增广化以及符号规范化。将训练样本增加一个分量1，且把来自w2的样本各分量乘以-1，得到训练模式集x1=(0,0,1), x2=(0,1,1), x3=(-1,0,-1), x4=(-1,-1,-1) 运用训练算法，给权向量赋初值w(1)=(1,1,1)T，取增量c=1，k=1，K=1,xm=x1,w(k)Txm=10,w(2)=w(1) K=2, xm=x2,w(k)Txm=20,w(3)=w(2) K=3, xm=x3,w(k)Txm=-20,w(4)=w(3)+ x3=(0,1,0)T K=4, xm=x4,w(k)Txm=-10,w(5)=w(4)+ x4=(-1,0,-1)T K=5, xm=x1,w(k)Txm=-10,w(6)=w(5)+ x1=(-1,0,0)T K=6, xm=x2,w(k)Txm=0,w(7)=w(6)+ x2=(-1,1,1)T K=7, xm=x3,w(k)Txm=0,w(8)=w(7)+ x3=(-2,1,0)T K=8, xm=x4,w(k)Txm=10,w(9)=w(8) K=9,xm=x1,w(k)Txm=0,w(10)=w(9) + x1=(-2,1,1)T K=10, xm=x2,w(k)Txm=20,w(11)=w(10) K=11, xm=x3,w(k)Txm=10,w(12)=w(11) K=12, xm=x4,w(k)Txm=0,w(13)=w(12)+ x4=(-3,0,0)T K=13, xm=x1,w(k)Txm=0,w(14)=w(13)+ x1=(-3,0,1)T K=14, xm=x2,w(k)Txm=10,w(15)=w(14) K=15, xm=x3,w(k)Txm=20,w(16)=w(15) K=16, xm=x4,w(k)Txm=20,w(17)=w(16) K=17, xm=x1,w(k)Txm=10,w(18)=w(17) 通过上面的结果可以看出，经过对x1, x2, x3, x4一轮迭代后，使用w(14)已经能够对所有训练样本正确分类，增广权矢量的值不再发生变化，所以算法收敛于w(14)， w(14)w*=(-3,0,1)T。由此可以得到区分界面为：-3x1+1=0 例题. 设有两类样本 ω1={(0,0)T,(2,0)T} ω2={(1,1)T,(1,-1)?T}如下图线性不可分 特征为二维的，所以电位函数为： K(xx2)=exp{-[(x1-xk1)2+( x2-xk2)2]} ① 输入x1=( xk1, xk2)T=(0,0)T x1∈ω1 K1(x)= K1(xx1)=exp{-( x12+ x22)} ② 输入x2=(2,0)T x2∈ω1代入 K1(x2)=exp{-( 02+ 22)}0 不修正 K2(x)= K1(x) =exp{-( x12+ x22)} ③ 输入x3=(1,1)T x3∈ω2代入 K2(x3)=exp{-( 12+ 12)}0 所以需要修正 K3(x)= K2(x)- K(xx3) =exp{-( x12+ x22)} -exp{-[(x1-1)2+ (x2-1)2]} ④输入x4=(1,-1)T x3∈ω2代入 K3(x4)=e-2- e-40 所以需要修正 K4(x)= K3(x)- K(xx4) =exp{-( x12+ x22)}- exp{-[(x1-1)2+ (x2-1)2]} -exp{-[(x1-1)2+ (x2+1)2]} ? 第二次迭代 ⑤输入x5=x1=(0,-0)T x5ω1代入 K4(x5)=1-e-2- e-40 K5(x)= K4(x) ⑥输入x6=x2=(2,0)T x6∈ω1代入 K5(x6)= e-4-e-2- e-2=0 所以需要修正 K6(x)= K5(x)+ K(xx6) =exp{-( x12+ x22)}- exp{-[(x1-1)2+ (x2-1)2]} -exp{-[(x1-1)2+ (x2+1)2]}+ -exp{-[(x1-2)2+ x22]} ⑦输入x7=x3=(1,1)T x7∈ω2代入 K6(x7)= e-2- e0 -e-4+e-20 所以不需要修正 K7(x)= K6(x) ⑧输入x8=x4=(1,-1)T x8∈ω2代入 K7(x8)= e-2- e-2 - e0 +e-20 所以不需要修正 K8(x)= K7(x) ⑨输入x9=x1=(0,0)T x9