用于图像分类的浅层结构深度学习方法..doc

用于图像分类的浅层结构深度学习方法 Asma ElAdel?, Ridha Ejbali?, Mourad Zaied? and Chokri Ben Amar? ?REsearch Group in Intelligent Machines, National School of Engineers of sfax, B.P 1173, Sfax, Tunisia Email: {asma.eladel, ridha ejbali, mourad.zaied and chokri.benamar}@ieee.org 摘要——本论文介绍了一种新的图像分类方案。该方案提出了一种用于深度学习的卷积神经网络（CNN）：利用多分辨率分析法（MRA）计算每一张用于分类的图像在不同的抽象层次中输入层与隐层之间的连接权值。然后，利用Adaboost算法选择出能代表每一类图像的最佳的特征和对应的权值。这些权值将作为隐层与输入层之间的连接权值，并且在测试阶段用于对所给的图像的分类。所提出的方法在不同的数据集上进行了测试，所获得的结果证明了该方法的效率和速度。 地 第四步：把sigmoid函数作为激活函数 第五步：利用Adaboost算法选择能描述每一类图像特点的特征 第六步：确定每一类图像所对应的隐层与输出层之间的连接权值 从图3可知，经过多分辨率分析后，每一幅参考图像都被分成了k个层次的抽象特征，可以将其定义为离散小波变换的设计方法。这种方法把信号f（图像）分解为逼近部分（A）和三个细节部分：水平细节（HD）、垂直细节（VD）和对角线细节（DD）。在新的抽象层次中，得到的逼近部分将会被进一步分解为新的逼近部分和细节部分，如此循环直到抽象层次达到分析所要求的最大值。最后，把从所有层次中提取出来的细节系数作为输入层与隐层之间的连接权值。为了加快计算出这些系数，我们使用多分辨率分析中的快速小波变换（FWT）。这一算法有效地减少了耗时的训练和分类步骤。 图3 此外，MRA的优点在于分析的网络层次的数量不是随机的，而是可以直接从图像的尺寸中得到的。因此我们可以通过固定图像的抽象层次控制学习深度。同时，由于MRA分析是在不同的抽象层次中分析图像，所以它可以提供各层次抽象中相应的能代表图像的特征，这在分类阶段将会十分有用。 一旦我们计算得出所有输入层与隐层的连接权值，也就是隐层的输入，我们就采用取值在[0 1]的sigmoid函数作为激活函数。下一步就是利用Adaboost算法，从这些特征中滤选出能描述每一类图像的最佳的特征。（见算法1） 算法1 Adaboost算法 给定m组训练数据，（,），……（，），其中 初始化=1/m：训练样本i的权重，这决定了该样本被选择为成分分类器的概率。 当t=1,...,T时： 分类器：X→[-1 1]，这将最大限度地减少分布带来的误差： 如果0.5继续，否则停止 选择∈R，其中 ， 为分类器的加权错误率 下一个分类器： 其中为归一化因子。（归一化的目的是使得成为一个分布函数） 得到最后的分类器： 经过这个步骤后，我们得到了每一类图像的最佳的特征，即一个由特征（f），阈值（b）和一个极性（p）构成的弱分类器，其满足下式： 阈值将作为隐层与输出层之间的连接权值以用来确定每一类的图像。 B 图像分类 要对用作分类的图像Y进行分类，必须建立一个神经网络，其中该网络的隐层神经元连接权重是由能表示所有类别图像的所有特征构成的。然后，图像的类别将通过等式2确定。 图像的分类是根据最佳特征进行的，t是选择出来的最好的特征数量，h代表对第k个特征和阈值的训练分类器，其中阈值已经在学习阶段计算得到。如果H(Y)等于1，这意味着用于分类的图像符合当前的类别。否则图像不符合当前类别并立即将其拒接。 所提出结构的优点在于，网络仅仅使用一个隐层就能够模拟所有代表图像类别的特征。 图4表示了具有3个选择特征的图像分类的例子，其中...代表待分类图像像素Y。，，是经过Adaboost算法选择出来的特征，在图中以蓝色表示，它们能较好地表示第一类的图像。，，是表示第二类图像的特征，在图中以黄色表示，如此类推。可以看出，某些特征不止是一种类别图像的特征。例如图中就是第二类和第四类的特征。这可以解释为这些类别中存在相似或相同的部分。 图4 三、结果和讨论 我们利用两个数据库对所提出的方法进行测试，分别是Wang数据库和COIL-100数据库。 哥伦比亚大学目标图像库（COIL-100）数据库：包含了7200张128*128的彩色图像，这些图像被分成了100类目标，每一类目标包含的72张图像分别是对同一目标在360度范围内每隔5度拍摄得到的。 图5是COIL-100图像库所包含的一些目标图像，图6为COIL-