面向图像数据的CNN算法优化研究与实现.docxVIP

PAGE PAGE 5 面向图像数据的CNN算法优化研究与实现 摘要 一个训练有素的卷积神经网络可以很容易地修剪，而不会造成明显的性能损失。这是因为网络过滤器捕获的特性中存在不必要的重叠。网络体系结构中的创新（如跳过/密集连接和起始单元）在某种程度上缓解了这个问题，但这些改进伴随着在运行时增加的计算和内存需求。解决这个问题的另一种方法不是改变网络结构，而是改变训练方法。通过临时修剪，然后恢复模型过滤器的子集，并重复该过程，可以减少所学特征的重叠，从而改进泛化。现有的模型剪枝准则不适合在这种背景下选择要剪枝的滤波器，并引入滤波器间正交性作为表示滤波器下的排序准则。既适用于普通的卷积