现代机器学习 课件 第14章 胶囊网络.pptx

第14章胶囊网络;

14.1胶囊网络简介;

通过胶囊网络,详细的姿态信息(如相对位置、旋转、

厚度、倾斜、大小等)被保存。此外,在卷积神经网络中使用池化操作会丢失很多重要的信息,因为只有最活跃的神经元才能被选出来传递给下一层,这也是空间信息丢失的原因。例如图14.1,尽管这看起来并不是一张人脸图,但它的每一个部分都是正确的。人类很容易认识到这不是一张正确的脸,但卷积神经网络很难判断这张脸不是真的,因为它只寻找图像中的特征,而并没有关注这些特征的姿态信息。;;

针对上述卷积神经网络丢失信息的问题,胶囊网络的解决方法是:用向量来表示特征,向量的模表示特征存在的概率,向量的方向表示特征的姿态信息。胶囊网络的工作原理可

以概括为:所有关于特征状态的重要信息都将以向量的形式封装于胶囊中。;

胶囊网络的主要优势如下:

??(1)胶囊网络的引入使模型充分利用空间关系,将数据关系编码成活动向量而不是标量,其长度和方向分别表示物体存在的概率和物体的姿态参数。

(2)胶囊网络通常仅由3层网络构成,显著降低了网络复杂度,并获得高精度的分类效果。

(3)实现了一种动态路由协议,在两层之间加强紧密联系的胶囊之间的权重,减小联系不紧密的胶囊之间的权重,通过这种动态路由来捕获部分整体关系。

(4)与CNN输出标量不同,胶囊网络输出活动向量,用向量对实例参数建模,实现更精细的特