图像注意力机制汇总学习.pdfVIP

图像注意⼒机制汇总学习 原⽂链接： 1. 介绍 别等各种不同类型的机器学习任务中。根据注意⼒机制应⽤于域的不同，即注意⼒权重施加的⽅式和位置不同，将注意⼒机制分为空间域、 通道域和混合域三种，并且介绍了⼀些关于这些不同注意⼒的先进注意⼒模型，仔细分析了他们的的设计⽅法和应⽤领域，给出了与实验结 果。 2. 空间域注意⼒⽅法 原始图⽚经过压缩后的图的⾼度和宽度，⽽空间注意⼒就是对于所有的通道，在⼆维平⾯上，对H x W尺⼨的特征图学习到⼀个权重矩阵， 对应每个像素都会学习到⼀个权重。⽽这些权重代表的就是某个空间位置信息的重要程度 ，将该空间注意⼒矩阵附加在原来的特征图上， 增⼤有⽤的特征，弱化⽆⽤特征，从⽽起到特征筛选和增强的效果。代表的Self-Attention、Non-local Attention以及Spatial Transformer等。 2.1 ⾃注意⼒： ⾃注意⼒是⽬前应⽤最⼴泛的注意⼒机制之⼀，self-attention及其变体⼴泛应⽤与⾃然语⾔处理、图像处理及语⾳识别的各个领域，特别 是NLP领域，基于self-attention的Transformer结构已经成为NLP技术的基⽯。CV领域的self-attention也来源于NLP，甚⾄在某些分 割、识别任务上直接套⽤NLP