天翼云是中国电信倾力打造的云服务品牌，致力于成为领先的云计算服务提供商。提供云主机、cdn、云电脑、大数据及ai等全线产品和场景化凯发app官方网站的解决方案。
- ·
- ·
- ·
- ·
- ·
- ·
- ·
- ·
- ·
- ·
分类： 架构设计与优化
2024-06-24 16:27:57
本文分享自天翼云开发者社区《》，作者:liuzijia
近年来，注意力机制在各项深度学习任务中表现出色。研究表明，人类视觉感知过程中，注意力机制发挥了积极的效果，可以帮助人们高效和自适应的处理视觉信息并聚焦于显著的画面区域，从而能够做出zui准确的判断。因此，通过模拟视觉注意力机制，在网络结构中加入注意力模块，使模型可以更加关注待分类图像中的关键信息，抑制不相关的特征信息，促使模型对重要的特征区域更加敏感，从而有效提升相关任务的性能。本文简要介绍一种经典的混合注意力模型cbam。
cbam[1]是一种结合了通道与空间注意力的混合注意力模块，通过该模块可以自适应的强化特征提取过程。
图1 cbam结构（引用自文献[1]）
图1为cbam的结构。对于输入特征图，该模块会依次推断出一个通道注意力图m_c和一个空间注意力图m_s，如式1和式2所示：
其中，f表示输入特征图；m_c表示得到通道注意力图；f'表示通道注意力模块的输出特征图；m_s表示得到的空间注意力图；f''表示该模块的zui终输出；x表示矩阵对应元素相乘。
图2 通道注意力模块（引用自文献[1]）
图2为cbam的通道注意力模块结构。对于输入特征图，首先利用在空间维度上的平均池化和zui大值池化进行压缩，结合两种池化是为了对特征权重的学习更加精细，从而提升网络的特征表示能力，然后将池化后的特征输入到多层感知机中，为了减少计算参数量，会对隐藏层的大小进行降维，zui后经激活函数得到注意力图，其计算过程如式3所示：
其中，σ表示sigmoid激活函数；f_avg和f_max分别表示空间维度上的平均池化（avgpool）和zui大值池化（maxpool）；w_0和w_1表示多层感知机（mlp）的共享参数；f表示输入特征图。
图3 空间注意力模块（引用自文献[1]）
图3为cbam的空间注意力模块。首先利用在通道维度上的平均池化和zui大值池化对输入特征图进行操作，然后拼接大小均为h×w×1的两个特征图，这样可以得到一个大小为h×w×2的特征图，zui后利用一个卷积操作并经激活函数后得到空间注意力图，其计算过程如式4所示：
其中，σ表示sigmoid激活函数；f(7×7)表示尺寸为7 的卷积核；f_avg和f_max分别表示在通道维度上的平均池化（avgpool）和zui大值池化（maxpool）；f表示输入特征图。
[1] woo s, park j, lee j y, et al. cbam: convolutional block attention module[c]//proceedings of the european conference on computer vision (eccv). 2018: 3-19