CBAM注意力机制在卷积网络中的应用边界：超越分类任务的实践探索

1次阅读

没有评论

共计 1893 个字符，预计需要花费 5 分钟才能阅读完成。

很多刚接触注意力机制的开发者容易形成思维定式，认为 CBAM（Convolutional Block Attention Module）只能用在图像分类任务中。这种认知主要源于两方面：

早期论文的实验部分大多以 ImageNet 分类任务作为基准
主流框架的官方实现示例通常只展示分类场景

实际上，CBAM 通过通道和空间双重注意力机制，能够有效增强特征表达，这种能力在目标检测、语义分割等任务中同样宝贵。但直接将分类网络中的 CBAM 模块移植到其他任务时，常会遇到三个典型问题：

特征图尺度变化导致的空间注意力失效
多尺度特征融合时的通道数不匹配
计算开销超出部署设备的承受能力

常见注意力机制的核心差异主要体现在特征处理维度上：

机制类型	操作维度	计算复杂度	适合场景
SE	通道维度	O(C^2)	轻量级网络
CBAM	通道 + 空间	O(C^2+HW)	通用视觉任务
Non-local	全局关系	O((HW)^2)	视频 /3D 数据

通过复杂度公式可以看出，CBAM 在保持较好性能的同时，计算量增长相对可控。特别是在处理高分辨率特征图时，其空间注意力的计算效率明显优于 Non-local 等全局注意力机制。

下面展示如何改造标准 CBAM 模块以适配检测 / 分割任务：

class AdaptiveCBAM(nn.Module):
    def __init__(self, in_channels, reduction_ratio=16, groups=None):
        super().__init__()
        # 通道注意力改造：支持分组卷积降低计算量
        self.channel_att = nn.Sequential(nn.AdaptiveAvgPool2d(1),
            nn.Conv2d(in_channels, in_channels//reduction_ratio, 
                     kernel_size=1, groups=groups or 1),  # 添加分组参数
            nn.ReLU(),
            nn.Conv2d(in_channels//reduction_ratio, in_channels, 
                     kernel_size=1, groups=groups or 1)
        )

        # 空间注意力改造：支持动态尺寸输入
        self.spatial_att = nn.Sequential(nn.Conv2d(2, 1, kernel_size=7, padding=3 if groups==1 else 0),
            nn.BatchNorm2d(1)  # 稳定训练过程
        )

    def forward(self, x):
        # 通道注意力分支
        ca = torch.sigmoid(self.channel_att(x))

        # 空间注意力分支
        sa_input = torch.cat([x.max(dim=1)[0].unsqueeze(1), 
                             x.mean(dim=1).unsqueeze(1)], dim=1)
        sa = torch.sigmoid(self.spatial_att(sa_input))

        return x * ca * sa  # 双重注意力加权

关键改造点说明：