深入解析2024全新SOTA轻量化下采样操作ADown：手撕结构图与20%参数量下降实践

1次阅读

没有评论

共计 1720 个字符，预计需要花费 5 分钟才能阅读完成。

在深度学习模型的部署过程中，下采样操作（如池化层）是不可或缺的组成部分。然而，传统下采样方法如 MaxPooling 和 AveragePooling 虽然简单有效，但在参数量和计算效率方面存在明显不足。具体来说：

参数量大 ：传统下采样方法通常需要额外的卷积层来调整通道数，导致参数量增加。
计算效率低 ：尤其是在边缘设备上，过多的计算量会显著拖慢推理速度。
信息丢失 ：MaxPooling 和 AveragePooling 在降维过程中可能会丢失重要特征信息，影响模型性能。

这些问题在轻量化模型设计中尤为突出，因此亟需一种更高效的下采样方法。

ADown 是 2024 年提出的一种全新轻量化下采样操作，其核心优势在于参数量下降 20% 的同时，保持了模型的性能。以下是 ADown 与传统下采样方法的对比：

MaxPooling：简单高效，但无法学习特征，容易丢失细节信息。
AveragePooling：平滑特征，但对噪声敏感，且参数量较高。
ADown：通过轻量化设计，显著减少参数量，同时利用自适应机制保留关键特征。

ADown 的参数量下降主要得益于其独特的结构设计，下文将详细解析。

ADown 的核心思想是通过分组卷积和通道混洗（Channel Shuffle）实现轻量化。以下是其手撕结构图的关键部分：

输入特征图 ：假设输入为 (C \times H \times W) 的张量。
分组卷积 ：将输入通道分为 (G) 组，每组独立进行卷积操作，减少计算量。
通道混洗 ：通过混洗操作促进组间信息交流，避免信息孤岛。
下采样 ：最后通过步长为 2 的卷积实现空间下采样。

这种设计不仅减少了参数量，还通过通道混洗保持了特征的丰富性。

以下是 ADown 的 PyTorch 实现代码：

import torch
import torch.nn as nn
import torch.nn.functional as F

class ADown(nn.Module):
    def __init__(self, in_channels, out_channels, groups=4):
        super(ADown, self).__init__()
        self.groups = groups
        self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=3, stride=2, padding=1, groups=groups)
        self.bn = nn.BatchNorm2d(out_channels)
        self.act = nn.ReLU(inplace=True)

    def forward(self, x):
        x = self.conv(x)
        x = self.bn(x)
        x = self.act(x)
        # Channel Shuffle
        batch_size, channels, height, width = x.size()
        channels_per_group = channels // self.groups
        x = x.view(batch_size, self.groups, channels_per_group, height, width)
        x = torch.transpose(x, 1, 2).contiguous()
        x = x.view(batch_size, -1, height, width)
        return x

我们在 ImageNet 数据集上对比了 ADown 与传统下采样方法的性能：