轻量级模型优化实战：基于多功能部分卷积（MPConv）的下采样策略

1次阅读

共计 1851 个字符，预计需要花费 5 分钟才能阅读完成。

在移动端部署深度学习模型时，传统下采样方法面临两大核心矛盾：

计算资源消耗 ：常规卷积下采样（stride>1）的 FLOPs 计算公式为
$$FLOPs = C_{in} \times C_{out} \times K_h \times K_w \times H_{out} \times W_{out}$$
其中 $K$ 为卷积核尺寸，当 stride 从 2 增加到 4 时，计算量呈平方级下降，但会引发特征信息丢失
信息保留难题 ：MaxPooling 虽能减少参数，但其硬性保留最大值特性会导致：
纹理细节丢失（如边缘模糊）
梯度稀疏化（反向传播时只有最大值位置有梯度）

方法	FLOPs(G)	参数量 (M)	信息保留能力
常规卷积 (stride=2)	1.12	0.58	中等
空洞卷积 (rate=2)	4.48	0.58	高
深度可分离卷积	0.28	0.15	低
MPConv	0.31	0.18	高

MPConv 的核心优势在于：

多分支权重共享 ：并行使用不同感受野的卷积核，共享基础权重矩阵
动态步长适应 ：根据输入特征图复杂度自动调整采样间隔

import torch
import torch.nn as nn
import torch.nn.functional as F

class MPConv(nn.Module):
    def __init__(self, in_ch, out_ch, max_stride=4):
        super().__init__()
        self.base_conv = nn.Conv2d(in_ch, out_ch//4, 3, padding=1)
        self.stride_adjustor = nn.Linear(1, max_stride)  # 动态步长预测

        # 多分支卷积核（共享基础权重）self.branches = nn.ModuleList([nn.Conv2d(out_ch//4, out_ch//4, k, padding=k//2)
            for k in [1,3,5]
        ])

    def forward(self, x):
        # 基础特征提取
        base_feat = self.base_conv(x)

        # 动态步长计算（基于特征复杂度）complexity = x.abs().mean().unsqueeze(0)
        stride = int(self.stride_adjustor(complexity).argmax()) + 1

        # 多分支特征融合
        branch_feats = [branch(base_feat) for branch in self.branches]
        fused_feat = torch.cat(branch_feats, dim=1)

        # 自适应下采样
        if stride > 1:
            _, _, h, w = fused_feat.shape
            return F.avg_pool2d(fused_feat, kernel_size=stride, stride=stride)
        return fused_feat

关键实现细节：