1DCNN结合注意力机制：时序数据分类的优化方案与实践

1次阅读

没有评论

共计 2022 个字符，预计需要花费 6 分钟才能阅读完成。

时序数据分类（如 ECG 信号、工业传感器数据）常面临两个核心问题：

局部特征依赖：传统 1DCNN 通过卷积核滑动捕获局部模式，但难以建模远距离时间点间的语义关联。例如 ECG 中的 R 波与 T 波间隔可能超过 100 个采样点，标准 3 层 CNN 的感受野仅能覆盖约 24 个点（kernel_size= 8 时）。
特征通道冗余：多通道传感器数据中（如 6 轴 IMU），不同通道的重要性差异显著。但普通 CNN 平等对待所有通道，导致噪声通道干扰有效特征提取。

原理：对每个通道赋予可学习的权重
优势：计算量小（仅需全局平均池化 + 两个全连接层）
局限：忽略空间维度关系

原理：串联通道注意力和空间注意力
优势：同时优化通道和空间维度
局限：参数量增加约 15%

对于采样率 >100Hz 的传感器数据，建议使用 CBAM；低频数据（如 ECG）用 SE 模块即可。

class ChannelAttention(nn.Module):
    def __init__(self, channels, reduction=16):
        super().__init__()
        # 输入维度: [B, C, L]
        self.gap = nn.AdaptiveAvgPool1d(1)  # 压缩空间维度
        self.fc = nn.Sequential(nn.Linear(channels, channels // reduction),
            nn.ReLU(),
            nn.Linear(channels // reduction, channels),
            nn.Sigmoid())

    def forward(self, x):
        b, c, _ = x.shape
        y = self.gap(x).view(b, c)  # [B, C, 1] -> [B, C]
        y = self.fc(y).view(b, c, 1)  # [B, C] -> [B, C, 1]
        return x * y  # 广播机制自动扩展

class SpatialAttention(nn.Module):
    def __init__(self, kernel_size=7):
        super().__init__()
        # 输入维度: [B, C, L]
        self.conv = nn.Conv1d(2, 1, kernel_size, padding=kernel_size//2)
        self.sigmoid = nn.Sigmoid()

    def forward(self, x):
        avg_out = torch.mean(x, dim=1, keepdim=True)  # [B, 1, L]
        max_out, _ = torch.max(x, dim=1, keepdim=True)  # [B, 1, L]
        y = torch.cat([avg_out, max_out], dim=1)  # [B, 2, L]
        y = self.conv(y)  # [B, 1, L]
        return x * self.sigmoid(y)

class Attn1DCNN(nn.Module):
    def __init__(self, input_channels=6, num_classes=5):
        super().__init__()
        self.features = nn.Sequential(nn.Conv1d(input_channels, 64, 8),
            nn.BatchNorm1d(64),
            nn.ReLU(),
            ChannelAttention(64),  # 插入通道注意力
            nn.MaxPool1d(2),

            nn.Conv1d(64, 128, 5),
            SpatialAttention(),  # 插入空间注意力
            nn.MaxPool1d(2)
        )
        self.classifier = nn.Linear(128 * 15, num_classes)  # 假设最终特征长度为 15

在 UCR 的 ECG200 数据集（200 条心电图记录）上的测试结果：