1维卷积神经网络结构图解析：从原理到高效实现

1次阅读

没有评论

共计 2009 个字符，预计需要花费 6 分钟才能阅读完成。

在处理时间序列数据（如传感器读数、音频波形、股票价格）时，传统方法如 RNN 虽然能捕捉时间依赖，但存在梯度消失和训练速度慢的问题。1D CNN 通过局部感受野和权值共享，既能捕捉局部特征，计算效率又远高于 RNN。

RNN 的局限：
必须按时间步顺序计算，难以并行化
长距离依赖易出现梯度消失
1D CNN 的优势：
可并行计算所有时间位置的卷积
通过堆叠卷积层自然扩大感受野
参数量远小于相同深度的 RNN

典型的 1D CNN 结构包含以下层级（假设输入为长度 100 的时间序列）：

输入层：形状为(batch_size, 1, 100)，1 表示单通道
卷积层 1 ：
kernel_size=5（每次看 5 个时间点）
stride=1（滑动步长）
padding=2（两端各补 2 个零，保持输出长度不变）
输出形状：(batch_size, 32, 100)（32 个特征图）
ReLU 激活：引入非线性
最大池化：kernel_size=2，将序列长度减半→(batch_size, 32, 50)
卷积层 2 ：kernel_size=3, stride=1, padding=1→(batch_size, 64, 50)
全局平均池化：将每个特征图取平均→(batch_size, 64)
全连接层：输出预测结果

参数设计经验：
– 首层 kernel_size 通常较大（5-10），用于捕捉宏观模式
– 深层用较小 kernel（3-5），提取细节特征
– stride>1 可替代池化，减少计算量

import torch
import torch.nn as nn

class CNN1D(nn.Module):
    def __init__(self, input_len=100):
        super().__init__()
        self.conv_net = nn.Sequential(# 输入形状: (batch, 1, input_len)
            nn.Conv1d(1, 32, kernel_size=5, padding=2),
            nn.ReLU(),
            nn.MaxPool1d(2),  # 长度减半

            nn.Conv1d(32, 64, kernel_size=3, padding=1),
            nn.ReLU(),
            nn.AdaptiveAvgPool1d(1)  # 全局池化
        )
        self.classifier = nn.Linear(64, 2)  # 假设二分类

    def forward(self, x):
        # x: (batch, 1, seq_len)
        features = self.conv_net(x).squeeze(-1)  # 移除长度维度
        return self.classifier(features)

# 示例训练循环
model = CNN1D()
criterion = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

for epoch in range(10):
    for x, y in train_loader:  # x: (batch,1,100), y: (batch,)
        pred = model(x)
        loss = criterion(pred, y)

        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

Batch Size 选择：
GPU 显存允许时尽量用大 batch（如 256）
小 batch（<32）可能导致梯度更新不稳定

混合精度训练：

scaler = torch.cuda.amp.GradScaler()
with torch.cuda.amp.autocast():
    pred = model(x)
    loss = criterion(pred, y)
scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()