CNN与Transformer模型结构图解析：从入门到实战

1次阅读

共计 1688 个字符，预计需要花费 5 分钟才能阅读完成。

在深度学习领域，卷积神经网络（CNN）和 Transformer 是两种最具影响力的模型架构。CNN 在计算机视觉任务中占据主导地位，而 Transformer 则在自然语言处理（NLP）领域大放异彩。理解这两种模型的结构差异，对于选择适合特定任务的模型至关重要。

CNN：擅长捕捉局部特征，通过卷积核在图像上滑动提取特征，具有平移不变性。
Transformer：基于自注意力机制，能够捕捉长距离依赖关系，适用于序列数据。

CNN 的核心是卷积层、池化层和全连接层。以下是典型 CNN 的结构图描述：

输入层 ：接收图像数据（如 224x224x3）。
卷积层 ：使用多个卷积核提取特征（如 3 ×3 或 5 ×5 的核）。
池化层 ：降低特征图尺寸（如最大池化 2 ×2）。
全连接层 ：将特征映射到类别概率。

Transformer 的核心是多头自注意力机制和前馈神经网络。以下是典型 Transformer 的结构图描述：

输入嵌入层 ：将输入序列转换为向量表示。
位置编码 ：为序列添加位置信息。
多头自注意力层 ：计算输入序列中每个元素与其他元素的关系。
前馈神经网络 ：对每个位置的表示进行非线性变换。

import torch
import torch.nn as nn

class SimpleCNN(nn.Module):
    def __init__(self):
        super(SimpleCNN, self).__init__()
        self.conv1 = nn.Conv2d(3, 16, kernel_size=3, stride=1, padding=1)
        self.pool = nn.MaxPool2d(kernel_size=2, stride=2)
        self.fc = nn.Linear(16 * 112 * 112, 10)  # 假设输入为 224x224

    def forward(self, x):
        x = self.pool(torch.relu(self.conv1(x)))
        x = x.view(-1, 16 * 112 * 112)
        x = self.fc(x)
        return x

import torch
import torch.nn as nn
import torch.nn.functional as F

class SimpleTransformer(nn.Module):
    def __init__(self, d_model=512, nhead=8):
        super(SimpleTransformer, self).__init__()
        self.encoder_layer = nn.TransformerEncoderLayer(d_model, nhead)
        self.transformer_encoder = nn.TransformerEncoder(self.encoder_layer, num_layers=6)
        self.fc = nn.Linear(d_model, 10)

    def forward(self, x):
        x = self.transformer_encoder(x)
        x = self.fc(x.mean(dim=0))  # 取序列均值
        return x