CNN与Transformer模型结构图解析：从入门到实战

1次阅读

共计 1769 个字符，预计需要花费 5 分钟才能阅读完成。

在深度学习的快速发展中，CNN（卷积神经网络）和 Transformer 已成为两大主流架构。CNN 因其在图像处理中的卓越表现而广为人知，而 Transformer 则在自然语言处理（NLP）领域大放异彩。理解这两种模型的结构和原理，对于初学者来说至关重要。

CNN 的核心是卷积层，它通过卷积核（filter）在输入数据上滑动，提取局部特征。典型的 CNN 结构包括：

输入层：接收原始图像数据。
卷积层：提取特征，通过多个卷积核生成特征图。
池化层：降低特征图维度，减少计算量。
全连接层：将提取的特征用于分类或回归任务。

Transformer 的核心是自注意力机制（Self-Attention），它能够捕捉输入序列中不同位置之间的关系。典型的 Transformer 结构包括：

输入嵌入层：将输入序列转换为向量表示。
位置编码：为序列中的每个位置添加位置信息。
自注意力层：计算序列中每个元素与其他元素的关系。
前馈神经网络：对自注意力层的输出进行进一步处理。
输出层：生成最终的预测结果。

通过结构图可以直观地看到，CNN 更注重局部特征的提取，而 Transformer 则通过自注意力机制捕捉全局依赖关系。这使得 CNN 在图像任务中表现优异，而 Transformer 在序列任务（如 NLP）中更具优势。

import torch
import torch.nn as nn

class SimpleCNN(nn.Module):
    def __init__(self):
        super(SimpleCNN, self).__init__()
        self.conv1 = nn.Conv2d(3, 16, kernel_size=3, stride=1, padding=1)
        self.pool = nn.MaxPool2d(kernel_size=2, stride=2)
        self.fc1 = nn.Linear(16 * 16 * 16, 10)  # 假设输入图像大小为 32x32

    def forward(self, x):
        x = self.pool(torch.relu(self.conv1(x)))
        x = x.view(-1, 16 * 16 * 16)
        x = self.fc1(x)
        return x

import torch
import torch.nn as nn
import torch.nn.functional as F

class SimpleTransformer(nn.Module):
    def __init__(self, input_dim, hidden_dim, num_heads):
        super(SimpleTransformer, self).__init__()
        self.embedding = nn.Linear(input_dim, hidden_dim)
        self.attention = nn.MultiheadAttention(hidden_dim, num_heads)
        self.fc = nn.Linear(hidden_dim, 10)  # 假设输出类别数为 10

    def forward(self, x):
        x = self.embedding(x)
        x = x.unsqueeze(0)  # 添加 batch 维度
        x, _ = self.attention(x, x, x)
        x = x.squeeze(0)
        x = self.fc(x)
        return x