深入解析AlexNet卷积公式：从数学原理到网络模型实现

1次阅读

共计 1898 个字符，预计需要花费 5 分钟才能阅读完成。

AlexNet 在 2012 年 ImageNet 竞赛中以显著优势夺冠，标志着深度学习在计算机视觉领域的崛起。其核心创新之一在于高效利用卷积层提取特征，通过多层卷积和非线性激活的组合，实现了对复杂图像特征的层次化表示。卷积层作为 CNN 的基础组件，负责局部感受野内的特征提取，其数学形式和实现方式直接影响模型性能和计算效率。

卷积操作的数学表达式如下：

$$(I * K)(i,j) = \sum_{m}\sum_{n} I(i+m, j+n) K(m, n)$$

其中：

$I$ 是输入特征图（Height × Width × Channels）
$K$ 是卷积核（Kernel Size × Kernel Size × Input Channels × Output Channels）
$(i,j)$ 表示输出特征图的空间位置

参数说明：

步长（Stride）：控制滑动窗口的移动间隔，直接影响输出特征图的尺寸。设输入尺寸 $W$，卷积核大小 $F$，步长 $S$，则输出宽度为 $(W-F)/S + 1$
填充（Padding）：通过在输入边缘补零控制输出尺寸。’SAME’ 填充保持输入输出尺寸相同：$P = (F-1)/2$
膨胀率（Dilation）：控制卷积核参数间的间距，用于扩大感受野而不增加参数量

以下是 Python 实现的标准卷积操作（基于 NumPy）：

import numpy as np

def conv2d(input, kernel, stride=1, padding=0):
    """
    2D 卷积实现
    :param input: 输入张量 (H, W, C_in)
    :param kernel: 卷积核 (F, F, C_in, C_out)
    :param stride: 步长
    :param padding: 零填充量
    :return: 输出张量 (H_out, W_out, C_out)
    """
    # 添加 padding
    if padding > 0:
        input = np.pad(input, ((padding, padding), (padding, padding), (0, 0)), 
                      mode='constant')

    H, W, C_in = input.shape
    F, _, _, C_out = kernel.shape

    # 计算输出尺寸
    H_out = (H - F) // stride + 1
    W_out = (W - F) // stride + 1

    output = np.zeros((H_out, W_out, C_out))

    # 滑动窗口计算
    for i in range(0, H_out):
        for j in range(0, W_out):
            for k in range(C_out):
                h_start = i * stride
                h_end = h_start + F
                w_start = j * stride
                w_end = w_start + F

                window = input[h_start:h_end, w_start:w_end, :]
                output[i,j,k] = np.sum(window * kernel[:,:,:,k])

    return output

原始卷积实现存在大量重复计算，实际工程中采用以下优化策略：