使用BP前馈神经网络实现手写数字0-9分类：从理论到实践

1次阅读

共计 2290 个字符，预计需要花费 6 分钟才能阅读完成。

手写数字识别是计算机视觉领域的经典问题，广泛应用于邮政系统（自动识别邮政编码）、银行（支票数字识别）、教育（试卷批改）等场景。MNIST 数据集作为该领域的基准数据集，包含 60,000 张训练图像和 10,000 张测试图像，每张都是 28×28 像素的灰度手写数字（0-9）。

对于新手而言，主要面临三个技术挑战：
– 图像特征的高维度处理（784 个像素点）
– 数字书写风格的巨大差异
– 分类任务的非线性决策边界

常见神经网络结构对比：
– CNN（卷积神经网络）：适合图像但结构复杂
– RNN（循环神经网络）：擅长序列数据但计算成本高
– BP 前馈网络：结构简单、训练速度快，是入门首选

选择 BP 前馈网络的三大理由：
1. 全连接结构能充分学习像素间非线性关系
2. 反向传播算法成熟稳定
3. 对计算资源要求较低

使用 TensorFlow 内置的 MNIST 数据集加载工具：

import tensorflow as tf

# 加载数据
(train_images, train_labels), (test_images, test_labels) = tf.keras.datasets.mnist.load_data()

# 归一化到 [0,1] 范围
train_images = train_images / 255.0
test_images = test_images / 255.0

# 添加通道维度（用于兼容某些框架）train_images = train_images[..., tf.newaxis]
test_images = test_images[..., tf.newaxis]

典型的三层结构：
– 输入层：784 个神经元（对应 28×28 像素）
– 隐藏层：128 个神经元（经验值）
– 输出层：10 个神经元（对应 0 - 9 分类）

model = tf.keras.Sequential([tf.keras.layers.Flatten(input_shape=(28, 28, 1)),
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])

隐藏层使用 ReLU：
优点：缓解梯度消失，计算高效
公式：f(x) = max(0, x)
输出层使用 Softmax：
将输出转化为概率分布
公式：σ(z)_j = e^z_j / Σ(e^z_k)

model.compile(
    optimizer='adam',
    loss='sparse_categorical_crossentropy',
    metrics=['accuracy']
)

– Adam 优化器：自适应学习率
– 交叉熵损失：适合分类任务

import matplotlib.pyplot as plt

# 构建模型
model = tf.keras.Sequential([tf.keras.layers.Flatten(input_shape=(28, 28, 1)),
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dropout(0.2),  # 防止过拟合
    tf.keras.layers.Dense(10, activation='softmax')
])

# 训练配置
model.compile(
    optimizer='adam',
    loss='sparse_categorical_crossentropy',
    metrics=['accuracy']
)

# 训练模型
history = model.fit(
    train_images, train_labels,
    epochs=10,
    validation_data=(test_images, test_labels)
)

# 绘制训练曲线
plt.plot(history.history['accuracy'], label='train')
plt.plot(history.history['val_accuracy'], label='test')
plt.legend()
plt.show()

典型结果：
– 训练集准确率：98%
– 测试集准确率：97%

from sklearn.metrics import confusion_matrix
import seaborn as sns

predictions = model.predict(test_images)
pred_labels = tf.argmax(predictions, axis=1)

cm = confusion_matrix(test_labels, pred_labels)
sns.heatmap(cm, annot=True, fmt='d')
plt.show()