使用BP前馈神经网络实现手写数字0-9分类：从理论到实践

1次阅读

共计 2595 个字符，预计需要花费 7 分钟才能阅读完成。

手写数字识别是计算机视觉领域的经典问题，在邮政编码识别、银行支票处理、表单数字化等场景有广泛应用。MNIST 数据集作为该领域的基准数据集，包含 60,000 张训练图片和 10,000 张测试图片，每张都是 28×28 像素的灰度手写数字（0-9）。

初学者常面临以下挑战：

图像数据的高维度特性（784 个特征）
数字书写风格的巨大差异
分类任务的非线性决策边界需求

常见解决方案对比：

传统机器学习方法（如 SVM、随机森林）
优点：训练速度快
缺点：需要人工设计特征，准确率上限低（约 95%）
卷积神经网络（CNN）
优点：自动提取空间特征，准确率高（>99%）
缺点：结构复杂，训练时间长
BP 前馈神经网络
优点：结构简单易于理解，准确率可达 98%
缺点：全连接参数较多

选择理由：对于入门学习，BP 网络能更好帮助理解神经网络基础原理，且足以达到实用精度。

使用 TensorFlow 内置 MNIST 数据集：

import tensorflow as tf

# 加载数据
(x_train, y_train), (x_test, y_test) = tf.keras.datasets.mnist.load_data()

# 归一化到 [0,1] 范围
x_train = x_train / 255.0
x_test = x_test / 255.0

# 转换为 float32 并增加通道维度
x_train = x_train.astype('float32').reshape(-1, 784)
x_test = x_test.astype('float32').reshape(-1, 784)

# 标签 one-hot 编码
y_train = tf.keras.utils.to_categorical(y_train, 10)
y_test = tf.keras.utils.to_categorical(y_test, 10)

典型的三层结构：

输入层：784 个神经元（对应 28×28 像素）
隐藏层：128 个神经元（经验值）
输出层：10 个神经元（对应 0 - 9 分类）

model = tf.keras.Sequential([tf.keras.layers.Dense(128, activation='relu', input_shape=(784,)),
    tf.keras.layers.Dense(10, activation='softmax')
])

隐藏层使用 ReLU：
优点：计算简单，缓解梯度消失
公式：f(x) = max(0, x)
输出层使用 Softmax：
将输出转化为概率分布
公式：σ(z)_i = e^z_i / Σe^z_j

model.compile(
    optimizer='adam',
    loss='categorical_crossentropy',
    metrics=['accuracy']
)

分类任务使用交叉熵损失
Adam 优化器自动调整学习率

import matplotlib.pyplot as plt
import numpy as np

# 构建模型
model = tf.keras.Sequential([tf.keras.layers.Dense(128, activation='relu', input_shape=(784,)),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Dense(10, activation='softmax')
])

# 编译模型
model.compile(
    optimizer='adam',
    loss='categorical_crossentropy',
    metrics=['accuracy']
)

# 训练模型
history = model.fit(
    x_train, y_train,
    validation_data=(x_test, y_test),
    epochs=10,
    batch_size=32
)

# 评估模型
plt.plot(history.history['accuracy'], label='train')
plt.plot(history.history['val_accuracy'], label='test')
plt.legend()
plt.show()

# 预测示例
sample = x_test[0].reshape(1, 784)
pred = model.predict(sample)
print(f'预测数字: {np.argmax(pred)}')

测试集准确率：约 98%
混淆矩阵分析易混淆数字对（如 4 /9、5/3）

from sklearn.metrics import confusion_matrix
import seaborn as sns

# 生成混淆矩阵
y_pred = model.predict(x_test)
cm = confusion_matrix(np.argmax(y_test, axis=1), np.argmax(y_pred, axis=1))

# 绘制热力图
plt.figure(figsize=(10,8))
sns.heatmap(cm, annot=True, fmt='d', cmap='Blues')
plt.xlabel('Predicted')
plt.ylabel('True')
plt.show()