BP神经网络模式识别结构图详解：从理论到实践入门指南

1次阅读

共计 1269 个字符，预计需要花费 4 分钟才能阅读完成。

BP 神经网络通过误差反向传播机制，能够自动学习输入数据的特征表示。其多层结构可逼近任意非线性函数，特别适合解决图像、语音等复杂模式识别问题。相比传统算法，BP 网络具有端到端训练优势，无需人工设计特征提取步骤。

输入层：神经元数量等于特征维度（如 MNIST 图片展平为 784 维）
隐藏层：常用经验公式 $N_h = \sqrt{N_i + N_o} + \alpha$（$\alpha$ 为 5~10 的调节系数）
输出层：神经元数量对应类别数（如 10 分类任务设为 10）

graph LR
    A[输入层] -->| 权重 W1| B[隐藏层]
    B -->| 权重 W2| C[输出层]
    C --> D[误差计算]
    D -->| 梯度传播 | C
    C -->| 梯度传播 | B

import numpy as np

class BPNetwork:
    def __init__(self, input_size, hidden_size, output_size):
        # 权重矩阵维度说明：W1[input_size x hidden_size]
        self.W1 = np.random.randn(input_size, hidden_size) * 0.01
        self.W2 = np.random.randn(hidden_size, output_size) * 0.01

    def sigmoid(self, x):
        return 1 / (1 + np.exp(-x))

from sklearn.preprocessing import MinMaxScaler

# 像素值归一化到[0,1]
scaler = MinMaxScaler()
X_train = scaler.fit_transform(X_train)
# 标签转为 one-hot 编码
Y_train = np.eye(10)[y_train]

初始学习率建议 0.001~0.1，配合 Adam 优化器自动调整
梯度消失时可改用 ReLU 激活函数：$f(x)=max(0,x)$

参考公式：$N_h = \frac{2}{3}(N_i + N_o)$
实际建议：通过网格搜索在 [50, 200] 区间调优

# Softmax 激活函数
def softmax(x):
    exps = np.exp(x - np.max(x))
    return exps / np.sum(exps, axis=1, keepdims=True)

# 交叉熵损失计算
def cross_entropy(y_pred, y_true):
    return -np.mean(y_true * np.log(y_pred + 1e-8))