BP神经网络与前馈神经网络：新手入门指南与核心差异解析

1次阅读

共计 1101 个字符，预计需要花费 3 分钟才能阅读完成。

神经网络是模仿生物神经元结构的计算模型，由输入层、隐藏层和输出层组成。前馈神经网络（Feedforward Neural Network, FNN）是最基础的网络类型，而 BP 神经网络（Backpropagation Neural Network）则是通过反向传播算法训练的前馈网络。两者的核心差异在于训练机制而非结构。

连接方式
前馈神经网络：数据单向流动（输入→输出），无循环连接
BP 神经网络：同属前馈结构，但通过反向传播更新权重
信号传播
前馈网络：仅前向计算预测值
BP 网络：前向传播计算输出 + 反向传播误差信号

反向传播通过链式法则计算梯度：

$$
\frac{\partial E}{\partial w_{ij}} = \frac{\partial E}{\partial o_j} \cdot \frac{\partial o_j}{\partial net_j} \cdot \frac{\partial net_j}{\partial w_{ij}}
$$

其中 $E$ 为损失函数，$w_{ij}$ 是神经元 $i$ 到 $j$ 的权重。

import numpy as np

class BPNeuralNetwork:
    def __init__(self, layers):
        # 网络初始化
        self.weights = [np.random.randn(y, x) 
                        for x, y in zip(layers[:-1], layers[1:])]

    def sigmoid(self, x):
        return 1 / (1 + np.exp(-x))

    def forward(self, X):
        # 前向传播
        self.activations = [X]
        for w in self.weights:
            X = self.sigmoid(np.dot(X, w.T))
            self.activations.append(X)
        return X