Python实战：基于BP神经网络的预测模型构建与优化

1次阅读

没有评论

共计 2260 个字符，预计需要花费 6 分钟才能阅读完成。

BP 神经网络（反向传播神经网络）是一种多层前馈网络，通过反向传播算法调整权重，特别适合处理非线性关系预测问题。它的主要优势包括：

强大的非线性拟合能力：可以逼近任意复杂度的函数关系
自适应学习：通过训练数据自动调整网络参数
容错性强：即使部分神经元失效，仍能保持较好的预测性能

典型应用场景包括：

金融领域的股票价格预测
销售领域的市场需求预测
工业领域的设备故障预测
医疗领域的疾病风险预测

在构建 BP 神经网络预测模型时，开发者常遇到以下问题：

数据标准化不足导致收敛困难
隐藏层神经元数量选择缺乏依据
梯度消失 / 爆炸问题影响训练效果
过拟合导致模型泛化能力差

import numpy as np
import pandas as pd
import tensorflow as tf
from sklearn.preprocessing import MinMaxScaler
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error, r2_score

数据标准化是 BP 神经网络训练的关键步骤：

# 加载数据集
data = pd.read_csv('dataset.csv')
X = data.iloc[:, :-1].values  # 特征
Y = data.iloc[:, -1].values   # 标签

# 数据归一化 (0- 1 范围)
scaler = MinMaxScaler()
X_scaled = scaler.fit_transform(X)

# 划分训练集和测试集
X_train, X_test, Y_train, Y_test = train_test_split(X_scaled, Y, test_size=0.2, random_state=42)

构建一个 3 层 BP 神经网络（输入层、隐藏层、输出层）：

model = tf.keras.Sequential([# 输入层 ( 特征维度自动推断)
    tf.keras.layers.InputLayer(input_shape=(X_train.shape[1],)),

    # 隐藏层 (128 个神经元，ReLU 激活)
    tf.keras.layers.Dense(128, activation='relu'),

    # Dropout 层 (防止过拟合)
    tf.keras.layers.Dropout(0.2),

    # 输出层 (线性激活适合回归问题)
    tf.keras.layers.Dense(1, activation='linear')
])

# 编译模型
model.compile(optimizer=tf.keras.optimizers.Adam(learning_rate=0.001),
    loss='mse',  # 均方误差损失
    metrics=['mae']  # 平均绝对误差
)

学习率：0.001-0.01（Adam 优化器可自适应调整）
Batch Size：32-256（取决于数据量和内存）
Epochs：50-500（配合早停法）

es = tf.keras.callbacks.EarlyStopping(
    monitor='val_loss',  # 监控验证集损失
    patience=10,         # 连续 10 轮不改善则停止
    restore_best_weights=True  # 恢复最佳权重
)

history = model.fit(
    X_train, Y_train,
    validation_split=0.2,
    epochs=200,
    batch_size=64,
    callbacks=[es],  # 加入早停回调
    verbose=1
)

对于分类问题，可以采用：

# 类别加权
class_weight = {0: 1, 1: 5}  # 少数类权重更高
model.fit(..., class_weight=class_weight)

# 或使用过采样 / 欠采样技术

减小学习率
增大 batch size
添加梯度裁剪

optimizer = tf.keras.optimizers.Adam(
    learning_rate=0.0001,
    clipvalue=1.0  # 梯度裁剪
)

# 预测
y_pred = model.predict(X_test)

# 计算指标
mse = mean_squared_error(Y_test, y_pred)
r2 = r2_score(Y_test, y_pred)

print(f'MSE: {mse:.4f}')
print(f'R2 Score: {r2:.4f}')

激活函数	适用场景	优势	劣势
Sigmoid	二分类输出层	输出 0 - 1 范围	容易梯度消失
ReLU	隐藏层	计算简单，解决梯度消失	可能出现神经元死亡
LeakyReLU	隐藏层	改善 ReLU 的死亡问题	需要调参