Python实战：BP神经网络预测模型构建与优化指南

1次阅读

共计 3132 个字符，预计需要花费 8 分钟才能阅读完成。

BP 神经网络作为经典的深度学习模型，在预测任务中常遇到三大痛点：

梯度消失问题：深层网络在反向传播时梯度逐层衰减，导致底层参数更新缓慢
过拟合现象：模型在训练集表现优异但测试集性能骤降，尤其常见于小样本场景
超参数敏感：学习率、批大小等参数对模型效果影响显著但难以手动调优

主流框架对比（基于 Python 3.8+ 环境）：

特性	TensorFlow 2.x	PyTorch
API 风格	Keras 高层 API 更易上手	动态图更灵活
部署便利性	SavedModel 格式通用性强	TorchScript 跨平台支持好
调试难度	静态图调试较复杂	动态图调试友好
典型应用场景	生产环境快速部署	研究原型快速迭代

from sklearn.preprocessing import MinMaxScaler
import numpy as np

# 生成示例数据（时间序列）data = np.random.rand(1000, 5) * 100  # 1000 个样本，5 个特征

# 归一化到 [0,1] 范围
scaler = MinMaxScaler()
normalized_data = scaler.fit_transform(data)

# 重要提醒：测试集应使用训练集的 scaler 对象
# test_data = scaler.transform(test_data)  # 避免数据泄露

from tensorflow.keras.layers import Input, Dense, Dropout
from tensorflow.keras.models import Model

# 输入层（注意维度与特征数匹配）inputs = Input(shape=(5,))  

# 隐藏层设计（含 Dropout 正则化）x = Dense(64, activation='relu')(inputs)
x = Dropout(0.2)(x)  # 20% 神经元随机失活
x = Dense(32, activation='relu')(x)

# 输出层（回归任务使用线性激活）outputs = Dense(1)(x)  

model = Model(inputs=inputs, outputs=outputs)

# 损失函数选择（分类任务示例）from tensorflow.keras.losses import BinaryCrossentropy

model.compile(
    optimizer='adam',
    loss=BinaryCrossentropy(),
    metrics=['accuracy']
)

# 早停法回调（监控验证集损失）from tensorflow.keras.callbacks import EarlyStopping
early_stop = EarlyStopping(
    monitor='val_loss', 
    patience=10,  # 允许 10 轮不提升
    restore_best_weights=True
)

# 保存完整模型（HDF5 格式）model.save('bp_model.h5', save_format='h5')

# 加载模型进行推理
from tensorflow.keras.models import load_model
loaded_model = load_model('bp_model.h5')

import tensorflow as tf

# 按需分配 GPU 内存
gpus = tf.config.experimental.list_physical_devices('GPU')
if gpus:
    try:
        for gpu in gpus:
            tf.config.experimental.set_memory_growth(gpu, True)
    except RuntimeError as e:
        print(e)

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split

# 加载数据
boston = load_boston()
X, y = boston.data, boston.target

# 划分训练 / 测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

# 训练模型（包含验证集）history = model.fit(
    X_train, y_train,
    validation_data=(X_test, y_test),
    epochs=100,
    callbacks=[early_stop]
)

import matplotlib.pyplot as plt

plt.plot(history.history['loss'], label='Train Loss')
plt.plot(history.history['val_loss'], label='Validation Loss')
plt.xlabel('Epochs')
plt.ylabel('MSE Loss')
plt.legend()
plt.show()

from sklearn.model_selection import GridSearchCV
from tensorflow.keras.wrappers.scikit_learn import KerasRegressor

# 封装 Keras 模型为 scikit-learn 接口
def build_model(learning_rate=0.001):
    model = create_model()  # 参照前文创建模型
    model.compile(optimizer=tf.keras.optimizers.Adam(learning_rate),
                  loss='mse')
    return model

param_grid = {'batch_size': [32, 64],
    'epochs': [50, 100],
    'learning_rate': [0.01, 0.001]
}

grid = GridSearchCV(estimator=model, param_grid=param_grid, cv=3)
grid_result = grid.fit(X_train, y_train)

import shap

# 创建解释器
explainer = shap.DeepExplainer(model, X_train[:100])  # 使用部分训练数据

# 计算 SHAP 值
shap_values = explainer.shap_values(X_test[:10])

# 可视化单个预测解释
shap.initjs()
shap.force_plot(explainer.expected_value[0], shap_values[0][0], X_test[0])