R语言实战：BP神经网络从零实现与关键参数调优指南

1次阅读

共计 2050 个字符，预计需要花费 6 分钟才能阅读完成。

BP 神经网络是一种广泛应用于分类和回归任务的前馈神经网络。在 R 语言中实现 BP 神经网络时，初学者常常会遇到以下问题：

数据未进行标准化处理，导致模型收敛困难
隐藏层节点数设置不合理，过多导致过拟合，过少导致欠拟合
学习率设置不当，太大导致震荡，太小导致收敛缓慢
未考虑激活函数的选择对模型性能的影响

这些问题都会直接影响模型的预测精度和训练效率。本文将带领初学者一步步解决这些问题。

R 语言中有多个包可以实现 BP 神经网络，下面是三个常用包的对比：

包名	优点	缺点	适用场景
neuralnet	实现简单，可视化训练过程	功能相对基础	小型数据集，教学演示
nnet	轻量级，速度快	只能实现单隐藏层	简单分类 / 回归问题
keras	功能强大，支持 GPU 加速	学习曲线较陡	复杂网络结构，大型数据集

首先我们需要加载必要的包并准备数据：

# 加载包
library(neuralnet)
library(caret)

# 加载数据
data(iris)

# 数据预处理
# 将分类变量转换为数值
iris$Species <- as.numeric(iris$Species)

# 数据标准化
maxs <- apply(iris, 2, max)
mins <- apply(iris, 2, min)
scaled <- as.data.frame(scale(iris, center = mins, scale = maxs - mins))

# 划分训练集和测试集
set.seed(123)
trainIndex <- createDataPartition(scaled$Species, p = 0.8, list = FALSE)
train <- scaled[trainIndex,]
test <- scaled[-trainIndex,]

接下来我们使用 neuralnet 包构建 BP 神经网络：

# 构建模型
# hidden=c(5,3) 表示有两个隐藏层，第一个隐藏层有 5 个神经元，第二个有 3 个
# linear.output=FALSE 表示输出层使用非线性激活函数
# act.fct="logistic" 表示使用 sigmoid 激活函数
model <- neuralnet(
    Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width,
    data = train,
    hidden = c(5, 3),
    linear.output = FALSE,
    act.fct = "logistic"
)

# 查看模型结构
plot(model)

训练完成后，我们需要评估模型性能：

# 预测
pred <- compute(model, test[, 1:4])

# 反标准化
pred <- pred$net.result * (max(iris$Species) - min(iris$Species)) + min(iris$Species)

# 计算 RMSE
RMSE <- sqrt(mean((pred - test$Species)^2))
print(paste("RMSE:", RMSE))

通过 plot() 函数可以直观地看到训练过程：

# 绘制训练过程
plot(model)

这个图会显示神经网络的拓扑结构，以及每一步训练的误差变化情况。

学习率的一般设置公式：

learningrate = 1/sqrt(ncol(data))

迭代次数一般从 1000 次开始尝试，可以根据训练误差的变化情况调整。

# 调整学习率和迭代次数
model <- neuralnet(
    Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width,
    data = train,
    hidden = c(5, 3),
    linear.output = FALSE,
    act.fct = "logistic",
    learningrate = 0.01,  # 调整学习率
    stepmax = 10000       # 增加迭代次数
)