共计 1851 个字符，预计需要花费 5 分钟才能阅读完成。
房价预测的业务价值与技术挑战
房价预测是房地产和金融领域的经典问题，准确的预测能帮助投资者决策、银行评估贷款风险，甚至影响城市规划政策。但影响房价的因素复杂（如地理位置、房间数、犯罪率等），传统统计方法难以捕捉非线性关系。
线性回归 vs 神经网络
- 线性回归：适合特征与目标呈简单线性关系的场景，如 $y=WX+b$。波士顿数据中部分特征（如房间数）与房价确实存在线性趋势
- 神经网络：通过隐藏层和非线性激活函数（如 ReLU）能学习复杂模式。当特征间存在交互作用（如 ” 学区质量 + 房屋年龄 ” 共同影响价格）时表现更优
实战步骤详解
1. 数据加载与标准化
from sklearn.datasets import load_boston
from sklearn.preprocessing import StandardScaler
import numpy as np
# 加载数据
boston = load_boston()
X, y = boston.data, boston.target
# 标准化（关键！）scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
y_scaled = (y - y.mean()) / y.std() # 输出值也需缩放避坑提示：未标准化的数据会导致梯度下降震荡。例如犯罪率（0-100）和房间数（3-9）量纲差异过大会影响权重更新。
2. 构建 BP 神经网络
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense
model = Sequential([Dense(64, activation='relu', input_shape=(X.shape[1],)), # 隐藏层 1
Dense(32, activation='relu'), # 隐藏层 2
Dense(1) # 输出层
])
model.compile(optimizer='adam', loss='mse') # MSE 适合回归问题参数解析：
– 64/32：按经验公式 $ 隐藏神经元≈(输入数 + 输出数)/2$ 初步设定
– ReLU：相比 Sigmoid 能缓解梯度消失
– Adam：自适应学习率优化器
3. 训练与可视化
history = model.fit(X_scaled, y_scaled,
epochs=200,
validation_split=0.2,
callbacks=[EarlyStopping(patience=10)])
# 绘制损失曲线
plt.plot(history.history['loss'], label='训练集')
plt.plot(history.history['val_loss'], label='验证集')
plt.legend(); plt.xlabel('Epoch'); plt.ylabel('MSE')
关键技术分析
学习率对比实验
| 学习率 | 收敛 epoch | 最终 MSE |
|---|---|---|
| 0.1 | 震荡发散 | NaN |
| 0.01 | 50 | 0.25 |
| 0.001 | 120 | 0.18 |
结论：过大学习率导致无法收敛，过小则训练缓慢。建议先用默认 Adam 参数。
早停法实现
from tensorflow.keras.callbacks import EarlyStopping
es = EarlyStopping(
monitor='val_loss',
patience=5, # 允许连续 5 轮不改善
restore_best_weights=True # 回溯到最佳权重
)常见问题解决方案
- 特征缩放：
- 使用
StandardScaler或MinMaxScaler -
测试集必须用训练集的缩放参数（避免数据泄露）
-
网络结构设计：
- 初始尝试：1- 2 隐藏层，神经元数按 $(输入 + 输出)/2$ 设置
-
加深网络可能需配合 Dropout 层防过拟合
-
输出层配置：
- 回归问题：线性激活 +MAE/MSE 损失
- 分类问题：Sigmoid/Softmax 激活 + 交叉熵损失
思考与延伸
当前模型仅用 80% 数据训练，如何利用全部数据？可尝试：
- 10 折交叉验证
- 交叉验证 + 早停法组合
- 集成多个模型的预测结果
代码实现留给读者练习，关键提示：
from sklearn.model_selection import KFold
kf = KFold(n_splits=10)
for train_idx, val_idx in kf.split(X):
# 分割数据并训练...通过本实践，我们不仅掌握了 BP 神经网络的实现流程，更理解了每个设计决策背后的原理。建议尝试调整网络深度、激活函数类型等参数，观察模型表现的变化。
正文完
