时序预测实战：ARIMA、LSTM与Transformer模型选型与优化指南

1次阅读

共计 2257 个字符，预计需要花费 6 分钟才能阅读完成。

在实际业务中，时序预测往往面临以下典型挑战：

多周期混合：如电商数据同时包含日销量波动和季度大促周期
非线性依赖：气温对空调销量的影响存在阈值效应（如超过 30℃后销量激增）
稀疏事件干扰：突发新闻导致股价异常波动
数据漂移：用户行为模式随产品改版发生渐变

维度	ARIMA	LSTM	Transformer
计算效率	⭐⭐⭐⭐⭐（毫秒级）	⭐⭐⭐（需 GPU 加速）	⭐⭐（训练成本高）
长序列处理	依赖差分阶数	50-100 步效果佳	100+ 步仍保持优势
可解释性	统计量明确	黑盒结构	注意力权重可部分解释
数据要求	需平稳性处理	适应多种分布	需要大量训练数据

# 数据平稳性检验（ADF 测试）from statsmodels.tsa.stattools import adfuller
adf_result = adfuller(df['load'])
print(f'ADF 统计量：{adf_result[0]}, p 值：{adf_result[1]}')

# 自动定阶（基于 AIC 准则）from pmdarima import auto_arima
model = auto_arima(df['load'], seasonal=True, m=24)
print(f'最优参数：(p,d,q)={model.order}, (P,D,Q)m={model.seasonal_order}')

# 预测可视化
forecast = model.predict(n_periods=48)
plt.plot(df['load'], label='实际值')
plt.plot(forecast, label='预测值', linestyle='--')

关键点：
– 差分阶数 d 通过 ADF 检验确定，直到 p 值 <0.05
– 季节周期 m 需根据业务设置（电力数据通常 24 小时周期）

# Seq2Seq 结构定义
class Seq2SeqLSTM(nn.Module):
    def __init__(self, input_dim=10):
        super().__init__()
        self.encoder = nn.LSTM(input_dim, 64, bidirectional=True)
        self.decoder = nn.LSTM(64*2, 32)  # 双向拼接后维度翻倍
        self.fc = nn.Linear(32, 1)

    def forward(self, x):
        enc_out, _ = self.encoder(x)
        dec_out, _ = self.decoder(enc_out[-1:].repeat(10,1,1))  # 最后时刻状态作为初始
        return self.fc(dec_out)

# 滑动窗口数据生成
def create_dataset(data, lookback=60):
    X, y = [], []
    for i in range(len(data)-lookback-10):  # 预测未来 10 步
        X.append(data[i:i+lookback])
        y.append(data[i+lookback:i+lookback+10])
    return torch.FloatTensor(X), torch.FloatTensor(y)

避坑指南：
– 双向 LSTM 最后层需要 enc_out[-1] 取正向和反向的拼接结果
– 预测步长超过训练序列时，建议使用自回归（autoregressive）方式逐步预测

# 位置编码改进（考虑周期性）class CyclicPositionalEncoding(nn.Module):
    def __init__(self, d_model, max_len=5000):
        super().__init__()
        position = torch.arange(max_len).unsqueeze(1)
        div_term = torch.exp(torch.arange(0, d_model, 2) * (-math.log(10000.0) / d_model))
        pe = torch.zeros(max_len, d_model)
        pe[:, 0::2] = torch.sin(position * div_term * 2 * math.pi / 24)  # 24 小时周期
        pe[:, 1::2] = torch.cos(position * div_term * 2 * math.pi / 24)
        self.register_buffer('pe', pe)

# 注意力掩码设置（避免未来信息泄漏）mask = torch.triu(torch.ones(seq_len, seq_len) * float('-inf'), diagonal=1)