基于CEEMDAN和Transformer的时序信号分解与预测实战

1次阅读

共计 2179 个字符，预计需要花费 6 分钟才能阅读完成。

时序预测在金融、气象等领域有着广泛应用，但传统方法在处理非平稳信号时往往表现不佳。常见的 ARIMA 模型假设数据是平稳的，对于复杂的非平稳信号难以建模。单一的 LSTM 等 RNN 模型虽然在捕捉时序依赖上有一定优势，但面对多尺度变化的信号时，仍然存在模态混叠和长期依赖捕捉困难的问题。

模态混叠 ：在信号分解过程中，不同频率的成分混在一起，难以清晰分离
长期依赖 ：传统 RNN 在长序列上容易出现梯度消失或爆炸，难以有效建模远距离依赖关系
非平稳性 ：现实中的时序数据往往包含趋势、周期和噪声等多种成分，传统方法难以自适应处理

CEEMDAN（自适应噪声完备集合经验模态分解）是对传统 EMD 方法的改进，主要优势在于：

通过自适应加入白噪声，有效缓解模态混叠问题
完备的集合平均策略，减少重构误差
自动确定 IMF（本征模态函数）数量，减少人工干预

数学表达式上，CEEMDAN 的第 k 个 IMF 分量为：

IMF_k = \frac{1}{N}\sum_{i=1}^N (r_{k-1,i} - r_{k,i})

其中 N 是噪声添加次数，r_{k,i} 表示第 k 阶段第 i 次试验的残差。

选择 Transformer 作为预测模块的原因：

长期依赖 ：自注意力机制可以捕捉任意距离的依赖关系
并行计算 ：相比 RNN 的序列计算，Transformer 可以并行处理整个序列
位置编码 ：通过正弦位置编码保留时序信息，弥补无递归结构的不足

对原始信号 x(t) 添加白噪声，得到噪声化信号 x_i(t) = x(t) + βw_i(t)
对每个 x_i(t) 进行 EMD 分解，得到第一阶 IMF1
计算总体平均作为最终 IMF1
对残差 r1 = x(t) – IMF1 重复上述过程，直至满足停止条件

针对时序数据特点，我们对标准 Transformer 做了以下改进：

位置编码 ：使用可学习的位置编码替代固定正弦编码
局部注意力 ：在较低层使用局部窗口注意力，减少计算量
因果掩码 ：确保预测时只能看到历史信息

from PyEMD import CEEMDAN
import numpy as np

# 生成示例信号
t = np.linspace(0, 1, 1000)
signal = np.sin(2*np.pi*10*t) + 0.5*np.sin(2*np.pi*20*t)

# 初始化 CEEMDAN
ceemdan = CEEMDAN()
ceemdan.ceemdan(signal)
imfs, res = ceemdan.get_imfs_and_residue()

# 可视化分解结果
import matplotlib.pyplot as plt
for i, imf in enumerate(imfs):
    plt.subplot(len(imfs)+1, 1, i+1)
    plt.plot(imf)
plt.show()

import torch
import torch.nn as nn

class TimeSeriesTransformer(nn.Module):
    def __init__(self, input_dim, d_model, nhead, num_layers):
        super().__init__()
        self.input_proj = nn.Linear(input_dim, d_model)
        self.pos_encoder = PositionalEncoding(d_model)
        encoder_layer = nn.TransformerEncoderLayer(d_model, nhead)
        self.transformer = nn.TransformerEncoder(encoder_layer, num_layers)
        self.output = nn.Linear(d_model, 1)

    def forward(self, x):
        # x: (seq_len, batch, input_dim)
        x = self.input_proj(x)
        x = self.pos_encoder(x)
        x = self.transformer(x)
        return self.output(x)