CEEMDAN Transformer：从信号分解到时间序列预测的完整技术解析

1次阅读

没有评论

共计 2895 个字符，预计需要花费 8 分钟才能阅读完成。

在股票价格预测中，我们常遇到突发新闻导致的价格剧烈波动（如图 1 左）；而 EEG 脑电信号分析时，肌电干扰会叠加在真实神经信号上（如图 1 右）。这类非平稳信号的特点包括：

时变统计特性（均值 / 方差随时间变化）
多尺度混杂（高频噪声与低频趋势共存）
非线性相互作用（模态混叠现象）

传统傅里叶变换和小波分析在应对这类问题时，常因基函数固定而导致特征提取失效。这正是经验模态分解（Empirical Mode Decomposition, EMD）系列算法的用武之地。

原始 EMD 算法通过迭代筛分（sifting）提取本征模态函数（IMF），但存在两个致命问题：

模态混叠（Mode Mixing）：不同时间尺度的信号被错误合并到同一 IMF
端点效应（End Effect）：信号两端出现发散现象

集合经验模态分解（EEMD）通过添加高斯白噪声来解决模态混叠：

$$x_n(t) = x(t) + \epsilon w_n(t)$$

其中 $w_n(t)\sim N(0,1)$，$\epsilon$ 为噪声强度。经过多次加噪分解后求平均，但带来新问题：

残留噪声影响重构精度
计算成本呈倍数增长

完全自适应噪声集合经验模态分解（CEEMDAN）做出关键改进：

自适应噪声注入：在每级分解后添加特定噪声
$$IMF_1 = \langle EMD(x+\beta_0 w^n) \rangle$$
残差计算方式优化：
$$r_k(t) = r_{k-1}(t) – IMF_k(t)$$
模态判定准则升级：通过相关系数阈值终止筛分

实验表明，CEEMDAN 在相同迭代次数下，信噪比（SNR）比 EEMD 提升约 3dB（见表 1）。

信号分解层：CEEMDAN 生成 IMF 分量
特征编码层：1D 卷积进行局部特征提取
Transformer 编码器：处理跨模态依赖关系
预测输出层：MLP 生成最终结果

将 K 个 IMF 分量堆叠为 $\mathbb{R}^{K×T}$ 矩阵，通过可学习投影转换为 $d_{model}$ 维度：

# PyTorch 实现示例
self.imf_projection = nn.Linear(num_imfs, d_model)
projected_imfs = self.imf_projection(imfs.transpose(1,2))  # [B,T,K]->[B,T,d]

在 Transformer 的多头注意力中，每个头自动聚焦不同 IMF 组合：

$$Attention(Q,K,V)=softmax(\frac{QK^T}{\sqrt{d_k}})V$$

其中查询矩阵 Q 来自当前 IMF，而键值矩阵 K / V 包含所有 IMF 信息。

pip install PyEMD==1.4.1 torch==2.0.1

from PyEMD import CEEMDAN

ceemdan = CEEMDAN(
    trials=100,  # 噪声添加次数
    noise_width=0.05,  # 建议初始设为信号标准差的 5%
    ext_EMD=None,  # 使用默认筛分停止条件
)
imfs = ceemdan(signal)  # [n_imfs, n_samples]

关键参数调优建议：

噪声强度：通过 SNR 测试选择 0.02-0.1 倍信号标准差
筛分迭代：设置最大迭代 100 次，相关阈值 0.05

class IMFTransformer(nn.Module):
    def __init__(self, num_imfs, d_model=64):
        super().__init__()
        self.encoder = nn.TransformerEncoder(nn.TransformerEncoderLayer(d_model, nhead=8),
            num_layers=3
        )
        self.projection = nn.Linear(num_imfs, d_model)

    def forward(self, x):  # x: [B,T,K]
        x = self.projection(x.transpose(1,2))  # [B,K,T]->[B,K,d]
        x = self.encoder(x)  # 处理跨模态关系
        return x

def create_sliding_windows(data, window_size=100, stride=10):
    return np.lib.stride_tricks.sliding_window_view(data, window_size)[::stride]

# 标准化每个 IMF 分量
scalers = [StandardScaler() for _ in range(num_imfs)]
normalized_imfs = [s.fit_transform(imf) for imf, s in zip(imfs, scalers)]

通过网格搜索发现（图 2）：

噪声 <0.02σ：模态混叠仍存在
噪声 >0.1σ：IMF 物理意义失真
推荐 0.05σ 作为默认值

当 IMF 数量较多时（如 EEG 信号常分解出 12+ 个 IMF）：

梯度检查点技术：
“`python
torch.utils.checkpoint.checkpoint(transformer_layer, x)

2. IMF 分组处理：将相关性高的 IMF 合并（Pearson 系数 >0.7）## 分布式训练配置

```python
# 使用 DDP 加速多 IMF 处理
model = DistributedDataParallel(
    model,
    device_ids=[local_rank],
    output_device=local_rank
)

镜像延拓法实现示例：

def mirror_extension(signal, ext_num=10):
    left_ext = 2*signal[0] - signal[1:ext_num+1][::-1]
    right_ext = 2*signal[-1] - signal[-ext_num-1:-1][::-1]
    return np.concatenate([left_ext, signal, right_ext])