从零开始理解cerl因果推断：原理、实现与避坑指南

1次阅读

没有评论

共计 2269 个字符，预计需要花费 6 分钟才能阅读完成。

在数据分析中，我们常常发现两个变量之间存在相关性。比如冰淇淋销量和溺水事件在夏季呈现正相关，但这并不意味着吃冰淇淋会导致溺水。这就是相关性（correlation）和因果关系（causation）的区别。

传统机器学习模型擅长捕捉相关性，但在需要决策的场合（比如医疗治疗方案选择、商业策略制定），我们更关心的是 干预后的效果——这正是因果推断的核心价值。

cerl（Causal Effect Representation Learning）是一种将深度表示学习与因果推断结合的框架，相比传统方法（如倾向得分匹配）有三大优势：

自动特征提取：通过神经网络学习混淆变量的低维表示
非线性关系建模：可以捕捉治疗变量与结果之间的复杂交互
端到端训练：避免了多阶段估计的误差累积

其核心思想可用以下公式表示：

ATE = E[Y|do(T=1)] - E[Y|do(T=0)]

其中 do 运算符表示干预操作，这正是因果推断与相关分析的本质区别。

以下是使用 Python 实现 cerl 因果推断的完整流程：

import torch
import numpy as np
from sklearn.preprocessing import StandardScaler

# 数据准备（示例数据）# X: 混淆变量, T: 处理变量, Y: 结果变量
X = np.random.randn(1000, 5)  # 5 个混淆变量
T = np.random.binomial(1, 0.5, 1000)  # 二元处理变量
Y = 0.5*T + X[:,0] + 0.3*X[:,1] + np.random.normal(0,0.1,1000)

# 数据标准化
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# cerl 模型定义
class CERL(torch.nn.Module):
    def __init__(self, input_dim):
        super().__init__()
        self.rep_net = torch.nn.Sequential(torch.nn.Linear(input_dim, 16),
            torch.nn.ReLU(),
            torch.nn.Linear(16, 8)
        )
        self.out_net = torch.nn.Linear(8 + 1, 1)  # +1 for treatment

    def forward(self, x, t):
        rep = self.rep_net(x)
        inp = torch.cat([rep, t.unsqueeze(1)], dim=1)
        return self.out_net(inp)

# 模型训练
model = CERL(X_scaled.shape[1])
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

X_tensor = torch.FloatTensor(X_scaled)
T_tensor = torch.FloatTensor(T)
Y_tensor = torch.FloatTensor(Y).unsqueeze(1)

for epoch in range(100):
    optimizer.zero_grad()
    pred = model(X_tensor, T_tensor)
    loss = torch.nn.MSELoss()(pred, Y_tensor)
    loss.backward()
    optimizer.step()

# 因果效应估计
with torch.no_grad():
    # 计算干预 T = 1 和 T = 0 时的预测差异
    y1 = model(X_tensor, torch.ones_like(T_tensor))
    y0 = model(X_tensor, torch.zeros_like(T_tensor))
    ate = (y1 - y0).mean()

print(f"估计的平均处理效应(ATE): {ate.item():.3f}")

实践中常见的数据问题包括：

选择偏差：处理组和对照组分布不一致
解决方案：使用倾向得分加权或匹配
未观测混淆变量：影响处理分配和结果的隐藏因素
解决方案：引入工具变量或进行敏感性分析

关键步骤：

绘制因果图明确变量关系

使用 DoWhy 库验证因果假设

from dowhy import CausalModel

# 创建因果模型
model = CausalModel(
    data=df,
    treatment='T',
    outcome='Y',
    graph="""digraph {U [unobserved=true];
    X -> T; X -> Y; 
    U -> T; U -> Y;
}"""
)

# 估计因果效应
estimate = model.estimate_effect(
    identified_estimand,
    method_name="backdoor.linear_regression"
)

面对大规模数据时：