因果推断实战：基于Brady Neal框架解决观测数据中的混杂变量问题

1次阅读

共计 2103 个字符，预计需要花费 6 分钟才能阅读完成。

在数据科学和机器学习领域，因果推断正变得越来越重要。与传统的统计方法不同，因果推断不仅关注相关性，更关注因果关系。在本文中，我将分享如何使用 Brady Neal 提出的因果推断框架来解决观测数据中的混杂变量问题。

观测数据与实验数据最大的区别在于缺乏随机化。在观测数据中，混杂变量（confounders）会导致估计偏差，使得我们无法准确评估干预（treatment）对结果（outcome）的真实影响。混杂变量既影响干预变量，又影响结果变量，如果不加以控制，就会导致虚假关联。

示例：研究吸烟对肺癌的影响时，年龄可能是一个混杂变量，因为年龄较大的人更可能吸烟，同时也更可能患肺癌。
传统统计方法（如回归分析）可能无法完全解决这个问题，因为它们通常假设所有相关变量都已包含在模型中。

传统统计方法（如多元回归）和因果推断框架在处理混杂变量时有显著差异：

传统统计方法 ：
依赖于条件独立性假设
难以处理未观测到的混杂因素
通常需要较强的函数形式假设
因果推断框架 ：
明确建模因果关系（使用因果图 /DAG）
可以处理未观测到的混杂因素（通过工具变量等方法）
更关注识别策略而非特定模型形式
提供更可靠的因果效应估计

Brady Neal 的框架特别强调因果图的构建和双重机器学习的应用，这两种方法结合起来可以有效地解决观测数据中的因果推断问题。

因果图（有向无环图，DAG）是因果推断的基础工具。它帮助我们可视化变量间的因果关系，并识别需要控制的混杂变量。

构建步骤 ：
确定核心变量：干预（T）、结果（Y）和可能的混杂变量（X）
绘制变量间的因果关系箭头
应用后门准则（backdoor criterion）识别需要控制的变量集
示例 DAG：
```
X1 -> T -> Y
X2 -> T
X2 -> Y
```
在这个例子中，X1 和 X2 都是需要控制的混杂变量。

双重机器学习（Double ML）是 Brady Neal 框架中的核心方法，它通过两阶段估计来消除混杂偏差。

数学表达 ：
第一阶段：分别估计干预和结果的倾向性
$$\hat{m}(X) = E[Y|X]$$
$$\hat{g}(X) = E[T|X]$$
第二阶段：使用残差进行因果效应估计
$$Y – \hat{m}(X) = \theta(T – \hat{g}(X)) + \epsilon$$
优势：
对第一阶段模型的误设具有鲁棒性
可以使用灵活的机器学习模型
通过交叉拟合避免过拟合

以下是使用 EconML 库实现双重机器学习的示例代码：

import numpy as np
from econml.dml import LinearDML
from sklearn.ensemble import RandomForestRegressor

# 生成模拟数据
np.random.seed(42)
n_samples = 1000
X = np.random.normal(size=(n_samples, 3))  # 混杂变量
T = X[:, 0] + X[:, 1] + np.random.normal(size=n_samples)  # 干预
Y = T + X[:, 1] + X[:, 2] + np.random.normal(size=n_samples)  # 结果

# 初始化模型
est = RandomForestRegressor()
model = LinearDML(model_y=est, model_t=est)

# 拟合模型
model.fit(Y, T, X=X)

# 估计平均处理效应
print("ATE estimate:", model.ate(X))
print("ATE confidence interval:", model.ate_interval(X))

完整可运行的 Colab Notebook 链接：示例 Notebook

在实际应用中，双重机器学习的性能受多种因素影响：