ACL会议论文中的因果推断技术：从理论到工程实践

1次阅读

共计 2016 个字符，预计需要花费 6 分钟才能阅读完成。

在 ACL 2023 的论文《Counterfactual Data Augmentation for Bias Mitigation》中，研究者通过构建反事实（counterfactual）文本样本，有效减少了性别偏见在简历筛选模型中的影响。这种技术不依赖额外标注数据，而是通过修改原文中的性别关键词（如将 ” 他 ” 改为 ” 她 ”），观察模型预测结果的变化幅度来量化偏见程度。

这类方法的核心价值在于：

传统统计相关性会混淆变量间的真实因果关系
因果推断能识别模型决策中的真实驱动因素
反事实分析提供了可解释的偏差检测手段

声明式因果图 ：通过gml 格式直观定义变量关系
四步标准化流程：建模→识别→估计→反驳
丰富的验证方法：内置 Placebo Test、子集稳定性检验

# DoWhy 最小示例
from dowhy import CausalModel
model = CausalModel(
    data=df,
    treatment='text_length',
    outcome='click_rate',
    graph="""digraph {
        text_length -> click_rate;
        user_activity -> text_length;
        user_activity -> click_rate;
    }"""
)

更侧重机器学习集成（如 XGBT、NN 作为基模型）
DoubleML 实现更高效（适合大数据场景）
但可视化能力较弱

# 定义文本处理的 SCM
scm = StructuralCausalModel()
scm.add_edge("topic", "sentiment")  # 主题影响情感倾向
scm.add_edge("sentiment", "response_time")  # 情感影响客服回复速度
scm.add_confounder("user_type", ["sentiment", "response_time"])  # 用户类型是混杂因子

# 使用 BERT 特征进行因果推断
from econml.dml import LinearDML
featurizer = BertFeaturizer()  # 自定义 BERT 特征提取器
dml = LinearDML(model_y=RandomForestRegressor(),
               model_t=RandomForestRegressor(),
               featurizer=featurizer)
dml.fit(y, T, X=texts, W=user_features)

# 可视化注意力权重
plot_attribution(dml.coef_, tokens)  # 显示关键词级别因果贡献

PC 算法优化：
先使用 TF-IDF 降维（保留 top 10% 特征）
在 GPU 上并行化条件独立性测试

from causallearn.search.FGES import fges
# 使用 PyTorch 加速的 GES 算法
graph = fges(tensor_features, gpus=1, max_dim=100)

小样本修正：
采用 Bootstrap+BCa 方法调整置信区间
通过数据增强生成合成对照组

领域知识优先：NLP 任务中常忽略的混淆变量：
文本复杂度（Flesch-Kincaid 指数）
时间因素（发布时段 / 季节效应）
平台来源（Web/APP 文案差异）

# 使用虚拟干预检验模型稳健性
refuter = model.refute_estimate(
    method_name="placebo_treatment_refuter",
    placebo_type="Random Data"
)
print(f"估计效应变化幅度：{refuter['new_effect']/refuter['estimate']:.1%}")
# 合理阈值应 <20%

当无法进行随机对照试验（RCT）时，建议采用：