基于UCI冠心病数据集：用SHAP解析XGBoost与随机森林特征重要度（2026 CSDN实战）

1次阅读

共计 2621 个字符，预计需要花费 7 分钟才能阅读完成。

在医疗数据分析中，模型的可解释性直接关系到临床决策的可靠性。黑箱模型（如 XGBoost、随机森林）虽然预测性能优越，但其内部机制不透明，导致医生难以信任模型的输出结果。特征重要度评估是提升模型可解释性的关键步骤，它能够帮助医生理解哪些因素对预测结果影响最大，从而做出更合理的临床决策。

医疗数据建模的可解释性挑战：黑箱模型的预测结果难以解释，医生无法理解模型为何做出特定预测。
特征重要度对临床决策的影响：准确的特征重要度排序可以帮助医生识别关键风险因素，优化治疗方案。

XGBoost（eXtreme Gradient Boosting）和随机森林（Random Forest）都是基于决策树的集成学习方法，但它们的核心机制有所不同。

XGBoost：通过梯度提升（Gradient Boosting）逐步优化模型，每一棵树都在纠正前一棵树的错误。XGBoost 还引入了正则化项，防止过拟合。
随机森林：通过 Bagging（Bootstrap Aggregating）生成多棵独立的决策树，最终通过投票或平均得到预测结果。

传统特征重要度评估方法（如 Gini 指数、分裂次数）虽然简单直观，但存在以下局限性：

Gini 指数：仅反映特征在单棵树中的分裂贡献，无法全局评估特征重要性。
分裂次数：高基数特征可能被过度重视。

SHAP（SHapley Additive exPlanations）值基于博弈论中的 Shapley 值，能够公平地分配每个特征对预测结果的贡献。其优势包括：

全局一致性：SHAP 值能够同时解释单个预测和整体模型行为。
可解释性：正负 SHAP 值分别表示特征对预测结果的促进或抑制。

首先，我们需要加载 UCI 冠心病数据集并进行预处理。

import pandas as pd
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split

# 加载数据
data = pd.read_csv('heart_disease.csv')

# 处理缺失值
data.fillna(data.mean(), inplace=True)

# 标准化数值特征
scaler = StandardScaler()
numeric_cols = ['age', 'trestbps', 'chol', 'thalach', 'oldpeak']
data[numeric_cols] = scaler.fit_transform(data[numeric_cols])

# 划分训练集和测试集
X = data.drop('target', axis=1)
y = data['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

接下来，我们训练 XGBoost 和随机森林模型，并计算 SHAP 值。

import xgboost as xgb
from sklearn.ensemble import RandomForestClassifier
import shap

# 训练 XGBoost 模型
xgb_model = xgb.XGBClassifier(random_state=42)
xgb_model.fit(X_train, y_train)

# 训练随机森林模型
rf_model = RandomForestClassifier(random_state=42)
rf_model.fit(X_train, y_train)

# 计算 SHAP 值
explainer_xgb = shap.TreeExplainer(xgb_model)
shap_values_xgb = explainer_xgb.shap_values(X_test)

explainer_rf = shap.TreeExplainer(rf_model)
shap_values_rf = explainer_rf.shap_values(X_test)

使用 SHAP 提供的可视化工具展示特征重要度。

# XGBoost 特征重要度
shap.summary_plot(shap_values_xgb, X_test, plot_type='bar')

# 随机森林特征重要度
shap.summary_plot(shap_values_rf, X_test, plot_type='bar')

# 单个样本的 SHAP 解释
shap.force_plot(explainer_xgb.expected_value, shap_values_xgb[0,:], X_test.iloc[0,:])

SHAP 值计算可能消耗大量内存，尤其是对于大型数据集。以下是一些优化建议：