信贷风险预测实战：基于CART决策树的模型优化与部署避坑指南

1次阅读

没有评论

共计 2157 个字符，预计需要花费 6 分钟才能阅读完成。

传统信贷风控中，逻辑回归模型是主流选择，但它存在两个明显短板：

非线性特征捕捉不足：信贷数据中经常存在收入与违约率的 U 型关系、多特征交叉影响等复杂模式，线性模型难以拟合
可解释性局限：虽然回归系数可解释，但当特征经过 WOE 分箱等复杂转换后，业务人员难以直观理解模型逻辑

对比常见树模型，CART 决策树的优势在于：

计算效率：仅使用基尼系数作为分裂标准，比 ID3/C4.5 的信息增益计算量更小
缺失值处理：天然支持通过替代分裂点处理缺失值，避免预处理时的信息损失
输出兼容性：同时支持分类（基尼系数）和回归（均方误差）任务，适配信贷场景的违约预测

与随机森林相比，单棵 CART 树的优势在于：

更易满足金融监管要求的模型可解释性
部署资源消耗低，适合中小机构

# 基础工具库
import pandas as pd
import numpy as np
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split, GridSearchCV

# 可视化
import matplotlib.pyplot as plt
import shap

# 计算基尼系数
def gini_impurity(y):
    classes = np.unique(y)
    impurity = 1
    for cls in classes:
        p = np.mean(y == cls)
        impurity -= p**2
    return impurity

# 特征分裂逻辑（简化版）def find_best_split(X, y):
    best_gini = float('inf')
    for feature in X.columns:
        thresholds = np.unique(X[feature])
        for threshold in thresholds:
            left_idx = X[feature] <= threshold
            gini = (len(y[left_idx])*gini_impurity(y[left_idx]) + 
                   len(y[~left_idx])*gini_impurity(y[~left_idx])) / len(y)
            if gini < best_gini:
                best_gini = gini
                best_split = (feature, threshold)
    return best_split

# 参数搜索空间
param_grid = {'max_depth': [3, 5, 7],
    'min_samples_leaf': [10, 30, 50]
}

# 初始化模型
tree = DecisionTreeClassifier(criterion='gini', random_state=42)

# 5 折交叉验证
grid_search = GridSearchCV(tree, param_grid, cv=5, scoring='roc_auc')
grid_search.fit(X_train, y_train)

# 输出最优参数
print(f"Best params: {grid_search.best_params_}")

# 训练最优模型
best_tree = grid_search.best_estimator_

# SHAP 值计算
explainer = shap.TreeExplainer(best_tree)
shap_values = explainer.shap_values(X_test)

# 特征重要性可视化
shap.summary_plot(shap_values[1], X_test, plot_type='bar')

方法	优点	缺点	适用场景
SMOTE	合成新样本，信息利用率高	可能引入噪声	中等规模数据集
欠采样	计算效率高	丢失潜在有用信息	负样本冗余时
class_weight	无需修改数据分布	对极端不平衡效果有限	数据分布稳定时