深入解析CART决策树流程图：从原理到工程实践

1次阅读

没有评论

共计 2392 个字符，预计需要花费 6 分钟才能阅读完成。

在金融风控和医疗诊断等场景中，模型的可解释性往往比预测精度更重要。虽然 scikit-learn 提供了 plot_tree 函数，但面对复杂业务时存在三个明显缺陷：

无法动态展示分裂过程中的基尼系数 (Gini Index) 变化
当特征数超过 20 时，节点文字会重叠难以辨认
缺少样本分布等关键业务信息的可视化集成

我们对比了三种主流可视化方案：

Graphviz
优势：自动布局算法成熟，支持导出 SVG/PDF，Python 接口稳定
不足：原生不支持交互，需要配合 JavaScript 库实现动态效果
D3.js
优势：可制作炫酷的交互式可视化，适合 Web 部署
不足：学习曲线陡峭，数据处理逻辑需前端实现
Matplotlib
优势：无需额外依赖，适合快速原型开发
不足：渲染大树时性能差，自定义样式麻烦

工程建议：选择 Graphviz+DOT 语言组合，既保证生成效率（万级节点可在秒级完成渲染），又能通过后续处理实现交互需求。

from sklearn.tree import _tree
def get_tree_rules(clf):
    tree_ = clf.tree_
    feature_names = clf.feature_names_in_

    def recurse(node, depth):
        if tree_.feature[node] != _tree.TREE_UNDEFINED:
            name = feature_names[tree_.feature[node]]
            threshold = tree_.threshold[node]
            yield f"节点{node}: {name} ≤ {threshold:.2f}?"
            yield from recurse(tree_.children_left[node], depth + 1)
            yield f"节点{node}: {name} > {threshold:.2f}?"
            yield from recurse(tree_.children_right[node], depth + 1)
        else:
            yield f"叶节点{node}: 类别{np.argmax(tree_.value[node])}"

在节点分裂时需要实时计算：

当前节点的基尼系数：
$$G = 1 – \sum_{k=1}^K (p_k)^2$$
信息增益(Information Gain)：
$$IG = G_{parent} – \sum_{child}\frac{N_{child}}{N_{parent}}G_{child}$$

import graphviz
def render_tree(clf, filename):
    dot = graphviz.Digraph(comment='决策树', 
                          graph_attr={'size': '"20,20"'},
                          node_attr={'shape': 'box', 'fontname': 'Microsoft YaHei'})

    # 添加节点逻辑
    for node_id in range(clf.tree_.node_count):
        if clf.tree_.feature[node_id] != _tree.TREE_UNDEFINED:
            label = (f"特征: {feature_names[clf.tree_.feature[node_id]]}\n"
                     f"阈值: {clf.tree_.threshold[node_id]:.2f}\n"
                     f"样本数: {clf.tree_.n_node_samples[node_id]}")
            dot.node(str(node_id), label=label)
        else:
            dot.node(str(node_id), 
                    label=f"类别: {np.argmax(clf.tree_.value[node_id])}\n 样本: {clf.tree_.n_node_samples[node_id]}")

    # 添加边逻辑
    for node_id in range(clf.tree_.node_count):
        if clf.tree_.children_left[node_id] != _tree.TREE_LEAF:
            dot.edge(str(node_id), str(clf.tree_.children_left[node_id]), label="是")
            dot.edge(str(node_id), str(clf.tree_.children_right[node_id]), label="否")

    dot.render(filename, format='png', cleanup=True)