深入解析CART决策树优点：从算法原理到实战应用

1次阅读

没有评论

共计 1762 个字符，预计需要花费 5 分钟才能阅读完成。

决策树是机器学习中最直观的算法之一，通过树形结构模拟人类决策过程。它通过一系列规则对数据进行分割，最终形成可解释的预测模型。常见应用包括：

金融风控（贷款审批）
医疗诊断（疾病预测）
客户分群（市场营销）
工业质检（缺陷检测）

使用信息增益作为划分标准
仅支持离散特征
多分支树结构易导致过拟合

改进版使用信息增益比
支持连续特征离散化
仍存在多分支复杂度问题

所有决策节点都是二元分裂（是 / 否问题），相比多分支树：

模型结构更简单
计算复杂度更低
更易可视化解释

与信息增益相比：

计算量减少约 30%（无需对数运算）
对类别分布变化更敏感
数学表达式更简洁：
```
Gini = 1 - Σ(p_i)^2
```

原生支持连续值处理（无需离散化）
内置缺失值处理机制
支持回归任务（MSE 准则）

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

# 加载经典鸢尾花数据集
iris = load_iris()
X, y = iris.data, iris.target

# 划分训练测试集（7:3 比例）X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

from sklearn.tree import DecisionTreeClassifier

# 关键参数说明：# max_depth - 控制树深防止过拟合
# min_samples_split - 节点最小样本数
# criterion - 可选择 gini 或 entropy
model = DecisionTreeClassifier(
    max_depth=3,
    min_samples_split=5,
    criterion='gini', 
    random_state=42
)

model.fit(X_train, y_train)

from sklearn.metrics import classification_report

print("测试集评估结果：")
print(classification_report(y_test, model.predict(X_test)))

# 输出特征重要性
print("\n 特征重要性：", model.feature_importances_)

from sklearn.tree import plot_tree
import matplotlib.pyplot as plt

plt.figure(figsize=(12,8))
plot_tree(model, 
          filled=True,
          feature_names=iris.feature_names,
          class_names=iris.target_names)
plt.show()