基于葡萄酒数据集(wine.data)的决策树建模实战：从数据清洗到模型优化

1次阅读

共计 1769 个字符，预计需要花费 5 分钟才能阅读完成。

葡萄酒数据集 (wine.data) 是经典的分类数据集，包含 13 个化学特征和 3 类葡萄酒。但在实际建模时会遇到几个典型问题：

特征相关性高：如酒精含量与总酚可能存在较强相关性，影响模型稳定性
样本分布不均：三类葡萄酒样本量分别为 59/71/48，存在轻微不平衡
量纲差异大 ：如灰分(alash) 的数值范围 (1.3-3.2) 与色强度 (color_intensity) 的范围 (1.3-13.0) 差异显著

相比逻辑回归等线性模型，决策树更适合本场景：

自动处理非线性关系（如酒精含量与品质的 U 型关系）
直观的特征重要性排序
对量纲差异不敏感（但标准化仍能提升性能）

import pandas as pd
from sklearn.preprocessing import StandardScaler

# 加载数据（注意该数据集无列名）wine = pd.read_csv('wine.data', header=None)
features = wine.iloc[:, 1:]
target = wine.iloc[:, 0]

# 标准化处理
scaler = StandardScaler()
scaled_features = scaler.fit_transform(features)

使用方差阈值过滤低方差特征：

from sklearn.feature_selection import VarianceThreshold

selector = VarianceThreshold(threshold=0.5)
selected_features = selector.fit_transform(scaled_features)

通过网格搜索确定最优参数：

from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import GridSearchCV

param_grid = {'max_depth': [3, 5, 7],
    'min_samples_split': [2, 5, 10]
}

dtree = DecisionTreeClassifier(random_state=42)
grid_search = GridSearchCV(dtree, param_grid, cv=5)
grid_search.fit(selected_features, target)

print(f"最佳参数: {grid_search.best_params_}")
print(f"验证集准确率: {grid_search.best_score_:.3f}")

import matplotlib.pyplot as plt

best_model = grid_search.best_estimator_
importances = best_model.feature_importances_

plt.barh(range(len(importances)), importances)
plt.yticks(range(len(importances)), 
           [f'Feature {i}' for i in range(len(importances))])
plt.xlabel('Feature Importance')
plt.show()