2025年泰迪杯数据挖掘挑战赛B题新手入门指南：从数据预处理到模型构建

1次阅读

没有评论

共计 3608 个字符，预计需要花费 10 分钟才能阅读完成。

2025 年泰迪杯数据挖掘挑战赛 B 题预计将围绕结构化数据展开，这类题目通常涉及预测或分类任务。根据往届经验，B 题可能具有以下特点：

数据类型 ：以表格数据为主，可能包含数值型和类别型特征
问题类型 ：可能是二分类、多分类或回归问题
评估指标 ：根据问题类型不同，可能采用准确率、F1 分数或 RMSE 等指标

理解赛题背景是第一步，建议仔细阅读赛题说明，明确数据字段含义和评估标准。

数据预处理是建模的基础，好的预处理能显著提升模型表现。以下是关键步骤：

缺失值处理 ：
数值型数据可用均值 / 中位数填充
类别型数据可用众数或单独 ” 缺失 ” 类别

import pandas as pd
from sklearn.impute import SimpleImputer

# 读取数据
data = pd.read_csv('competition_b_data.csv')

# 数值型缺失值处理
num_imputer = SimpleImputer(strategy='median')
num_cols = data.select_dtypes(include=['int64','float64']).columns
data[num_cols] = num_imputer.fit_transform(data[num_cols])

# 类别型缺失值处理
cat_imputer = SimpleImputer(strategy='most_frequent')
cat_cols = data.select_dtypes(include=['object']).columns
data[cat_cols] = cat_imputer.fit_transform(data[cat_cols])

异常值处理 ：
使用 IQR 方法识别和处理异常值

# 检测数值列中的异常值
for col in num_cols:
    Q1 = data[col].quantile(0.25)
    Q3 = data[col].quantile(0.75)
    IQR = Q3 - Q1
    lower_bound = Q1 - 1.5*IQR
    upper_bound = Q3 + 1.5*IQR

    # 将异常值替换为边界值
    data[col] = data[col].apply(lambda x: lower_bound if x < lower_bound 
                                else (upper_bound if x > upper_bound else x))

数据标准化 ：
对数值特征进行标准化处理

from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
data[num_cols] = scaler.fit_transform(data[num_cols])

特征工程是提升模型性能的关键，以下是一些实用技巧：

类别特征编码 ：
使用 one-hot 编码处理类别特征

from sklearn.preprocessing import OneHotEncoder

encoder = OneHotEncoder(handle_unknown='ignore')
encoded_cats = encoder.fit_transform(data[cat_cols])

# 将稀疏矩阵转换为 DataFrame 并合并
data_encoded = pd.concat([data[num_cols], 
                         pd.DataFrame(encoded_cats.toarray())], axis=1)

特征组合 ：
可以尝试有意义的特征组合（如数值特征的比值、差值等）

# 示例：创建两个特征的比值
if 'feature1' in data.columns and 'feature2' in data.columns:
    data['feature_ratio'] = data['feature1'] / (data['feature2'] + 1e-6)  # 避免除以 0

时间特征提取 ：
如果数据集包含日期 / 时间字段，可提取年、月、日、星期等特征

对于新手，建议从简单模型开始，逐步提升复杂度。以下是决策树和随机森林的实现：

决策树模型 ：

from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split

# 划分训练集和测试集
X = data_encoded.drop('target', axis=1)
y = data_encoded['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建并训练决策树模型
dtree = DecisionTreeClassifier(max_depth=5, random_state=42)
dtree.fit(X_train, y_train)

# 评估模型
from sklearn.metrics import accuracy_score

y_pred = dtree.predict(X_test)
print(f"决策树准确率: {accuracy_score(y_test, y_pred):.4f}")

随机森林模型 ：

from sklearn.ensemble import RandomForestClassifier

# 创建并训练随机森林模型
rf = RandomForestClassifier(n_estimators=100, max_depth=10, random_state=42)
rf.fit(X_train, y_train)

# 评估模型
y_pred = rf.predict(X_test)
print(f"随机森林准确率: {accuracy_score(y_test, y_pred):.4f}")

基础模型建立后，可通过以下方法优化性能：

网格搜索调参 ：

from sklearn.model_selection import GridSearchCV

# 定义参数网格
param_grid = {'n_estimators': [50, 100, 200],
    'max_depth': [5, 10, 15],
    'min_samples_split': [2, 5, 10]
}

# 执行网格搜索
grid_search = GridSearchCV(estimator=rf, param_grid=param_grid, cv=5, n_jobs=-1)
grid_search.fit(X_train, y_train)

# 输出最佳参数
print(f"最佳参数: {grid_search.best_params_}")
print(f"最佳分数: {grid_search.best_score_:.4f}")

交叉验证 ：

from sklearn.model_selection import cross_val_score

# 5 折交叉验证
cv_scores = cross_val_score(rf, X, y, cv=5)
print(f"交叉验证平均得分: {np.mean(cv_scores):.4f} (±{np.std(cv_scores):.4f})")

特征重要性分析 ：

import matplotlib.pyplot as plt

# 获取特征重要性
importances = rf.feature_importances_

# 可视化
plt.figure(figsize=(10, 6))
plt.barh(range(len(importances)), importances, align='center')
plt.yticks(range(len(importances)), X.columns)
plt.xlabel('Feature Importance')
plt.title('Random Forest Feature Importance')
plt.show()

新手在参赛过程中常会遇到以下问题：