机器学习模型分类指南：从原理到实践解析AI如何分成分类、回归、聚类等模型

1次阅读

共计 2653 个字符，预计需要花费 7 分钟才能阅读完成。

假设你正在为电商平台构建用户分群系统。如果错误地选择了回归模型（如线性回归）来预测用户类别，模型会强行输出连续值（如 1.2、3.5 等），而实际需要的却是明确的类别标签（如 ” 高价值用户 ”、” 潜在流失用户 ”）。这种错误会导致业务方无法直接使用预测结果，必须额外进行阈值划分，最终影响营销策略的准确性。

同样，在房价预测场景中，若误用分类模型（如决策树分类），会将连续的价格区间强行分割成有限的几个等级（如 ” 低价房 ”、” 中价房 ”），导致预测结果失去精确的数值意义，严重影响估价系统的实用性。

监督学习（Supervised Learning）：
数学本质：学习从输入 $X$ 到输出 $Y$ 的映射函数 $f: X \rightarrow Y$
核心需求：必须有标注数据 $(x_i,y_i)$
损失函数示例（回归问题）：$L = \frac{1}{n}\sum_{i=1}^n(y_i – f(x_i))^2$
无监督学习（Unsupervised Learning）：
数学本质：发现数据 $X$ 的内在结构或分布 $P(X)$
典型方法：聚类 (Clustering)、降维 (Dimensionality Reduction)
评估指标示例（轮廓系数）：$s(i) = \frac{b(i) – a(i)}{\max{a(i),b(i)}}$

输出差异 ：
分类模型：通过 sigmoid（二分类）或 softmax（多分类）输出类别概率
$\sigma(z) = \frac{1}{1+e^{-z}}$
回归模型：直接输出连续值，通常使用线性组合
$f(x) = w^Tx + b$
损失函数 ：
分类：Cross-Entropy（交叉熵）
$L = -\sum_c y_c\log(p_c)$
回归：Mean Squared Error（均方误差）
$L = \frac{1}{n}\sum_{i=1}^n(y_i – \hat{y}_i)^2$

与分类模型不同，聚类：

不需要预先定义的类别标签
依赖距离度量（如欧氏距离）而非概率输出
评估指标关注类内紧凑性和类间分离性

常用评估方法：
– 轮廓系数（Silhouette Coefficient）
– Calinski-Harabasz 指数
– Davies-Bouldin 指数

from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler

# 加载 iris 数据集
iris = datasets.load_iris()
X, y = iris.data, iris.target

# 数据标准化
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 划分训练测试集（分类 / 回归使用）X_train, X_test, y_train, y_test = train_test_split(X_scaled, y, test_size=0.2)

from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score

# 模型训练
clf = LogisticRegression(multi_class='multinomial', solver='lbfgs')
clf.fit(X_train, y_train)

# 评估
preds = clf.predict(X_test)
print(f"分类准确率：{accuracy_score(y_test, preds):.4f}")

from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error

# 强行用回归模型处理分类问题
reg = LinearRegression()
reg.fit(X_train, y_train)

# 输出连续值（不符合分类需求）reg_preds = reg.predict(X_test)
print(f"MSE：{mean_squared_error(y_test, reg_preds):.4f}")
print(f"示例输出值：{reg_preds[:5]}")  # 展示不合理的预测值

from sklearn.cluster import KMeans
from sklearn.metrics import silhouette_score

# 无监督学习不需要 y 标签
kmeans = KMeans(n_clusters=3, random_state=42)
clusters = kmeans.fit_predict(X_scaled)

# 评估聚类效果
print(f"轮廓系数：{silhouette_score(X_scaled, clusters):.4f}")

现象：某些类别样本量过少（如欺诈检测中的正样本）
解决方案：
过采样（SMOTE 算法）
使用 class_weight 参数调整权重

错误做法：将房价等连续值粗暴分箱处理
后果：损失数值信息，引入人为偏差
正确做法：保持原始连续特性，使用回归模型

肘部法则（Elbow Method）实现：

import matplotlib.pyplot as plt

distortions = []
K_range = range(1, 10)
for k in K_range:
    kmeans = KMeans(n_clusters=k)
    kmeans.fit(X_scaled)
    distortions.append(kmeans.inertia_)

plt.plot(K_range, distortions, 'bx-')
plt.xlabel('Number of clusters')
plt.ylabel('Inertia')
plt.title('Elbow Method')
plt.show()

如何根据以下特征自动判断适用模型类型？
1. 目标变量数据类型（类别型 / 连续型）
2. 特征维度与样本量的比例
3. 数据中是否存在明确的标签信息
4. 特征间的线性可分性

欢迎在评论区分享你的分析思路！

正文完