机器学习实践课程设计：基于感知机和朴素贝叶斯的销售案例解析

1次阅读

没有评论

共计 1724 个字符，预计需要花费 5 分钟才能阅读完成。

在机器学习课程设计中，初学者常面临算法选择的难题：

理论理解不足 ：对算法原理和适用场景缺乏直观认知
实现困难 ：从理论到代码的转化存在障碍
效果评估迷茫 ：不知道如何选择合适的评估指标

以一个销售预测案例为例，我们需要预测客户是否会购买某产品。这是典型的二分类问题，适合用感知机和朴素贝叶斯这两种基础算法来实践。

线性分类器的鼻祖
通过误分类驱动学习
适合特征间存在线性关系的场景
对异常值敏感

基于贝叶斯定理
假设特征条件独立
适合文本分类等特征独立场景
对小样本数据友好

| 维度         | 感知机                 | 朴素贝叶斯             |
|--------------|-----------------------|-----------------------|
| 数据量       | 大样本表现好          | 小样本也能工作        |
| 特征关系     | 适合线性可分          | 适合特征独立          |
| 计算效率     | 迭代计算耗时          | 一次计算概率          |
| 可解释性     | 权重直观              | 概率解释清晰          |

加载销售数据集（含客户年龄、收入、浏览时长等特征）
处理缺失值：用中位数填充数值型特征
类别型特征编码：使用 One-Hot Encoding
数据标准化：使用 StandardScaler

通过相关性分析选择重要特征
尝试构造新特征如 ” 浏览时长 / 页面数 ”
使用 PCA 降维可视化数据分布

初始化权重向量
定义激活函数（阶跃函数）
迭代更新权重直到收敛
设置学习率和最大迭代次数

计算先验概率 P(y)
计算条件概率 P(x|y)
根据贝叶斯定理计算后验概率
取最大概率类别作为预测结果

使用交叉验证避免过拟合
绘制 ROC 曲线比较模型表现
关键指标：准确率、召回率、F1 值

# 数据预处理
from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

# 感知机实现
from sklearn.linear_model import Perceptron
perceptron = Perceptron(max_iter=1000, eta0=0.1, random_state=42)
perceptron.fit(X_train, y_train)

# 朴素贝叶斯实现
from sklearn.naive_bayes import GaussianNB
nb = GaussianNB()
nb.fit(X_train, y_train)

# 模型评估
from sklearn.metrics import classification_report
print("感知机性能:")
print(classification_report(y_test, perceptron.predict(X_test)))

print("朴素贝叶斯性能:")
print(classification_report(y_test, nb.predict(X_test)))

在我们的销售数据集上，两种算法表现如下：

| 指标        | 感知机 | 朴素贝叶斯 |
|------------|--------|------------|
| 准确率     | 0.82   | 0.78       |
| 召回率     | 0.75   | 0.85       |
| F1 值       | 0.78   | 0.81       |
| 训练时间 (s)| 0.15   | 0.02       |

从结果可以看出：