支持向量机与BP神经网络在垃圾邮件识别中的效果对比与实战

1次阅读

没有评论

共计 1916 个字符，预计需要花费 5 分钟才能阅读完成。

垃圾邮件过滤一直是网络安全的重要课题。传统的基于规则匹配和关键词过滤的方法虽然简单直接，但随着垃圾邮件发送者越来越狡猾，这些方法暴露出了明显的局限性：

误判率高：简单的关键词匹配无法理解上下文，” 免费 ” 这样的词在促销邮件中是正常词汇，但在垃圾邮件中也常见
维护成本大：需要人工不断更新规则库来应对新的垃圾邮件变种
泛化能力差：对经过简单变形或编码的垃圾邮件识别率骤降

SVM 通过寻找一个最优超平面来最大化不同类别数据之间的间隔：

核技巧：通过核函数将数据映射到高维空间，解决线性不可分问题
常用核函数：线性核、多项式核、RBF 核
软间隔：引入松弛变量处理噪声和异常点
优势：在小样本情况下表现优异，全局最优解

BP 神经网络通过多层感知器模拟人脑神经元的工作方式：

前向传播：输入数据通过各层权重计算得到输出
反向传播：根据损失函数计算误差并反向调整权重
激活函数：ReLU、Sigmoid 等引入非线性因素
优势：自动特征提取，适合复杂模式识别

指标	SVM(RBF 核)	BP 神经网络(3 层)
准确率	92.3%	94.1%
召回率	89.7%	93.5%
F1 值	90.9	93.8
训练时间(s)	15.2	128.7

import pandas as pd
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.model_selection import train_test_split

# 读取数据集
data = pd.read_csv('spam_dataset.csv')
X = data['text']
y = data['label']

# 使用 TF-IDF 进行文本向量化
tfidf = TfidfVectorizer(max_features=5000)
X_tfidf = tfidf.fit_transform(X)

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X_tfidf, y, test_size=0.2, random_state=42)

from sklearn.svm import SVC
from sklearn.metrics import classification_report

# 创建 SVM 模型
svm_model = SVC(kernel='rbf', C=1.0, gamma='scale')

# 训练模型
svm_model.fit(X_train, y_train)

# 评估模型
y_pred_svm = svm_model.predict(X_test)
print("SVM 分类报告:")
print(classification_report(y_test, y_pred_svm))

from sklearn.neural_network import MLPClassifier

# 创建 BP 神经网络模型
bp_model = MLPClassifier(hidden_layer_sizes=(100,50),
    activation='relu',
    solver='adam',
    max_iter=100,
    random_state=42
)

# 训练模型
bp_model.fit(X_train, y_train)

# 评估模型
y_pred_bp = bp_model.predict(X_test)
print("BP 神经网络分类报告:")
print(classification_report(y_test, y_pred_bp))