基于BERT模型的社交媒体情感分析实战：从数据预处理到多分类情感识别

1次阅读

共计 1805 个字符，预计需要花费 5 分钟才能阅读完成。

去年某国际快餐品牌因一条微博引发公关危机，当传统人工监测发现负面舆情时，话题阅读量已突破 2 亿。而另一家采用 AI 情感分析的公司，在负面情绪占比超过阈值 15 分钟后就启动了应急响应——这就是 NLP 技术创造的商业价值差。

但社交媒体数据存在天然挑战：
– 非正式表达（” 绝绝子！” vs “ 非常好 ”）
– 多模态混合（文字 + 表情包 + 话题标签）
– 数据噪声（广告、抽奖等无关内容）

模型	准确率	F1-score	训练时间(小时)
TextCNN	78.2%	76.5	0.8
BiLSTM	81.7%	79.1	1.5
BERT-base	89.3%	87.6	3.2
BERT-wwm	90.1%	88.9	3.5

测试环境：NVIDIA T4 GPU，微博数据集 10 万条

微博数据需要特别关注：

表情符号转换：

# 将 [哈哈] 转换为[EMJI_HAHA]
import re
def convert_emoticons(text):
    return re.sub(r'\[(.*?)\]', lambda x: f'[EMJI_{x.group(1)}]', text)

话题标签分离：

# 把 #今日天气# 转为 今日天气 [HASHTAG]
text = re.sub(r'#(.*?)#', r'\1 [HASHTAG]', text)

关键参数说明：

from transformers import BertTokenizer, BertForSequenceClassification

tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
model = BertForSequenceClassification.from_pretrained(
    'bert-base-chinese',
    num_labels=5,  # 5 类情感
    attention_probs_dropout_prob=0.3,  # 防止过拟合
    hidden_dropout_prob=0.5
)

# 动态 padding 和 truncation
inputs = tokenizer(text, 
                  padding='max_length', 
                  truncation=True,
                  max_length=128,  # 覆盖 95% 微博长度
                  return_tensors="pt")

加权交叉熵损失实现：

from torch import nn
import numpy as np

# 计算类别权重（逆频率）class_counts = [1000, 3000, 8000, 5000, 2000]  # 示例数据
weights = 1. / torch.tensor(class_counts, dtype=torch.float)
weights = weights / weights.sum() * len(class_counts)

criterion = nn.CrossEntropyLoss(weight=weights.to(device))

from torch.cuda.amp import GradScaler, autocast

scaler = GradScaler()

with autocast():
    outputs = model(**inputs)
    loss = criterion(outputs.logits, labels)

scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()