共计 2843 个字符，预计需要花费 8 分钟才能阅读完成。
1. 技术背景：为什么需要微调大模型
大语言模型如 ChatGLM-6B 通过海量通用数据预训练获得了强大的语言理解能力，但在特定领域任务上可能表现不佳。微调（Fine-tuning）通过在领域数据上继续训练，可以使模型更好地适应专业场景。ChatGLM-6B 作为开源中英双语模型，采用 GLM 架构（General Language Model），具有以下特点：
- 基于 Transformer 的 decoder-only 结构
- 支持最大 2048 tokens 的上下文窗口
- 6B 参数规模在消费级显卡（如 3090/4090）可微调
- 通过 RoPE 位置编码增强长文本处理能力
2. 环境准备：搭建微调工作台
硬件需求
- GPU: 至少 24GB 显存（如 RTX 3090/4090 或 A100 40GB）
- RAM: 32GB 以上
- 存储: 100GB 可用空间（用于存储模型和数据集）
软件依赖
# 基础环境
conda create -n chatglm python=3.8
conda activate chatglm
# 核心依赖
pip install torch==1.13.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117
pip install transformers==4.28.1 peft==0.3.0 accelerate==0.18.0
# 可选工具
pip install datasets rouge-score nltk3. 数据工程：构建领域数据集
数据格式要求
ChatGLM-6B 微调需要构造问答格式数据，推荐 JSONL 格式：
{"context": "患者主诉头痛 3 天", "question": "可能的诊断是什么？", "answer": "需考虑偏头痛、紧张性头痛或颅内病变"}数据清洗关键步骤
- 标准化文本：统一全半角、繁简体转换
- 去噪处理：移除特殊符号、乱码和非目标语言内容
- 长度过滤：删除超过 512 字符的样本（避免截断损失）
- 平衡采样：确保各类别样本分布均匀
数据增强技巧
- 同义词替换：使用 WordNet 或领域词表扩展样本多样性
- 回译增强：通过中英互译生成语义一致的新样本
- 模板生成：基于规则自动构造符合领域逻辑的 QA 对
4. 微调实战：完整代码解析
from transformers import AutoTokenizer, AutoModel
from peft import get_peft_model, LoraConfig
import torch
# 加载基础模型
model_path = "THUDM/chatglm-6b"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModel.from_pretrained(model_path, trust_remote_code=True).half().cuda()
# 配置 LoRA（降低显存消耗）peft_config = LoraConfig(
task_type="CAUSAL_LM",
r=8, # 注意力维度
lora_alpha=32, # 缩放系数
lora_dropout=0.1,
target_modules=["query_key_value"] # GLM 特定模块
)
model = get_peft_model(model, peft_config)
# 训练参数设置
from transformers import TrainingArguments
training_args = TrainingArguments(
output_dir="./output",
per_device_train_batch_size=4, # 根据显存调整
gradient_accumulation_steps=8, # 模拟更大 batch size
learning_rate=2e-5,
num_train_epochs=3,
fp16=True, # 启用混合精度
save_steps=500,
logging_steps=100,
)
# 开始微调
from transformers import Trainer
trainer = Trainer(
model=model,
args=training_args,
train_dataset=train_dataset,
data_collator=lambda data: {"input_ids": torch.stack([d[0] for d in data]),
"labels": torch.stack([d[1] for d in data])}
)
trainer.train()关键参数说明：
per_device_train_batch_size: 单卡 batch size，24GB 显存建议设为 2 -4gradient_accumulation_steps: 梯度累积步数，等效增大 batch sizelearning_rate: 通常设为 1e- 5 到 5e- 5 之间fp16: 可减少约 40% 显存占用，但可能影响收敛性
5. 模型评估：领域适配效果验证
自动评估指标
from rouge import Rouge
rouge = Rouge()
hypotheses = ["模型生成答案"]
references = ["标准答案"]
scores = rouge.get_scores(hypotheses, references)人工评估维度
- 相关性：回答是否紧密围绕问题
- 专业性：是否使用领域术语
- 连贯性：逻辑是否自洽
- 安全性：是否产生有害内容
6. 避坑指南：常见问题解决方案
显存优化技巧
- 启用梯度检查点：
model.gradient_checkpointing_enable() - 使用 LoRA/P-Tuning 等参数高效微调方法
- 混合精度训练配合
torch.cuda.amp
训练不稳定处理
- 梯度裁剪：
TrainingArguments中设置max_grad_norm=1.0 - 学习率预热：
warmup_steps=500 - 尝试不同的优化器（如 AdamW）
7. 部署建议：推理加速方案对比
| 方案 | 延迟 | 吞吐量 | 显存占用 | 适用场景 |
|---|---|---|---|---|
| 原始 PyTorch | 高 | 低 | 高 | 开发调试 |
| vLLM | 低 | 高 | 中 | 在线服务 |
| TensorRT | 最低 | 中 | 低 | 边缘设备部署 |
| ONNX | 中 | 中 | 中 | 跨平台部署 |
推荐部署代码示例（vLLM）：
from vllm import LLM, SamplingParams
llm = LLM(model="path/to/finetuned")
sampling_params = SamplingParams(temperature=0.7, top_p=0.9)
outputs = llm.generate(["用户输入"], sampling_params)结语
通过本文的实践指南，开发者可以完成从数据准备到模型部署的全流程。建议初次微调时先用小规模数据验证流程，再逐步扩大数据量。ChatGLM-6B 的微调效果高度依赖数据质量，建议投入足够精力进行数据清洗和增强。随着量化技术的发展，未来可在消费级显卡上实现更高效的微调和推理。
正文完
