autoglm-phone-9b 模型微调实战：从数据准备到生产部署全流程解析

1次阅读

没有评论

共计 2214 个字符，预计需要花费 6 分钟才能阅读完成。

autoglm-phone-9b 是一个面向手机端优化的生成式语言模型，适用于对话系统、文本摘要等场景。由于预训练模型的通用性，在特定领域（如电商客服、医疗咨询）直接使用效果有限，因此需要通过微调来提升领域适配性。

不同的微调方法适用于不同场景：

全参数微调 ：适合数据量大、计算资源充足的情况，能充分调整模型参数但显存占用高
LoRA（低秩适应）：通过引入可训练的低秩矩阵，只更新部分参数，适合资源受限场景
Adapter：在 Transformer 层插入小型网络模块，训练时固定原模型参数

对于 autoglm-phone-9b 这种中等规模模型（9B 参数），建议优先尝试 LoRA 方法，平衡效果与资源消耗。

模型输入需要转换为特定格式的 json 文件，示例处理代码：

import json
from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("autoglm/phone-9b")

def convert_to_train_format(text_pairs):
    """将问答对转换为训练格式"""
    formatted_data = []
    for prompt, answer in text_pairs:
        # 添加特殊 token 并编码
        input_text = f"<|user|>{prompt}<|assistant|>"
        target_text = answer + tokenizer.eos_token

        # 转换为模型输入格式
        formatted_data.append({
            "input": input_text,
            "target": target_text
        })
    return formatted_data

# 示例数据
qa_pairs = [("如何设置闹钟？", "进入时钟应用，点击闹钟标签...")]
train_data = convert_to_train_format(qa_pairs)

# 保存为 json 文件
with open("train.json", "w") as f:
    json.dump(train_data, f, ensure_ascii=False, indent=2)

使用 HuggingFace Trainer 进行微调时的核心配置：

from transformers import TrainingArguments

training_args = TrainingArguments(
    output_dir="./output",
    per_device_train_batch_size=4,  # 根据显存调整
    gradient_accumulation_steps=8,  # 模拟更大 batch size
    learning_rate=5e-5,
    num_train_epochs=3,
    fp16=True,  # 启用混合精度
    save_strategy="epoch",
    logging_steps=50,
    warmup_ratio=0.1,  # 学习率预热
    optim="adamw_torch",
    lr_scheduler_type="cosine"
)

9B 参数模型在不同配置下的显存需求：

全参数微调 ：需要约 80GB 显存（A100×2）
LoRA 微调 ：仅需 16-24GB 显存（单卡 3090 可运行）

在 TrainingArguments 中设置 fp16=True 后，需注意：

梯度裁剪值建议设为 1.0
初始学习率应比 FP32 训练时略小
如果出现 NaN 损失，尝试减小学习率或关闭 fp16

CUDA 内存不足 ：
解决方案：减小 batch size，增加 gradient_accumulation_steps
启用梯度检查点：model.gradient_checkpointing_enable()
损失变为 NaN：
检查输入数据是否包含异常字符
降低学习率或关闭混合精度训练

除了常规的困惑度 (perplexity)，建议：

人工评估生成结果的流畅度和相关性
使用 BLEU- 4 评估生成文本与参考文本的相似度
业务相关指标（如客服场景的首答准确率）

使用 bitsandbytes 进行 8bit 量化：

from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained(
    "autoglm/phone-9b",
    load_in_8bit=True,  # 启用 8bit 量化
    device_map="auto"
)

将模型导出为 ONNX 格式便于部署：

from transformers.convert_graph_to_onnx import convert

convert(
    framework="pt",
    model="./fine_tuned_model",
    output="model.onnx",
    opset=13,
    pipeline_name="text-generation"
)

挑战任务：