基于大语言模型的Agent多轮对话数据合成实战：从数据稀缺到高效生成

1次阅读

没有评论

共计 2008 个字符，预计需要花费 6 分钟才能阅读完成。

在对话系统开发中，高质量的多轮对话数据是训练和评估模型的关键。然而，获取真实、多样化的对话数据面临诸多挑战：

数据稀缺 ：人工标注成本高，尤其是需要领域专家参与的对话（如医疗、法律）
多样性不足 ：现有数据集往往覆盖有限场景，难以反映真实用户的复杂需求
隐私问题 ：使用真实用户对话涉及敏感信息处理和合规风险

常见的对话数据生成方法主要有三种：

规则模板法
优点：完全可控，生成结果稳定
缺点：灵活性差，难以覆盖复杂对话路径
传统生成模型（如 Seq2Seq）
优点：能产生较自然的语句
缺点：需要大量训练数据，容易产生无意义回复
大语言模型（LLM）生成
优点：零样本 / 小样本能力强，语句自然流畅
缺点：需要精心设计 prompt，存在不可控风险

我们采用有限状态机（FSM）控制对话流程：

stateDiagram
    [*] --> 开场白
    开场白 --> 用户响应
    用户响应 --> 系统回复
    系统回复 --> 用户响应
    系统回复 --> 结束对话

角色设定 ：明确 Agent 的身份和对话目标
对话历史管理 ：保持最近 3 - 5 轮对话上下文
约束条件 ：通过示例限制输出格式和内容范围

示例 prompt 模板：

 你是一个专业客服助手，正在帮助用户解决产品使用问题。请根据以下对话历史，给出专业、友好的回复。对话历史:
{history}

当前用户问题:
{query}

要求:
- 回复不超过 2 句话
- 不要主动结束对话
- 避免专业术语

温度参数调整 ：在 0.7-1.2 区间动态变化
top- p 采样 ：设置 0.9 左右的核采样值
主题轮换 ：定期切换对话子领域

class DialogueStateMachine:
    def __init__(self):
        self.state = 'start'
        self.history = []

    def transition(self, user_input):
        # 状态转移逻辑
        if self.state == 'start':
            self.history.append(('system', self._generate_greeting()))
            self.state = 'awaiting_response'
        elif len(self.history) >= 6:  # 控制对话长度
            self.state = 'end'
        else:
            self.history.append(('user', user_input))
            bot_response = self._call_llm()
            self.history.append(('system', bot_response))

        return self.state, self.history[-1][1]

def generate_response(prompt_template, history, query):
    prompt = prompt_template.format(history='\n'.join([f'{role}: {text}' for role, text in history]),
        query=query
    )

    response = openai.ChatCompletion.create(
        model="gpt-3.5-turbo",
        messages=[{"role": "user", "content": prompt}],
        temperature=0.9,
        max_tokens=150
    )

    return response['choices'][0]['message']['content']

BLEU：衡量生成回复与参考回复的 n -gram 重叠率
ROUGE-L：评估最长公共子序列匹配度
多样性得分 ：计算独特 n -gram 的比例

连贯性（Coherence）
信息量（Informativeness）
自然度（Fluency）

平衡采样 ：确保各主题对话比例均衡
负面示例过滤 ：建立常见错误模式库
人工审核 ：定期抽样检查

def safety_filter(text):
    blacklist = ['敏感词 1', '敏感词 2']
    for word in blacklist:
        if word in text:
            return False
    return True