Agent 提示词工程实战：如何设计高可用的自动化对话系统

1次阅读

共计 2207 个字符，预计需要花费 6 分钟才能阅读完成。

最近在开发客服对话系统时，遇到了典型的长对话困境：当用户连续询问 5 个以上问题时，Agent 开始出现 ” 记忆混乱 ”。比如这个真实案例：

用户: 我的订单 12345 物流到哪了？Agent: 正在为您查询...（正确显示物流信息）用户: 能改地址吗？Agent: 请问您要修改哪个订单？（已经忘记当前对话的订单号）

经过压力测试，发现主要存在三大痛点：

上下文丢失：超过 3 轮对话后，关键信息衰减率达 62%
意图漂移：连续追问时错误识别率飙升到 35%
资源浪费：重复传输历史上下文导致 API 调用成本增加 3 倍

传统方案像这样简单拼接历史对话：

prompt = f"""历史对话：{history}\n 当前问题：{query}"""

缺陷分析：

关键信息被淹没在冗长文本中
无关历史干扰当前意图判断
容易触发模型的 token 长度限制

我们设计的三层架构如下：

graph TD
    A[原始输入] --> B(意图分类器)
    B -->| 业务咨询 | C[业务层提示词]
    B -->| 闲聊 | D[通用层提示词]
    C & D --> E[动态上下文管理器]
    E --> F[生成响应]

核心组件：

意图分类器：使用 few-shot learning 识别用户真实意图
动态上下文管理器：根据对话状态自动维护关键信息
记忆衰减池：采用加权算法保留重要上下文

class DialogueMemory:
    def __init__(self, decay_factor=0.8):
        self.memory = []
        self.decay = decay_factor

    def add(self, role: str, content: str, importance: float = 1.0):
        # 自动计算衰减权重
        weight = importance * (self.decay ** len(self.memory))
        self.memory.append({
            'role': role, 
            'content': content,
            'weight': weight
        })

    def get_context(self, max_tokens=512):
        # 按权重排序并截断
        sorted_mem = sorted(self.memory, 
                          key=lambda x: -x['weight'])

        context, token_count = [], 0
        for msg in sorted_mem:
            msg_len = len(msg['content'].split())
            if token_count + msg_len > max_tokens:
                break
            context.append(f"{msg['role']}: {msg['content']}")
            token_count += msg_len

        return '\n'.join(context)

import unittest

class TestMemory(unittest.TestCase):
    def test_decay(self):
        mem = DialogueMemory(decay_factor=0.5)
        mem.add('user', '重要信息', importance=2.0)
        mem.add('agent', '响应 1')
        mem.add('user', '次要信息')

        # 验证权重计算
        self.assertAlmostEqual(mem.memory[0]['weight'], 2.0)
        self.assertAlmostEqual(mem.memory[1]['weight'], 0.5)
        self.assertAlmostEqual(mem.memory[2]['weight'], 0.25)

完整代码示例见：Colab Notebook