Agent提示词开发实战：从零构建高效AI助手的核心技巧

1次阅读

共计 1753 个字符，预计需要花费 5 分钟才能阅读完成。

在开发 AI 助手时，提示词设计往往是决定系统表现的关键因素。经过多次实践，我发现新手开发者最常遇到以下三个问题：

意图漂移：在多轮对话中，Agent 逐渐偏离原始任务目标
多轮对话失控：上下文信息堆积导致响应质量下降
长上下文失效：超出模型窗口限制后关键信息丢失

这些问题直接影响用户体验，下面我将分享一套经过实战验证的解决方案。

好的提示词应该像编程一样结构化。以下是一个 Python 实现的基础模板：

class PromptTemplate:
    """ 结构化提示词生成器

    Attributes:
        system_prompt: str 系统角色定义
        memory_size: int 保留的对话轮次
    """
    def __init__(self, system_prompt: str, memory_size=3):
        self.system_prompt = system_prompt
        self.memory_size = memory_size

    def build(self, history: list) -> str:
        """ 构建完整提示词

        Args:
            history: 对话历史记录，格式[(user1, bot1),...]

        Returns:
            组装后的完整 prompt
        """
        # 保留最近 N 轮对话
        recent_history = history[-self.memory_size:] 

        prompt_lines = [
            "# 系统指令",
            self.system_prompt,
            "\n# 对话历史"
        ]

        for user, bot in recent_history:
            prompt_lines.extend([f"用户: {user}",
                f"助手: {bot}"
            ])

        return "\n".join(prompt_lines)

这个模板实现了：
1. 明确的系统指令区隔
2. 可控的历史对话长度
3. 标准化的对话格式

面对长对话场景，我推荐采用动态窗口策略：

关键信息提取：使用 NER 识别实体并优先保留
摘要压缩：对早期对话生成摘要
分层存储：
最近 3 轮对话完整保留
中间 5 轮对话保留关键信息
更早历史只保留摘要

利用 logprobs 实现质量监控：

def check_abnormal(response, threshold=0.5):
    """ 基于 logprobs 的异常检测

    Args:
        response: API 返回的完整响应对象
        threshold: 置信度阈值

    Returns:
        bool 是否出现异常
    """if not response.get('choices'):
        return True

    top_logprob = response['choices'][0]['logprobs']['top_logprobs'][0]
    top_token = max(top_logprob.items(), key=lambda x: x[1])

    return top_token[1] < threshold

通过分析发现：
– 系统提示词占 30%token 消耗
– 历史对话占 60%
– 当前查询占 10%

优化方案：
1. 精简系统提示到 100token 内
2. 对历史对话采用 key-value 压缩存储
3. 使用 tiktoken 实时计算 token 数

预加载常见意图模板
实现提示词缓存池
异步预热高频查询

敏感词过滤：

from ahocorasick import Automaton

def build_filter(trie):
    """构建 AC 自动机过滤器"""
    automaton = Automaton()
    for word in trie:
        automaton.add_word(word, word)
    automaton.make_automaton()
    return automaton