ChatGPT优化指令实战：从Prompt工程到性能调优

1次阅读

共计 2189 个字符，预计需要花费 6 分钟才能阅读完成。

最近在项目里频繁调用 ChatGPT API 时，发现了几个典型问题：

模糊指令导致多次往返：最初的 prompt 像 ” 写个商品描述 ” 这样笼统，经常需要 3 - 4 轮交互才能得到满意结果，单次任务消耗 token 高达 2000+
上下文丢失：当对话轮次超过 5 轮后，模型开始遗忘前面的关键信息（如产品参数），不得不重复发送历史数据
token 浪费：未限制输出长度时，经常收到 500+token 的冗余回复，而实际需要的信息可能只有前 100token

通过对比测试发现：优化后的指令能使相同任务的 token 消耗从平均 1800 降到 600 左右，API 调用耗时减少 40%。

原始 prompt:

写一段手机文案

优化后:

按以下结构生成华为 P70 的电商文案（中文）：[核心卖点]：不超过 10 个字的技术亮点
[功能描述]：3 个带 emoji 的 bullet point
[促销信息]：包含 "限时优惠" 和价格区间

实际测试显示，结构化指令使首次生成可用率从 35% 提升到 82%。

实现策略：

将长文档按语义拆分成 <2k token 的 chunk
对已处理 chunk 生成 1 - 2 句摘要
后续对话携带前序摘要而非完整历史

比如技术文档处理场景，采用该方法后上下文维护 token 减少 65%。

关键技巧：

response = openai.ChatCompletion.create(
    model="gpt-4",
    messages=[...],
    response_format={"type": "json_object"},  # 强制 JSON 输出
    max_tokens=150  # 硬性长度限制
)

from typing import TypedDict

class PromptParams(TypedDict):
    product: str
    features: list[str]
    word_limit: int

def build_structured_prompt(params: PromptParams) -> str:
    """生成带格式约束的 prompt"""
    return f"""请按以下要求生成 {params['product']} 的描述：1. 核心功能：用 {params['word_limit']} 字内概括
    2. 技术亮点：列举 {len(params['features'])} 条，每条带★符号
    3. 禁用词汇："顶级"、"最好" 等绝对化表述
    """

class ConversationManager:
    def __init__(self, max_history=3):
        self.history = []
        self.max_history = max_history

    def add_message(self, role: str, content: str) -> None:
        """添加消息并自动修剪"""
        self.history.append({"role": role, "content": content})
        if len(self.history) > self.max_history * 2:  # 保留最近 N 轮
            self.history = self._summarize_early() + self.history[-self.max_history:]

    def _summarize_early(self) -> list:
        """生成历史摘要"""
        summary_prompt = "用 100 字总结以下对话要点：" + str(self.history[:-3])
        return [{"role": "system", "content": "历史摘要：" + summary_prompt}]

# 启用 streaming 并设置合理 chunk_size
response = openai.ChatCompletion.create(
    stream=True,
    request_timeout=30,
    ...
)

for chunk in response:
    handle_partial_response(chunk["choices"][0]["delta"])

推荐使用中间件模式：

def safety_filter(content: str) -> str:
    blacklist = ["暴力", "色情", "政治敏感"]
    if any(word in content for word in blacklist):
        raise ContentPolicyViolation
    return content