AI原生应用开发实战：基于提示工程的原理与最佳实践

1次阅读

共计 2024 个字符，预计需要花费 6 分钟才能阅读完成。

最近在开发电商客服机器人时，发现同一个问题换种问法，AI 的回答质量可能天差地别。比如用户问 ” 衣服掉色怎么办 ”，直接喂给 GPT 可能得到笼统的洗涤建议，而经过优化的提示却能精准输出退货政策——这就是提示工程的魔力。当前开发者普遍面临三大痛点：

输出波动大 ：相同提示在不同时段可能得到不一致结果
上下文窗口限制 ：超过 token 上限会导致关键信息被截断
意图理解偏差 ：模型容易过度联想或答非所问

Zero-shot 提示 ：适合简单明确的分类任务

prompt = """ 判断用户情绪：{用户输入}
选项：愤怒 / 高兴 / 失望 / 中性 """

优点：无需训练样本
缺点：对复杂任务准确率低

Few-shot 提示 ：需要 3 - 5 个示例样本

prompt = """
示例 1:
输入："刚买的手机屏幕碎了"
输出："愤怒"

示例 2:
输入："配送速度超快！"
输出："高兴"

现在请判断：{用户输入}
"""

优点：显著提升复杂任务表现
缺点：占用更多 token，增加成本

from langchain import PromptTemplate
from langchain.llms import OpenAI
from typing import List, Optional

class DynamicPromptEngine:
    def __init__(self, api_key: str):
        self.llm = OpenAI(
            temperature=0.7,  # 控制创造性
            max_tokens=500,
            top_p=0.9,        # 核采样阈值
            openai_api_key=api_key
        )

    def build_prompt(self, 
                    template: str, 
                    examples: Optional[List[str]] = None) -> str:
        """动态组装提示模板"""
        if examples:
            few_shot_part = "\n".join(examples)
            return f"{few_shot_part}\n\n{template}"
        return template

    def query_with_retry(self, 
                        prompt: str, 
                        max_retries: int = 3) -> str:
        """带重试机制的查询"""
        for attempt in range(max_retries):
            try:
                response = self.llm(prompt)
                return response.strip()
            except Exception as e:
                if attempt == max_retries - 1:
                    raise
                time.sleep(2 ** attempt)  # 指数退避

# 使用示例
examples = [
    "输入：订单号 12345 在哪？\n 输出：正在查询物流信息...",
    "输入：我要退货 \n 输出：请提供订单号和退货原因"
]
template = "输入：{user_input}\n 输出："
engine = DynamicPromptEngine(API_KEY)

Token 精打细算
删除提示中的冗余空格和注释
用缩写代替完整句子（如 ” 输出 ” 代替 ” 请生成如下输出 ”）

分级提示设计

def get_prompt_level(user_tier: str) -> str:
    if user_tier == "free":
        return "简洁版提示模板"
    return "完整版提示模板"

缓存高频响应
对标准化问题（如 FAQ）预生成回答
用 MD5 哈希存储提示 - 响应对

陷阱 1 ：忘记设置 max_tokens 导致响应截断
修复：根据历史数据统计合理值
陷阱 2 ：temperature 过高导致输出不稳定
建议：关键业务设置 0.3-0.5
陷阱 3 ：未处理敏感词过滤
方案：输出层添加正则校验
陷阱 4 ：忽略模型版本差异
注意：gpt-3.5 和 gpt- 4 对相同提示反应不同
陷阱 5 ：未监控 API 成本
工具：安装 openai-cost-tracker 插件

要实现上下文连贯的对话，需要解决：
1. 如何压缩历史对话保持不超 token 限制？
2. 怎样识别对话主题切换？
3. 何时应该重置对话上下文？

一个简单的实现框架：

dialog_history = []

def update_context(user_input: str, bot_response: str):
    dialog_history.append(f"用户：{user_input}")
    dialog_history.append(f"AI：{bot_response}")

    # 保留最近 3 轮对话
    if len(dialog_history) > 6:
        dialog_history = dialog_history[-6:]

真正的挑战在于平衡上下文完整性和 token 消耗，这需要根据具体业务场景设计智能剪枝算法。你在实际项目中是如何解决这个问题的？欢迎分享你的实战经验。

正文完