AI原生应用开发中的提示工程：原理剖析与实战优化

1次阅读

没有评论

共计 2497 个字符，预计需要花费 7 分钟才能阅读完成。

最近在开发 AI 应用时，我发现同样的模型，不同的提示词可能导致结果天差地别。有时候模型表现得像专家，有时候却像个刚入门的新手。这让我意识到，提示工程（Prompt Engineering）的质量直接决定了 AI 应用的成败。

结果不一致：同样的提示词，在不同时间调用可能得到不同结果
上下文丢失：在多轮对话中，模型经常忘记之前的对话内容
过度发散：模型回答偏离预期，甚至产生有害内容
效率低下：复杂的提示导致 API 调用成本上升

当我们将提示词输入给大语言模型时，模型内部其实经历了一个复杂的过程：

Token 化：模型先将文本拆分成 token（可能是单词或子词）
嵌入表示：每个 token 被转换为高维向量
注意力机制：模型通过自注意力机制计算 token 之间的关系
概率预测：最后预测下一个最可能的 token

Zero-shot 提示：直接给出任务，不提供示例
优点：简单直接
缺点：复杂任务效果差
示例：” 将以下文本翻译成法语：’Hello world'”
Few-shot 提示：提供少量示例
优点：中等复杂度任务效果好
缺点：占用 token 较多
示例：”Q: 法国的首都是？A: 巴黎 \nQ: 日本的首都是？A: 东京 \nQ: 意大利的首都是？A:”
思维链(Chain-of-Thought)：引导模型分步思考
优点：复杂任务效果好
缺点：提示设计难度大
示例：” 小明有 5 个苹果，给了小红 2 个，又买了 4 个，现在有多少个？让我们一步步思考：…”

下面是一个 Python 实现的提示模板类，支持变量替换和格式控制：

class PromptTemplate:
    def __init__(self, template: str):
        """
        初始化提示模板
        :param template: 模板字符串，用 {} 表示变量
        """
        self.template = template

    def format(self, **kwargs) -> str:
        """
        格式化提示
        :param kwargs: 键值对参数
        :return: 格式化后的提示字符串
        """
        try:
            return self.template.format(**kwargs)
        except KeyError as e:
            raise ValueError(f"缺少必要参数: {e}")

# 使用示例
template = PromptTemplate("""
请根据以下信息回答问题：用户: {user_name}
问题: {question}
背景: {context}
请用 {language} 回答，保持简洁。""")

prompt = template.format(
    user_name="张三",
    question="如何学习 Python",
    context="零基础初学者",
    language="中文"
)
print(prompt)

保持对话上下文是开发聊天机器人的关键挑战。下面是实现方案：

from typing import List, Dict

class ConversationManager:
    def __init__(self, max_turns: int = 5):
        self.history: List[Dict] = []
        self.max_turns = max_turns

    def add_message(self, role: str, content: str) -> None:
        """添加消息到历史记录"""
        self.history.append({"role": role, "content": content})
        # 保持历史记录不超过最大轮数
        if len(self.history) > self.max_turns * 2:
            self.history = self.history[-self.max_turns * 2:]

    def get_context_prompt(self) -> str:
        """生成包含上下文的提示"""
        return "\n".join(f"{msg['role']}: {msg['content']}" 
            for msg in self.history
        )

# 使用示例
chat = ConversationManager()
chat.add_message("user", "推荐一本 Python 书")
chat.add_message("assistant", "《Python Crash Course》很适合初学者")
chat.add_message("user", "有没有更进阶的？")

current_prompt = chat.get_context_prompt()
print(current_prompt)