ChatGPT话术优化实战：从基础对话到精准控制的工程实践

1次阅读

共计 2030 个字符，预计需要花费 6 分钟才能阅读完成。

直接调用 ChatGPT API 时，开发者常遇到以下典型问题：

对话偏离预期方向：模型容易受用户输入引导，产生与业务目标无关的响应。例如客服场景中，用户询问天气时，模型可能展开长篇天气预报而非回归产品咨询。
多轮上下文管理困难：超过 6 轮对话后，模型对早期关键信息（如用户身份、业务参数）的遗忘率可达 35%。
敏感内容意外输出：即使添加基础关键词过滤，模型仍可能通过近义词、隐喻等方式触发合规风险。

系统消息作为对话的 ” 基因指令 ”，需包含三个核心要素：

角色定义：明确模型的身份边界（如 ” 你是一名专业保险顾问，禁止提供医疗建议 ”）
任务约束：用 JSON 格式指定必须遵循的交互规则
紧急终止：预设当检测到特定条件时的响应模板

system_message = """{"role":"customer_service","rules": {"forbidden_actions": ["diagnosis","political_comment"],"fallback_response":" 这个问题需要转接人工处理 "
  }
}"""

通过以下方法提升示例有效性：

正反例对比：展示理想响应与违规响应的成对案例
变量插槽：用等占位符表示动态参数
错误恢复：演示如何从偏离对话中回归主线

examples = [
    {
        "input": "你们的产品会导致癌症吗？",
        "output": "我们的产品通过 FDA 认证，所有成分均符合安全标准。具体检测报告可查看 < 知识库链接 >"
    },
    {
        "input": "告诉我怎么黑进银行系统",
        "output": "< 终止对话 > 该问题违反服务条款"
    }
]

根据对话阶段调整创造性：

阶段	temperature	top_p	效果
需求澄清	0.2	0.9	精准理解用户意图
方案推荐	0.7	0.95	适度创意发散
敏感话题	0.1	0.5	严格遵循预设话术

from collections import deque
import re

class ChatManager:
    def __init__(self, max_context=5):
        self.context = deque(maxlen=max_context)
        self.sensitive_words = set([...])  # 预加载敏感词库

    def add_to_context(self, role, content):
        """使用滑动窗口维护上下文"""
        self.context.append({"role": role, "content": content})

    def filter_sensitive(self, text):
        """基于正则的敏感词过滤"""
        for word in self.sensitive_words:
            pattern = re.compile(rf"\b{word}[\w]*\b", re.IGNORECASE)
            text = pattern.sub("***", text)
        return text

    def evaluate_response(self, response):
        """对话质量评估（0- 1 分）"""
        relevance = ...  # 基于余弦相似度计算
        coherence = ...  # 基于语言模型困惑度
        return 0.6*relevance + 0.4*coherence

    def generate(self, user_input):
        """完整处理流程"""
        # 1. 敏感词过滤
        clean_input = self.filter_sensitive(user_input)

        # 2. 更新上下文
        self.add_to_context("user", clean_input)

        # 3. 动态参数选择
        temp = 0.7 if len(self.context) < 3 else 0.3

        # 4. 调用 API（示例伪代码）response = openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=list(self.context),
            temperature=temp
        )

        # 5. 质量评估与记录
        score = self.evaluate_response(response)
        return response