ChatGPT指令工程：从基础原理到高效调优实战

1次阅读

没有评论

共计 1792 个字符，预计需要花费 5 分钟才能阅读完成。

开发者在使用 ChatGPT API 时经常遇到以下典型问题：

输出随机性大：相同指令在不同请求中可能得到差异显著的回复
上下文丢失：多轮对话中难以维持角色设定和话题一致性
敏感内容失控：意外生成不符合预期的危险或不恰当内容
成本不可控：长对话场景下 token 消耗呈指数级增长

ChatGPT 采用字节对编码 (BPE) 进行文本 token 化：

输入文本被分割为最小语义单元（如单词 / 符号）
通过 32000+ 的词汇表映射为数字 token
特殊 token（如<|endoftext|>）用于标记段落边界

关键特性：

中文平均 1 汉字≈1.5token
空格和标点也会占用 token
最大上下文长度受模型版本限制（gpt-3.5-turbo 为 4096token）

参数	类型	作用范围	推荐值
temperature	float [0,2]	输出随机性	0.7-1.0 创意场景 0.2-0.5 确定性场景
top_p	float (0,1]	候选词筛选	0.9-0.95 平衡 0.5 高确定性
frequency_penalty	float [-2,2]	重复惩罚	0.5-1.0 防循环
presence_penalty	float [-2,2]	话题新颖度	0.5-1.0 多轮对话

System message 设计原则：

优先明确角色身份（” 你是一位资深 Python 工程师 ”）
限定回答格式（” 用 Markdown 返回代码块 ”）
设置安全边界（” 拒绝回答涉及隐私的问题 ”）

import openai

response = openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[{"role": "system", "content": "你是一位技术文档专家"},
    {"role": "user", "content": "解释 Python 的 GIL 机制"}
  ],
  temperature=0.7,
  max_tokens=500,
  top_p=0.9
)

print(response['choices'][0]['message']['content'])

dialogue_history = [{"role": "system", "content": "你是一位 AI 助手"}
]

def chat(user_input):
    dialogue_history.append({"role": "user", "content": user_input})

    response = openai.ChatCompletion.create(
        model="gpt-3.5-turbo",
        messages=dialogue_history,
        temperature=0.5
    )

    ai_reply = response['choices'][0]['message']
    dialogue_history.append(ai_reply)
    return ai_reply["content"]

设置 seed 参数固定随机种子
使用 logit_bias 调整特定 token 概率
对长文本采用分块总结策略

from openai.moderation import create

moderation_res = create(
  input="用户输入内容",
  model="text-moderation-latest"
)

if moderation_res["results"][0]["flagged"]:
    return "内容不符合安全策略"