ChatGPT编程实战：从Prompt设计到API调用的避坑指南

1次阅读

没有评论

共计 1616 个字符，预计需要花费 5 分钟才能阅读完成。

在 ChatGPT API 的实际开发中，开发者常遇到以下三类典型问题：

Prompt 工程效率低：缺乏结构化设计方法，导致反复调试耗时
流式响应处理复杂：对异步编程不熟悉，难以处理分块返回数据
Token 成本不可控：未优化历史对话管理，造成无效 Token 消耗

OpenAI API 主要提供两种接口：

Completion：适合单轮补全任务，参数简单但可控性差
ChatCompletion：支持多轮对话，具有以下核心参数：
temperature（温度参数）：值越高结果越随机（0.7-1.0 适合创意生成）
top_p（核采样）：与 temperature 配合使用，控制候选词概率范围

实验数据显示：当 temperature=0.5 且 top_p=0.9 时，在技术文档生成任务中可获得最佳平衡。

有效对话需要明确定义角色：

messages = [{"role": "system", "content": "你是一位资深 Python 工程师"},  # 系统角色设定
    {"role": "user", "content": "解释装饰器的作用"}  # 用户输入
]

使用 async/await 实现非阻塞请求：

import aiohttp

async def stream_response():
    async with aiohttp.ClientSession() as session:
        async with session.post(API_URL, json=params) as resp:
            async for chunk in resp.content:
                print(chunk.decode(), end="")

组合使用以下参数：

max_tokens=500：硬性限制生成长度
stop=["\n##", "<|endoftext|>"]：遇到特定符号时终止

完整实现包含错误重试和上下文管理：

import openai
from tenacity import retry, stop_after_attempt

@retry(stop=stop_after_attempt(3))
def chat_completion(messages):
    try:
        response = openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=messages,
            temperature=0.7,
            stream=True  # 启用流式传输
        )
        # 处理流式数据...
    except openai.error.RateLimitError:
        # 处理速率限制
        pass

# 上下文管理示例
class DialogueManager:
    def __init__(self):
        self.history = []

    def add_message(self, role, content):
        self.history.append({"role": role, "content": content})
        # 自动清理最早的消息以控制 Token
        if len(self.history) > 5:
            self.history.pop(0)

降低 Token 消耗的三个实用技巧：