ChatGPT 实战指南：从 API 调用到生产环境部署的最佳实践

1次阅读

没有评论

共计 2298 个字符，预计需要花费 6 分钟才能阅读完成。

最近在项目里接入了 ChatGPT API，发现不少开发者卡在几个关键环节。这里总结下最常见的问题：

认证流程繁琐 ：每次调用都要处理 API 密钥，过期后手动续期特别麻烦
长对话上下文丢失 ：默认的 API 调用无法自动维护多轮对话历史
异步响应处理困难 ：大段生成内容时等待时间过长，传统轮询方式资源消耗大

比起传统的 REST 轮询，更推荐使用 Server-Sent Events (SSE) 处理流式响应。对比测试发现：

轮询方式平均延迟：1200ms
SSE 流式响应平均延迟：400ms

Python 实现示例：

import httpx

async def stream_chat_completion(messages):
    headers = {"Authorization": f"Bearer {API_KEY}",
        "Accept": "text/event-stream"
    }
    async with httpx.AsyncClient(timeout=60.0) as client:
        async with client.stream(
            "POST",
            "https://api.openai.com/v1/chat/completions",
            json={"messages": messages, "stream": True},
            headers=headers
        ) as response:
            async for chunk in response.aiter_bytes():
                yield chunk.decode()

用 Redis 存储对话历史时，建议采用哈希结构保存元数据。这里提供 Node.js 实现：

// 存储对话上下文
async function saveContext(userId, messages) {const key = `chat:${userId}`;
    await redis.hSet(key, {lastUpdated: Date.now(),
        context: JSON.stringify(messages)
    });
    await redis.expire(key, 3600 * 24); // 24 小时过期
}

// 读取上下文
async function loadContext(userId) {const data = await redis.hGetAll(`chat:${userId}`);
    return data.context ? JSON.parse(data.context) : [];}

在 axios 拦截器中实现认证自动续期：

// 响应拦截器
axios.interceptors.response.use(null, async (error) => {if (error.response.status === 401 && !error.config._retry) {
        error.config._retry = true;
        await refreshToken();
        return axios(error.config);
    }
    return Promise.reject(error);
});

def exponential_backoff_retry(func, max_retries=3):
    retry_delays = [1, 2, 4]  # 秒数

    for attempt in range(max_retries):
        try:
            return func()
        except Exception as e:
            if attempt == max_retries - 1:
                raise
            time.sleep(retry_delays[attempt])

function sanitizeInput(text) {
    const forbiddenPatterns = [/\b(?: 密码 | 信用卡 | 安全码)\b/gi,
        /\d{4}-?\d{4}-?\d{4}-?\d{4}/g
    ];

    let sanitized = text;
    forbiddenPatterns.forEach(pattern => {sanitized = sanitized.replace(pattern, '[REDACTED]');
    });
    return sanitized;
}

测试环境：AWS t3.medium 实例

上下文长度 (tokens)	平均响应时间 (ms)
512	420
1024	680
2048	1250

from ratelimit import limits, sleep_and_retry

# 每分钟 60 次调用限制
@sleep_and_retry
@limits(calls=60, period=60)
def call_chatgpt_api(prompt):
    # API 调用代码
    pass