ChatGPT使用手册：从API调用到生产环境部署的完整指南

1次阅读

共计 2030 个字符，预计需要花费 6 分钟才能阅读完成。

在实际集成 ChatGPT API 的过程中，开发者往往会遇到几个典型问题：

认证失效问题 ：API 密钥过期或频繁更换导致服务中断
上下文丢失 ：长对话场景下历史消息管理不当，影响连续性
响应延迟 ：流式响应处理不当导致卡顿体验
成本不可控 ：Token 消耗超出预期，账单意外增加

REST API：
适合简单问答场景
实现简单但长连接开销大
需要自行处理重试逻辑
WebSocket：
适合持续对话场景
保持长连接减少握手开销
内置心跳机制更稳定

import time
import requests
from math import exp

def exponential_backoff_retry(url, payload, max_retries=5):
    for attempt in range(max_retries):
        try:
            response = requests.post(url, json=payload)
            response.raise_for_status()
            return response.json()
        except Exception as e:
            wait_time = min(exp(attempt) * 0.1, 5)  # 指数退避上限 5 秒
            time.sleep(wait_time)
    raise Exception(f'API 请求失败，最大重试次数 {max_retries}')

设计消息存储结构：

HSET chat:{session_id} messages {json_encoded_history}
EXPIRE chat:{session_id} 3600  # 1 小时过期

上下文组装策略：
按时间倒序获取最近 N 条
Token 总数不超过模型上限（如 4096）

import jwt
import datetime

def generate_jwt(api_key):
    payload = {
        'iss': 'your_service',
        'exp': datetime.datetime.utcnow() + datetime.timedelta(minutes=30),
        'api_key': api_key
    }
    return jwt.encode(payload, 'your_secret', algorithm='HS256')

# 使用装饰器自动刷新
class TokenManager:
    def __init__(self):
        self._token = None

    @property
    def token(self):
        if not self._token or self._is_expired():
            self._refresh()
        return self._token

async function handleStream(response) {const reader = response.body.getReader();
  const decoder = new TextDecoder();
  let buffer = '';

  while(true) {const {done, value} = await reader.read();
    if(done) break;

    // 背压控制：当处理速度跟不上时暂停读取
    if(buffer.length > 1024 * 1024) {await new Promise(r => setTimeout(r, 100));
    }

    buffer += decoder.decode(value);
    processPartialResponse(buffer);
  }
}

模型版本	TPS	平均 Token 消耗 / 请求	延迟 (ms)
gpt-3.5-turbo	45	320	650
gpt-4	12	780	1200

import re

sensitive_pattern = re.compile(r'\b(?: 密码 | 身份证 | 银行卡)\b|[0-9]{11}|[0-9]{17}[0-9Xx]')

def sanitize_input(text):
    return sensitive_pattern.sub('[REDACTED]', text)