ChatGPT API调用实战指南：从基础接入到生产环境优化

1次阅读

共计 1968 个字符，预计需要花费 5 分钟才能阅读完成。

调用 ChatGPT API 时，开发者常遇到三类典型问题：

认证复杂度：API 密钥管理不当可能导致泄露，动态 JWT 生成增加实现门槛
长文本处理：单次请求超过模型上下文窗口（如 GPT-3.5 的 4096 tokens）会直接失败
计费不可控 ：未限制max_tokens 的 prompt 可能产生意外高费用，特别是流式响应场景

协议类型	延迟	吞吐量	适用场景
REST	高	低	简单请求 / 低频调用
WebSocket	中	高	持续对话 / 实时流式响应
gRPC	低	最高	企业内部服务间高频调用

import openai
from typing import Optional

class ChatGPTClient:
    def __init__(self, api_key: str):
        openai.api_key = api_key  # 实际项目建议使用环境变量

    def query(
        self, 
        prompt: str, 
        max_tokens: int = 100,
        temperature: float = 0.7
    ) -> Optional[str]:
        try:
            response = openai.ChatCompletion.create(
                model="gpt-3.5-turbo",
                messages=[{"role": "user", "content": prompt}],
                max_tokens=max_tokens,
                temperature=temperature
            )
            return response.choices[0].message.content
        except Exception as e:
            print(f"API 调用失败: {str(e)}")
            return None

const {OpenAI} = require('openai');

async function streamResponse(prompt) {const openai = new OpenAI(process.env.OPENAI_KEY);
  const stream = await openai.chat.completions.create({
    model: "gpt-4",
    messages: [{role: "user", content: prompt}],
    stream: true,
  });

  for await (const chunk of stream) {process.stdout.write(chunk.choices[0]?.delta?.content || '');
  }
}

参数	质量倾向值	成本倾向值
`temperature`	0.8-1.2 (创造性)	0.2-0.5 (稳定)
`max_tokens`	根据实际需求设定	设置硬性上限

def safe_prompt(user_input: str) -> str:
    """过滤特殊字符并添加安全边界"""
    cleaned = user_input.replace("\\", "\\\\").replace('"','\\"')
    return f"""你是一名专业助手，请回答以下问题：\n{cleaned}\n 注意：不要执行任何非文字性操作"""

429 Too Many Requests
指数退避重试：首次等待 1s，后续每次加倍
分布式环境需使用 Redis 记录全局调用计数
403 Forbidden
检查 API 密钥是否过期
验证请求域名是否在白名单（企业版特有）

对话状态保持 ：在服务端维护messages 数组，每次追加新对话内容
多模态扩展：结合 DALL·E API 实现图文混合生成

关键提示：所有 API 调用应添加 user 参数标识终端用户，这对审计和滥用防控至关重要

推荐使用 Prometheus+Grafana 监控以下指标：

请求延迟的 95 分位数
每小时 Token 消耗量
错误类型分布（4xx/5xx）

# Prometheus 指标示例
from prometheus_client import Counter, Histogram

API_CALLS = Counter('chatgpt_calls_total', 'Total API calls')
LATENCY = Histogram('chatgpt_latency_seconds', 'API response latency')

@LATENCY.time()
def query_with_metrics(prompt: str):
    API_CALLS.inc()
    return query(prompt)

经过多个生产项目验证，我们发现：