ChatGPT API 实战指南：从基础调用到生产环境最佳实践

1次阅读

共计 1916 个字符，预计需要花费 5 分钟才能阅读完成。

ChatGPT API 的典型应用场景包括智能客服、内容生成、编程辅助等。在这些场景中，开发者常遇到以下痛点：

Token 计算问题 ：API 按 token 计费，但长文本或复杂对话容易超出限制，导致请求失败或成本不可控。
会话状态维护 ：多轮对话需要管理上下文，但简单的拼接方式会导致 token 快速增长，影响性能和成本。
错误处理复杂 ：API 调用可能因网络、限流或内容策略失败，需设计健壮的重试和降级机制。

API Key
简单直接，适合快速集成。
安全性较低，需避免泄露。
OAuth
提供更细粒度的权限控制。
适合企业级应用，但实现复杂度较高。

import openai
from openai.error import APIConnectionError, RateLimitError

# 初始化客户端
openai.api_key = 'your-api-key'

def chat_with_context(prompt, context=None):
    try:
        response = openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=context + [{"role": "user", "content": prompt}] if context else [{"role": "user", "content": prompt}],
            max_tokens=150
        )
        return response.choices[0].message.content
    except (APIConnectionError, RateLimitError) as e:
        print(f"API Error: {e}")
        return None

import asyncio
import openai

async def async_chat(prompt):
    try:
        response = await openai.ChatCompletion.acreate(
            model="gpt-3.5-turbo",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=150
        )
        return response.choices[0].message.content
    except Exception as e:
        print(f"Error: {e}")
        return None

关键信息提取 ：仅保留对话中的核心实体和意图，丢弃冗余信息。
摘要生成 ：用大模型生成对话摘要，替代完整历史。

import redis
import json

r = redis.Redis(host='localhost', port=6379, db=0)

def get_cached_response(prompt):
    cached = r.get(prompt)
    if cached:
        return json.loads(cached)
    return None

def cache_response(prompt, response):
    r.setex(prompt, 3600, json.dumps(response))  # 缓存 1 小时

import time

class TokenBucket:
    def __init__(self, capacity, refill_rate):
        self.capacity = capacity
        self.tokens = capacity
        self.refill_rate = refill_rate
        self.last_refill = time.time()

    def consume(self, tokens=1):
        self._refill()
        if self.tokens >= tokens:
            self.tokens -= tokens
            return True
        return False

    def _refill(self):
        now = time.time()
        elapsed = now - self.last_refill
        self.tokens = min(self.capacity, self.tokens + elapsed * self.refill_rate)
        self.last_refill = now