ChatGPT限额详解：新手必知的API调用策略与避坑指南

1次阅读

共计 1689 个字符，预计需要花费 5 分钟才能阅读完成。

刚开始接触 ChatGPT API 时，很多人会疑惑：为什么要有这些调用限制？其实限额机制就像高速公路的限速标志——不是为了为难司机，而是为了保障所有车辆都能安全通行。RPM（每分钟请求数）和TPM（每分钟 token 数）限制主要防止单个用户过度占用资源，确保服务器稳定运行。试想如果没有限制，有人疯狂发送海量请求，其他正常用户的体验就会像早晚高峰堵车一样糟糕。

这个限制直接控制 API 调用频率。例如免费 tier 的 RPM 可能是 20，意味着每分钟最多发送 20 次请求。注意：

所有 API 端点共享同一个 RPM 池
超过限制会立即返回 429 状态码

更精细的限制，统计你所有请求中的 token 总数（包括输入和输出）。比如限制 40000 TPM 表示：

如果每个请求平均消耗 2000 tokens
理论最大值是 20 请求 / 分钟（2000×20=40000）

像手机流量包一样，每月重置的固定配额（如 18 美元额度）。特别提醒：

不同模型消耗额度不同（gpt- 4 比 gpt-3.5 贵）
额度用尽后 API 会完全停用

from tenacity import retry, stop_after_attempt, wait_exponential
import openai
from typing import Optional, Dict

@retry(stop=stop_after_attempt(3),
    wait=wait_exponential(multiplier=1, min=2, max=10)
)
def safe_completion(
    prompt: str, 
    model: str = "gpt-3.5-turbo"
) -> Optional[Dict]:
    """
    带自动重试的 API 调用封装
    :param prompt: 输入的提示文本
    :param model: 使用的模型名称
    :return: API 响应字典或 None
    """
    try:
        resp = openai.ChatCompletion.create(
            model=model,
            messages=[{"role": "user", "content": prompt}]
        )

        # 解析响应头监控剩余配额
        remaining = int(resp.headers.get('x-ratelimit-remaining', 0))
        if remaining < 5:  # 配额预警
            print(f"⚠️ 剩余请求次数仅剩 {remaining}")

        return resp
    except openai.error.RateLimitError:
        print("触发限流，自动重试中...")
        raise  # 触发 tenacity 重试机制

关键点说明：