从零搭建ChatGPT代理服务：新手避坑指南与实战代码

1次阅读

没有评论

共计 2156 个字符，预计需要花费 6 分钟才能阅读完成。

直接调用 OpenAI 官方 API 会遇到几个头疼的问题：

IP 限制 ：国内服务器直接访问经常被阻断
速率控制 ：免费账号每分钟仅允许 3 次请求，生产环境根本不够用
连接不稳定 ：跨国网络延迟高，经常出现超时

去年我们项目就吃过亏——凌晨三点突然接到告警，因为 API 调用失败导致客户对话中断。自建代理服务后，不仅解决了这些问题，还能实现请求聚合、故障转移等高级功能。

对比常见反向代理方案：

HAProxy：性能强劲但配置复杂，适合大型集群
Traefik：自动服务发现好用，但内存占用偏高
Nginx：轻量级（内存 <10MB）、配置简单、社区资源丰富

对于中小规模应用，Nginx 是最佳选择。实测单台 2 核 4G 的云服务器，Nginx 能轻松处理 2000+ QPS 的代理请求。

# /etc/nginx/conf.d/chatgpt-proxy.conf
server {
    listen 443 ssl http2;
    server_name api.yourdomain.com;

    # TLS 配置（建议使用 1.3 版本）ssl_certificate /path/to/fullchain.pem;
    ssl_certificate_key /path/to/privkey.pem;
    ssl_protocols TLSv1.2 TLSv1.3;

    # 关键转发头设置
    location /v1/chat/completions {
        proxy_pass https://api.openai.com;
        proxy_set_header Authorization "Bearer $OPENAI_KEY";
        proxy_set_header Content-Type "application/json";

        # 连接优化参数
        proxy_connect_timeout 60s;
        proxy_read_timeout 300s;
        proxy_send_timeout 300s;
    }
}

# 生成带重试机制的请求
import requests
from requests.adapters import HTTPAdapter

session = requests.Session()
# 配置自动重试（对 502/504 等状态码）retry_adapter = HTTPAdapter(max_retries=3)
session.mount("https://", retry_adapter)

response = session.post(
    "https://api.yourdomain.com/v1/chat/completions",
    headers={"X-Request-ID": "uuid123"},  # 建议添加请求追踪 ID
    json={"model": "gpt-3.5-turbo", "messages": [...]}
)

# 在 http 块中添加限流规则
limit_req_zone $binary_remote_addr zone=openai:10m rate=5r/s;

# 在 location 中使用
location /v1/chat/completions {
    limit_req zone=openai burst=10 nodelay;
    # ... 其他配置...
}

这样设置后：

每个 IP 限制 5 请求 / 秒
允许短时突发 10 个请求
超过限制返回 503 状态码

使用 certbot 自动续期：

安装工具：sudo apt install certbot python3-certbot-nginx
获取证书：sudo certbot --nginx -d api.yourdomain.com
测试续期：sudo certbot renew --dry-run

很多同学会遇到浏览器跨域问题，正确做法是：

location / {
    # 谨慎使用通配符！建议显式指定域名
    add_header 'Access-Control-Allow-Origin' 'https://your-frontend.com';
    add_header 'Access-Control-Allow-Methods' 'POST, OPTIONS';
    add_header 'Access-Control-Allow-Headers' 'Content-Type, Authorization';

    # 对 OPTIONS 请求快速返回
    if ($request_method = 'OPTIONS') {return 204;}
}

对于 AI 响应：