ChatGPT反代技术解析：从原理到生产环境部署

1次阅读

共计 2841 个字符，预计需要花费 8 分钟才能阅读完成。

直接调用 ChatGPT API 存在以下几个主要问题：

地域限制 ：某些地区无法直接访问 OpenAI 的 API 端点
速率限制 ：API 有严格的每分钟 / 每天的调用次数限制
密钥暴露风险 ：前端直接调用可能导致 API 密钥泄露
响应延迟 ：跨地域访问可能导致较高的网络延迟

Nginx 反向代理
优点：高性能、低资源占用、成熟的负载均衡
缺点：复杂的业务逻辑处理能力有限
Node.js 中间层
优点：灵活的业务逻辑处理、丰富的生态
缺点：性能略低于 Nginx
混合方案
推荐在生产环境中使用 Nginx+Node.js 的组合
Nginx 处理 TLS termination 和负载均衡
Node.js 处理业务逻辑和 API 调用

upstream chatgpt_backend {
  server 127.0.0.1:3000;
  keepalive 32;  # 保持长连接
}

server {
  listen 443 ssl;
  server_name api.yourdomain.com;

  ssl_certificate /path/to/cert.pem;
  ssl_certificate_key /path/to/key.pem;

  location /v1/chat/completions {
    proxy_pass http://chatgpt_backend;
    proxy_http_version 1.1;
    proxy_set_header Connection "";
    proxy_set_header Authorization ""; # 移除原始 Authorization 头
  }
}

const express = require('express');
const axios = require('axios');
const rateLimit = require('express-rate-limit');

const app = express();
app.use(express.json());

// 环境变量管理 API 密钥
const OPENAI_API_KEY = process.env.OPENAI_API_KEY;

// 限流中间件
const limiter = rateLimit({
  windowMs: 15 * 60 * 1000, // 15 分钟
  max: 100 // 每个 IP 限制 100 次请求
});

// 请求转发
app.post('/v1/chat/completions', limiter, async (req, res) => {
  try {
    const response = await axios.post(
      'https://api.openai.com/v1/chat/completions',
      req.body,
      {
        headers: {'Authorization': `Bearer ${OPENAI_API_KEY}`,
          'Content-Type': 'application/json'
        },
        timeout: 10000 // 10 秒超时
      }
    );
    res.json(response.data);
  } catch (error) {console.error('Proxy error:', error.message);
    res.status(500).json({error: 'Internal Server Error'});
  }
});

// 启动服务
const PORT = process.env.PORT || 3000;
app.listen(PORT, () => {console.log(`Proxy server running on port ${PORT}`);
});

环境变量存储 ：永远不要将密钥硬编码在代码中
密钥轮换 ：定期更换 API 密钥
访问控制 ：限制可访问密钥的系统和人员
审计日志 ：记录密钥使用情况

// 使用 axios 实例配置连接池
const apiClient = axios.create({
  baseURL: 'https://api.openai.com',
  headers: {'Authorization': `Bearer ${OPENAI_API_KEY}` },
  httpAgent: new http.Agent({keepAlive: true, maxSockets: 25}),
  httpsAgent: new https.Agent({keepAlive: true, maxSockets: 25})
});

短期缓存 ：对相同请求做短期缓存（1- 5 分钟）
缓存键 ：使用请求体 hash 作为缓存键
缓存失效 ：设置合理的 TTL

// 带重试机制的请求
async function requestWithRetry(payload, retries = 2) {
  try {
    const response = await apiClient.post('/v1/chat/completions', payload, {timeout: 8000});
    return response.data;
  } catch (error) {if (retries > 0 && error.code !== 'ECONNABORTED') {await new Promise(resolve => setTimeout(resolve, 1000));
      return requestWithRetry(payload, retries - 1);
    }
    throw error;
  }
}

输入验证 ：检查请求体结构
内容过滤 ：防止注入攻击
JWT 验证 ：可选的高级验证机制

// 日志中间件
app.use((req, res, next) => {const sanitizedBody = { ...req.body};
  if (sanitizedBody.messages) {sanitizedBody.messages = '[REDACTED]';
  }
  console.log('Sanitized request:', {
    method: req.method,
    path: req.path,
    body: sanitizedBody
  });
  next();});