ChatGPT 入口开发指南：从零搭建到生产环境部署

1次阅读

没有评论

共计 1736 个字符，预计需要花费 5 分钟才能阅读完成。

直接调用 OpenAI 原生接口在实际生产环境中会遇到几个明显的瓶颈问题：

严格速率限制 ：OpenAI 对免费账号的 API 调用有每分钟 3 次的严格限制（付费账号根据等级不同有所提升），突发流量下极易触发 429 错误。
上下文丢失风险 ：原生接口要求开发者自行维护对话上下文，网络抖动或服务重启可能导致会话状态中断。
认证信息暴露 ：前端直接调用需要硬编码 API Key，存在密钥泄露风险。

针对上述问题，常见的解决方案是增加代理层。以下是两种主流方案的实测对比：

Nginx 反向代理
优点：配置简单，可利用 lua-resty-limit-traffic 模块实现基础限流
缺点：动态路由能力弱，QPS 约 5000 时出现明显延迟
自建 API 网关（如 Kong）
优点：支持插件化扩展，实测单节点可承载 8000+ QPS
缺点：需要维护额外的基础设施

以下是用 Flask 实现 JWT 验证的关键代码（含异常处理）：

from flask import Flask, request, jsonify
import jwt
from datetime import datetime, timedelta

app = Flask(__name__)
SECRET_KEY = 'your-256-bit-secret'

@app.route('/token', methods=['POST'])
def generate_token():
    try:
        # 实际项目应从数据库验证用户凭证
        auth = request.authorization
        if not auth or auth.password != 'valid_password':
            return jsonify({'error': 'Invalid credentials'}), 401

        token = jwt.encode({
            'user': auth.username,
            'exp': datetime.utcnow() + timedelta(minutes=30)
        }, SECRET_KEY, algorithm='HS256')

        return jsonify({'token': token})
    except Exception as e:
        app.logger.error(f'Token generation failed: {str(e)}')
        return jsonify({'error': 'Internal server error'}), 500

对话上下文缓存需要解决两个核心问题：

数据结构设计 ：建议使用 Redis Hash 存储会话数据
TTL 配置 ：根据业务场景设置 30 分钟 -24 小时不等的过期时间

示例配置：

import redis

r = redis.Redis(
    host='redis-host',
    port=6379,
    db=0,
    socket_timeout=3  # 防止网络问题阻塞主线程
)

def save_context(session_id, messages):
    try:
        r.hset(f'chat:{session_id}',
            mapping={'messages': json.dumps(messages)}
        )
        r.expire(f'chat:{session_id}', 3600)  # 1 小时过期
    except redis.RedisError as e:
        log.error(f'Redis operation failed: {e}')