ChatGPT实战指南：从API调用到生产环境部署的最佳实践

1次阅读

共计 2316 个字符，预计需要花费 6 分钟才能阅读完成。

ChatGPT API 为开发者提供了将智能对话能力快速集成到应用中的机会，典型应用场景包括客服机器人、内容生成工具和编程助手等。然而在实际使用中，开发者常遇到 API 认证流程复杂、对话状态管理困难和响应延迟等问题。本文将针对这些挑战，分享一套经过实战检验的解决方案。

开发者可以选择两种主流认证方式：

API Key 认证 ：简单直接，适合快速原型开发

# Python 示例
import openai
import os

openai.api_key = os.getenv('OPENAI_API_KEY')

OAuth 2.0 认证 ：更安全，适合企业级应用

// Node.js 示例
const {Configuration, OpenAIApi} = require('openai');

const configuration = new Configuration({accessToken: process.env.OAUTH_TOKEN});
const openai = new OpenAIApi(configuration);

保持对话连贯性对于良好的用户体验至关重要，以下是三种常见方法：

全量存储 ：保存完整对话历史
优点：实现简单
缺点：token 消耗大
差异存储 ：只存储用户最新输入
优点：节省资源
缺点：需要复杂的状态恢复逻辑
ID 追踪 ：使用会话 ID 关联上下文
优点：平衡性能与效果
缺点：需要额外存储系统

根据场景选择合适的响应方式：

流式响应 (streaming)：
延迟低（平均 200-300ms）
适合实时交互场景
批量响应 ：
吞吐量高（可达 1000+ 请求 / 秒）
适合后台处理任务

import openai
import os
from time import sleep
from tenacity import retry, stop_after_attempt, wait_exponential

@retry(stop=stop_after_attempt(3), wait=wait_exponential(multiplier=1, min=4, max=10))
async def chat_completion(prompt, context=[]):
    try:
        response = await openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=context + [{"role": "user", "content": prompt}],
            stream=True
        )
        return process_stream(response)
    except openai.error.APIError as e:
        if e.status_code == 429:
            print("遇到速率限制，将自动重试")
            raise
        elif e.status_code == 503:
            print("服务暂时不可用")
            raise
        else:
            raise

def process_stream(stream):
    full_response = ""
    for chunk in stream:
        content = chunk.choices[0].delta.get("content", "")
        print(content, end="")
        full_response += content
    return full_response

const {Configuration, OpenAIApi} = require('openai');
require('dotenv').config();

const configuration = new Configuration({apiKey: process.env.OPENAI_API_KEY,});
const openai = new OpenAIApi(configuration);

async function chatCompletion(prompt, context = []) {
  try {
    const response = await openai.createChatCompletion({
      model: "gpt-3.5-turbo",
      messages: [...context, { role: "user", content: prompt}],
      stream: false
    }, {timeout: 10000});

    return response.data.choices[0].message.content;
  } catch (error) {if (error.response?.status === 429) {console.log("Rate limit exceeded, retrying...");
      await new Promise(resolve => setTimeout(resolve, 5000));
      return chatCompletion(prompt, context);
    }
    throw error;
  }
}