SpringBoot项目5分钟集成ChatGPT API：从配置到生产环境避坑指南

9次阅读

共计 2403 个字符，预计需要花费 7 分钟才能阅读完成。

ChatGPT API 为开发者提供了强大的自然语言处理能力，典型应用场景包括：

智能客服系统自动应答
内容生成与润色工具
代码辅助编写与解释
多轮对话管理引擎

集成价值主要体现在快速获得 AI 能力而无需训练模型，特别适合需要快速验证产品概念的创业团队或需要增强现有系统智能化的企业应用。

在 pom.xml 中添加 OpenAI 官方 Java SDK：

<dependency>
    <groupId>com.theokanning.openai-gpt3-java</groupId>
    <artifactId>service</artifactId>
    <version>0.12.0</version>
</dependency>

API 密钥：从 OpenAI 平台获取
基础 URL：https://api.openai.com/v1
默认模型：gpt-3.5-turbo

@Configuration
public class ChatGPTConfig {@Value("${openai.api-key}")
    private String apiKey;

    @Bean
    public OpenAiService openAiService() {return new OpenAiService(apiKey, Duration.ofSeconds(30));
    }
}

@Service
@Slf4j
public class ChatGPTService {
    @Autowired
    private OpenAiService openAiService;

    public String getChatResponse(String prompt) {
        try {ChatCompletionRequest request = ChatCompletionRequest.builder()
                .model("gpt-3.5-turbo")
                .messages(List.of(new ChatMessage("user", prompt)
                ))
                .build();

            return openAiService
                .createChatCompletion(request)
                .getChoices()
                .get(0)
                .getMessage()
                .getContent();} catch (OpenAiHttpException e) {log.error("API 调用失败，状态码：{}", e.statusCode);
            throw new BusinessException("AI 服务暂时不可用");
        }
    }
}

@Data
public class ChatRequest {
    @NotBlank
    private String message;
    private String model = "gpt-3.5-turbo";
}

@Data
public class ChatResponse {
    private String answer;
    private LocalDateTime timestamp;
}

使用 Guava RateLimiter 控制请求频率
实现重试机制（建议最多 3 次）
缓存高频问题的答案

private final RateLimiter rateLimiter = RateLimiter.create(3.0); // 每秒 3 次

public String getResponseWithLimit(String prompt) {if (!rateLimiter.tryAcquire()) {throw new RateLimitException("操作过于频繁");
    }
    return getChatResponse(prompt);
}

使用 @Async 注解实现非阻塞调用
配合 DeferredResult 用于 HTTP 长轮询
考虑 WebSocket 推送结果

推荐方案优先级：

HashiCorp Vault 动态密钥
Kubernetes Secrets
环境变量（避免提交到 Git）

关键监控项：

平均响应时间
错误率
令牌消耗量

示例 Prometheus 配置：

@Bean
MeterRegistryCustomizer<MeterRegistry> metricsCommonTags() {return registry -> registry.config().commonTags("application", "chatgpt-integration");
}

错误码	原因	解决方案
429	速率超限	实现退避算法
401	密钥无效	检查密钥轮换机制
503	服务过载	降级返回缓存内容

@SpringBootTest
class ChatGPTServiceTest {
    @MockBean
    private OpenAiService openAiService;

    @Autowired
    private ChatGPTService chatGPTService;

    @Test
    void shouldReturnResponse() {when(openAiService.createChatCompletion(any()))
            .thenReturn(mockCompletionResult());

        String result = chatGPTService
            .getChatResponse("Hello");

        assertNotNull(result);
    }
}

尝试扩展流式响应功能：