ChatGPT API费用优化指南：新手必知的成本控制策略

1次阅读

共计 1927 个字符，预计需要花费 5 分钟才能阅读完成。

ChatGPT API 采用按 token 计费的模式，其中包含输入和输出的 token 总数。对于新手来说，最大的费用陷阱往往是低估了 token 的使用量。例如，一个看似简单的请求可能因为 prompt 过长或响应内容过多而产生高额费用。此外，频繁的 API 调用也会快速累积费用，尤其是在开发调试阶段。

批处理和异步调用是减少 API 调用次数的有效方法。批处理允许你将多个请求合并为一个，而异步调用则可以在不阻塞主线程的情况下发送请求。

import openai
import asyncio

async def batch_request(prompts):
    responses = await asyncio.gather(
        *[openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=[{"role": "user", "content": prompt}]
        ) for prompt in prompts]
    )
    return responses

# 示例使用
prompts = ["简述 Python 的列表推导式", "如何优化 SQL 查询性能"]
responses = asyncio.run(batch_request(prompts))
for resp in responses:
    print(resp['choices'][0]['message']['content'])

精简 prompt 和限制响应长度是减少 token 使用量的关键。以下是一个优化 prompt 的示例：

def optimize_prompt(user_query):
    # 移除不必要的空格和换行
    cleaned_query = ' '.join(user_query.split())
    # 限制 prompt 长度
    max_length = 100
    if len(cleaned_query) > max_length:
        cleaned_query = cleaned_query[:max_length] + '...'
    return cleaned_query

# 示例使用
original_query = """
    请详细解释 Python 中的装饰器，包括它们的语法、常见用例
    以及它们是如何工作的。"""
optimized_query = optimize_prompt(original_query)
print(f"优化后的 prompt: {optimized_query}")

对于重复性高的查询，实现响应缓存可以显著减少 API 调用。以下是使用 Python 实现简单缓存的示例：

from functools import lru_cache
import openai

@lru_cache(maxsize=100)
def get_cached_response(prompt):
    try:
        response = openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=150  # 限制响应长度
        )
        return response['choices'][0]['message']['content']
    except Exception as e:
        print(f"API 调用失败: {str(e)}")
        return None

# 示例使用
result1 = get_cached_response("Python 装饰器是什么?")
result2 = get_cached_response("Python 装饰器是什么?")  # 从缓存获取