LLM API成本优化指南：如何计算1个token多少钱并降低推理成本

1次阅读

共计 1658 个字符，预计需要花费 5 分钟才能阅读完成。

开发者在使用大型语言模型（LLM）API 时，常面临成本难以预估的问题。API 调用往往按 token 计费，但 token 消耗量与输入输出文本长度、模型选择等因素相关，导致实际费用与预期偏差较大。这种不透明性使得项目预算难以控制，甚至可能因意外高额账单被迫中断服务。

LLM API 的费用计算公式为：

 总费用 = (输入 token 数 + 输出 token 数) × 每 token 价格

其中：
– 英文文本中，1 个 token 约等于 4 个字符或 0.75 个单词
– 中文文本中，1 个汉字通常计为 2 - 3 个 token

模型名称	输入 token 价格（$/1K）	输出 token 价格（$/1K）
GPT-3.5-turbo	0.0015	0.002
GPT-4	0.03	0.06
GPT-4-32k	0.06	0.12

import tiktoken

def calculate_api_cost(prompt: str, completion: str, model: str = 'gpt-3.5-turbo'):
    """
    计算单次 API 调用的 token 消耗和费用

    参数:
        prompt: 用户输入的提示文本
        completion: API 返回的完成文本
        model: 使用的模型名称

    返回:
        total_tokens: 总 token 数
        cost: 预估费用（美元）"""
    # 获取指定模型的编码器
    enc = tiktoken.encoding_for_model(model)

    # 计算 token 数量
    prompt_tokens = len(enc.encode(prompt))
    completion_tokens = len(enc.encode(completion))
    total_tokens = prompt_tokens + completion_tokens

    # 根据模型获取价格（单位：美元 /1K tokens）pricing = {'gpt-3.5-turbo': {'input': 0.0015, 'output': 0.002},
        'gpt-4': {'input': 0.03, 'output': 0.06}
    }

    # 计算费用
    cost = (prompt_tokens * pricing[model]['input'] / 1000 +
            completion_tokens * pricing[model]['output'] / 1000)

    return total_tokens, round(cost, 5)

# 使用示例
prompt = "请用中文解释量子计算的基本概念"
completion = "量子计算利用量子比特的叠加和纠缠特性..."
tokens, cost = calculate_api_cost(prompt, completion, 'gpt-4')
print(f"Token 消耗: {tokens}, 预估费用: ${cost}")