Claude API代码token计费优化实战：如何降低大模型调用成本

1次阅读

没有评论

共计 2857 个字符，预计需要花费 8 分钟才能阅读完成。

Claude API 按照输入和输出的 token 总数进行计费，其中：

1 个 token 约等于 0.75 个英文单词
中文等非拉丁语系文字通常 1 个字符占 1 - 2 个 token
系统提示词 (prompt) 和对话历史都会计入 token 消耗

当处理长文档或复杂对话时，token 消耗会快速累积，成为开发成本的主要部分。例如，一个包含 2000token 的请求和 1000token 的响应，按照标准费率计算可能产生显著费用。

冗余提示词：包含过多无关上下文或重复指令
非结构化输出：模型返回自由文本时包含大量衔接词和重复内容
全量对话历史：每次请求都携带完整聊天记录
过度安全边际：设置过高的 max_tokens 限制
未压缩的中间结果：在链式调用中传递原始文本而非摘要

通过精简指令和结构化模板减少输入 token：

def optimize_prompt(original_prompt):
    # 移除多余的空格和换行
    compressed = ' '.join(original_prompt.split())

    # 替换冗长表述
    replacements = {
        '请尽可能详细地解释': '解释',
        '我想请你帮助分析': '分析',
        '以下内容非常重要': '重要：'
    }

    for old, new in replacements.items():
        compressed = compressed.replace(old, new)

    return compressed

# 使用示例
original = """ 请尽可能详细地解释以下代码片段，我想请你帮助分析这段 Python 代码的逻辑 """optimized = optimize_prompt(original)  # 输出：" 解释代码片段，分析这段 Python 代码的逻辑 "

强制 JSON 输出可比自然语言减少 20%-40% 的 token 消耗：

import json

# 自然语言请求
natural_prompt = "告诉我用户 John Doe 的基本信息，包括年龄、职业和居住地"

# JSON 格式请求
json_prompt = """{"instruction":" 返回用户信息 ","format":"json","data": {"name":"John Doe","fields": ["age","occupation","city"]
  }
}"""

实测对比：

格式类型	输出 token 数
自然语言	78
JSON 格式	52

实现智能上下文窗口管理：

from collections import deque

class ConversationManager:
    def __init__(self, max_history=3):
        self.history = deque(maxlen=max_history)

    def add_message(self, role, content):
        self.history.append({"role": role, "content": content})

    def get_context(self, max_tokens=500):
        current_tokens = 0
        selected = []

        # 从最新消息开始反向遍历
        for msg in reversed(self.history):
            msg_tokens = estimate_tokens(msg['content'])  # 需要实现 token 估算函数
            if current_tokens + msg_tokens > max_tokens:
                break
            selected.append(msg)
            current_tokens += msg_tokens

        return list(reversed(selected))

import tiktoken  # OpenAI 的 token 计数库

def count_tokens(text, model="gpt-3.5-turbo"):
    try:
        encoding = tiktoken.encoding_for_model(model)
    except KeyError:
        encoding = tiktoken.get_encoding("cl100k_base")
    return len(encoding.encode(text))

import hashlib
import json
from functools import lru_cache

@lru_cache(maxsize=100)
def cached_completion(prompt, temperature=0.7):
    # 生成缓存键
    cache_key = hashlib.md5(json.dumps({"prompt": prompt, "temp": temperature}).encode()).hexdigest()

    # 检查缓存（实际项目应使用 Redis 等）if cache_key in response_cache:
        return response_cache[cache_key]

    # 真实 API 调用
    response = claude_completion(
        prompt=prompt,
        temperature=temperature,
        max_tokens=500
    )

    # 存储缓存
    response_cache[cache_key] = response
    return response

def generate_summary(text, ratio=0.3):
    """生成文本摘要，保留约 30% 的关键内容"""
    # 计算目标 token 数
    total_tokens = count_tokens(text)
    target_tokens = int(total_tokens * ratio)

    summary_prompt = f""" 请用 {target_tokens} 个 token 以内总结以下内容，保留关键信息：{text}
    """

    return cached_completion(summary_prompt, temperature=0.3)

测试场景：处理 10KB 技术文档的 QA 任务