AI工具调用方式深度解析：函数调用与提示词调用的选型指南

1次阅读

没有评论

共计 1857 个字符，预计需要花费 5 分钟才能阅读完成。

在构建 AI 应用时，开发者常面临一个基础但关键的选择：使用函数调用（Function Calling）还是提示词调用（Prompt-based Calling）。这个选择看似简单，但实际上会直接影响应用的性能、维护成本和用户体验。

常见的痛点包括：

响应延迟：某些调用方式可能导致不必要的等待时间
上下文管理：如何处理复杂的对话历史和多轮交互
维护复杂度：随着业务需求变化，调用方式是否容易调整和扩展

函数调用是一种结构化程度较高的调用方式，它通过预定义的函数接口（API）与 AI 模型交互。这种方式特别适合以下场景：

需要确定性输出的任务
处理结构化数据
需要严格参数校验的情况

提示词调用则更加灵活，通过自然语言指令与 AI 模型交互。它的优势在于：

支持创造性输出
适合开放式对话
可以处理非结构化输入

指标	函数调用	提示词调用
延迟	通常较低	可能较高
Token 消耗	通常较少	可能较多
错误处理	结构化错误码	自然语言解释
灵活性	较低	较高

import openai

# 定义函数规范
functions = [
    {
        "name": "get_current_weather",
        "description": "Get the current weather in a given location",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {
                    "type": "string",
                    "description": "The city and state, e.g. San Francisco, CA"
                },
                "unit": {
                    "type": "string",
                    "enum": ["celsius", "fahrenheit"]
                }
            },
            "required": ["location"]
        }
    }
]

# 调用示例
response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[{"role": "user", "content": "What's the weather in Beijing?"}],
    functions=functions,
    function_call="auto"
)

import openai

response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[{"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "What's the weather in Beijing?"}
    ]
)

函数调用通常有更稳定的性能表现，因为它的接口定义明确。提示词调用可能受到提示词长度和复杂度的影响，导致响应时间波动较大。

可以使用 Python 的 timeit 模块进行基本性能测试：

import timeit

# 测试函数调用
def test_function_call():
    # 函数调用代码
    pass

# 测试提示词调用
def test_prompt_call():
    # 提示词调用代码
    pass

print("Function call:", timeit.timeit(test_function_call, number=10))
print("Prompt call:", timeit.timeit(test_prompt_call, number=10))