Agent开发实战：如何高效将工具调用结果返回给大模型

1次阅读

没有评论

共计 1543 个字符，预计需要花费 4 分钟才能阅读完成。

在构建基于大模型的 Agent 系统时，工具调用结果的返回是一个关键环节。很多新手开发者在这个环节会遇到各种问题，比如数据格式不匹配、上下文丢失等。这些问题不仅会影响系统的稳定性，还会降低用户体验。

数据格式不匹配 ：大模型通常需要结构化的输入，而工具返回的数据可能是非结构化的，导致解析失败。
上下文丢失 ：在多轮对话中，如果工具调用结果没有正确维护上下文，大模型可能会给出不连贯的回复。
错误处理不足 ：工具调用可能会失败，如果没有妥善处理错误，系统可能会崩溃或返回误导性信息。

常见的工具调用结果返回方式有三种：直接返回、结构化返回和流式返回。

直接返回 ：将工具调用的原始结果直接返回给大模型。优点是实现简单，缺点是数据格式可能不匹配，且缺乏错误处理。
结构化返回 ：将工具调用的结果封装成结构化的数据（如 JSON），并包含额外的元数据（如状态码、错误信息）。优点是格式统一，易于解析，缺点是增加了少量开销。
流式返回 ：适用于大量数据的场景，逐步返回结果。优点是减少延迟，缺点是实现复杂，且需要处理部分失败的情况。

以下是一个 Python 代码示例，展示如何实现结构化返回：

import json

def call_tool(tool_name, params):
    """
    调用工具并返回结构化的结果
    :param tool_name: 工具名称
    :param params: 调用参数
    :return: 结构化的结果
    """
    try:
        # 模拟工具调用
        if tool_name == "get_weather":
            result = {"temperature": 25, "humidity": 60}
        else:
            raise ValueError(f"Unknown tool: {tool_name}")

        # 封装结果
        response = {
            "status": "success",
            "data": result,
            "tool": tool_name,
            "context": {"last_called": tool_name}
        }
    except Exception as e:
        # 错误处理
        response = {
            "status": "error",
            "message": str(e),
            "tool": tool_name
        }

    return json.dumps(response)

# 示例调用
print(call_tool("get_weather", {"city": "Beijing"}))

不同返回方式对系统性能的影响：