从零理解Agent与基础模型：架构关系与协同机制解析

1次阅读

共计 2084 个字符，预计需要花费 6 分钟才能阅读完成。

最近在 AI 开发者社区看到很多讨论，发现有些同学容易把 Agent 和基础模型混为一谈。这会导致一些实际工程问题，比如：

把业务逻辑直接硬编码到 prompt 里，每次请求都让基础模型从头开始推理
没有任务拆解能力，让模型处理超出其上下文长度的复杂问题
缺乏工具调用机制，让大模型去做本应由 API 完成的计算

这些问题本质上都是因为没理解 Agent 和基础模型的技术边界。就像你不会用计算器直接解微积分一样，我们需要明确它们的分工。

先看个直观对比表：

能力维度	裸用基础模型	Agent 系统
并发处理	依赖 API 配额	可编排多模型并行
长时记忆	仅当前会话	支持向量数据库存储
工具调用	需在 prompt 中描述	可自动选择并执行工具
错误处理	直接返回错误	具备重试 / 降级机制
任务拆解	单次完成	可分解为子任务链

用 Mermaid 来看典型分层架构：

flowchart TD
    A[用户请求] --> B(Agent 核心)
    B --> C{需要工具?}
    C -->| 是 | D[工具执行]
    C -->| 否 | E[基础模型调用]
    D --> F[结果处理]
    E --> F
    F --> G{是否完成?}
    G -->| 否 | B
    G -->| 是 | H[返回响应]

关键信息流：
1. Agent 接收原始请求后先做意图识别
2. 根据需求决定是否调用工具（如搜索 API）
3. 整理上下文后调用基础模型
4. 循环直到任务完成

下面是个精简版 Agent 实现（基于 LangChain）：

from typing import List, Dict
from langchain.tools import BaseTool
from langchain.llms import OpenAI
from tenacity import retry, stop_after_attempt

class BasicAgent:
    """
    简易 Agent 实现
    论文参考: ReAct: Synergizing Reasoning and Acting in Language Models
    """def __init__(self, model_name="gpt-3.5-turbo"):
        # 初始化模型 (实际生产应考虑异步客户端)
        self.llm = OpenAI(model_name=model_name)
        self.history: List[Dict] = []  # 对话历史
        self.tools = self._init_tools()  # 可用工具集

    def _init_tools(self) -> Dict[str, BaseTool]:
        """注册工具集（示例实现）"""
        return {"search": WebSearchTool(),
            "math": CalculatorTool()}

    @retry(stop=stop_after_attempt(3))
    def _call_model(self, prompt: str) -> str:
        """带重试的模型调用"""
        try:
            return self.llm(prompt)
        except Exception as e:
            print(f"模型调用失败: {e}")
            raise

    def run(self, query: str) -> str:
        """执行主循环"""
        context = self._build_context(query)

        # 第一步：决定是否需要工具
        tool_decision = self._call_model(f"根据问题判断是否需要工具:\n{context}\n"
            "只需回答工具名或'none'")

        if tool_decision.lower() != 'none':
            # 执行工具调用（需实现工具类）tool_result = self.tools[tool_decision].run(query)
            context += f"\n 工具执行结果: {tool_result}"

        # 最终生成响应
        response = self._call_model(f"请回答:\n{context}")
        self._update_history(query, response)
        return response

    # 上下文管理等方法省略...

关键设计点：
1. 用装饰器实现自动重试（tenacity 库）
2. 工具调用与模型推理分离
3. 每次迭代都维护完整上下文

实际部署时还需要考虑：