LLM与Agent技术解析：从基础概念到应用场景的深度对比

1次阅读

共计 1842 个字符，预计需要花费 5 分钟才能阅读完成。

在 AI 领域，LLM（Large Language Model/ 大语言模型）和 Agent（智能体）是两种容易被混淆的技术。LLM 更像是一个强大的文本生成器，能够根据输入预测下一个词；而 Agent 则是一个能够感知环境、做出决策并执行动作的自主系统。理解两者的区别，对于选择合适的技术方案至关重要。

LLM 的核心架构可以简化为：

输入层 ：接收文本输入（prompt/ 提示词）
Transformer 层 ：通过自注意力机制（self-attention）处理输入
输出层 ：生成概率分布，预测下一个词（token）

Agent 的架构则更为复杂：

感知模块 ：接收环境输入（可以是文本、传感器数据等）
决策模块 ：基于内部状态和目标做出决策
执行模块 ：将决策转化为动作（action）
反馈循环 ：根据环境反馈更新内部状态

LLM：单次预测（single-shot prediction），输入一段文本，输出一段生成的文本。例如问答、文本补全。
Agent：持续决策（sequential decision making），通过多次与环境互动来达成目标。例如游戏 AI、机器人控制。

场景	LLM 适用性	Agent 适用性
文本生成	高	低
问答系统	高	中
自动化流程	低	高
实时决策系统	低	高
多轮对话	中	高

# 使用 Hugging Face 的 transformers 库加载预训练模型
from transformers import pipeline

# 创建文本生成管道，使用 GPT- 2 模型
generator = pipeline('text-generation', model='gpt2')

# 输入提示词
prompt = "人工智能的未来发展"

# 生成文本
output = generator(prompt, max_length=100, num_return_sequences=1)
print(output[0]['generated_text'])

class Agent:
    def __init__(self):
        self.state = None  # 内部状态
        self.goal = None   # 目标

    def perceive(self, environment):
        # 感知环境
        observation = environment.get_observation()
        return observation

    def decide(self, observation):
        # 基于观察和内部状态做出决策
        action = self.policy(observation, self.state, self.goal)
        return action

    def act(self, environment, action):
        # 执行动作并获取反馈
        reward, new_observation = environment.step(action)
        return reward, new_observation

    def run_episode(self, environment):
        # 决策循环
        observation = self.perceive(environment)
        while not environment.is_done():
            action = self.decide(observation)
            reward, new_observation = self.act(environment, action)
            self.update_state(reward, new_observation)
            observation = new_observation