ChatGPT原理入门：从Transformer到对话生成的实现机制

1次阅读

共计 1460 个字符，预计需要花费 4 分钟才能阅读完成。

刚接触 ChatGPT 的开发者常常面临两个主要困惑：一是 Transformer 架构过于复杂，难以理解其核心机制；二是生成式模型像黑箱一样，不知道它如何产生连贯的对话。传统 NLP 模型（如 LSTM）是顺序处理文本，而生成式模型（如 ChatGPT）能同时关注整个文本的上下文关系，这使得它在理解长文本和生成连贯回复上更胜一筹。

自注意力机制就像读书时划重点——它让模型动态决定哪些词更重要。举个例子：

输入句子："猫吃了鱼，因为它饿了"
自注意力会发现：1. "它" 与 "猫" 关联度高
2. "饿了" 与 "吃了" 关联度高

这种机制通过三个关键矩阵（Query、Key、Value）实现，计算过程如下：

每个词生成 Q /K/ V 向量
计算 Q 与所有 K 的点积得到注意力分数
用 softmax 归一化后加权求和 V 向量

预训练阶段：
海量文本上训练语言建模能力
学习通用语言规律和世界知识
微调阶段：
使用指令数据调整对话能力
关键步骤 RLHF：通过人类对回复的评分，让模型学习更符合人类偏好的表达

import torch
import torch.nn as nn

# 单头注意力实现
class AttentionHead(nn.Module):
    def __init__(self, embed_size):
        super().__init__()
        self.q = nn.Linear(embed_size, embed_size)
        self.k = nn.Linear(embed_size, embed_size)
        self.v = nn.Linear(embed_size, embed_size)

    def forward(self, x):
        # 计算 Q /K/V [batch, seq_len, embed_size]
        Q = self.q(x)
        K = self.k(x)
        V = self.v(x)

        # 注意力分数 [batch, seq_len, seq_len]
        scores = torch.matmul(Q, K.transpose(1,2)) 
        scores = scores / (x.size(-1) ** 0.5)  # 缩放

        # softmax 加权
        attn = torch.softmax(scores, dim=-1)
        return torch.matmul(attn, V)

# Beam Search 文本生成示例
def generate_text(model, input_ids, max_len=50):
    for _ in range(max_len):
        outputs = model(input_ids)
        next_token = outputs.argmax(dim=-1)[:,-1:]
        input_ids = torch.cat([input_ids, next_token], dim=-1)
    return input_ids