ChatGPT前世今生：从GPT-1到GPT-4的技术演进与核心原理解析

1次阅读

共计 1279 个字符，预计需要花费 4 分钟才能阅读完成。

从 GPT- 1 到 GPT- 4 的演进可以看作是一个持续放大的 Transformer 解码器堆叠过程：

GPT-1(2018)：12 层 Transformer，1.17 亿参数，使用 BooksCorpus 数据集（约 5GB 文本）
GPT-2(2019)：48 层 Transformer，15 亿参数，WebText 数据集（40GB）
GPT-3(2020)：96 层 Transformer，1750 亿参数，Common Crawl 等混合数据（570GB）
GPT-4(2023)：具体架构未公开，推测使用混合专家模型(MoE)，训练数据量达万亿 token 级

Transformer 架构：2017 年提出的自注意力机制取代 RNN，解决长距离依赖问题
无监督预训练 + 微调：GPT- 1 开创的两阶段范式
零样本学习：GPT- 2 证明大模型可无需微调直接完成任务
RLHF：GPT-3.5 引入人类反馈强化学习，对齐人类偏好

公式简化版：

Attention(Q,K,V) = softmax(QK^T/√d_k)V

其中 Q(Query)、K(Key)、V(Value)都是输入向量的线性变换，d_k 是向量维度。该机制让每个词可以动态关注上下文相关部分。

监督微调：用人工标注数据调整预训练模型
奖励建模：训练一个反映人类偏好的奖励模型
强化学习：通过 PPO 算法优化策略模型

from transformers import GPT2Tokenizer, GPT2LMHeadModel

tokenizer = GPT2Tokenizer.from_pretrained('gpt2')
model = GPT2LMHeadModel.from_pretrained('gpt2')

input_text = "AI 未来发展的方向是"
inputs = tokenizer(input_text, return_tensors='pt')
outputs = model.generate(
    inputs.input_ids,
    max_length=100,
    temperature=0.7,
    do_sample=True
)
print(tokenizer.decode(outputs[0]))

关键参数说明：
– temperature：>1 增加多样性，<1 提高确定性
– top_p：核采样阈值，控制生成质量