基于Chinese-Poetry数据集构建生成对抗网络的实战指南

1次阅读

共计 1528 个字符，预计需要花费 4 分钟才能阅读完成。

中文诗歌生成任务相比普通文本生成更具挑战性。诗歌不仅需要符合语法规则，还需要保持意境、韵律和美感。Chinese-Poetry 数据集包含了大量古典诗歌，但直接用于 GAN 训练会遇到以下问题：

数据稀疏性：每首诗长度有限，且词汇高度凝练
结构复杂性：需要同时建模平仄、押韵等规则
评估困难：传统 GAN 的判别器难以捕捉诗歌的艺术性

数据清洗：
去除标点符号和空格
统一诗歌格式（如五言、七言）
处理生僻字和繁体字转换
分词与向量化：
使用 jieba 进行分词
构建词汇表（建议保留前 5000 高频词）
将诗句转换为 one-hot 向量或 word2vec 嵌入

示例代码片段：

import jieba
from collections import Counter

# 分词示例
def tokenize_poem(poem):
    return list(jieba.cut(poem.replace('','')))

# 构建词汇表
word_counts = Counter()
for poem in poems:
    word_counts.update(tokenize_poem(poem))
vocab = [word for word, count in word_counts.most_common(5000)]

我们对比了三种主流 GAN 架构在诗歌生成中的表现：

DCGAN：
优点：结构简单，训练速度快
缺点：难以捕捉长距离依赖关系
SeqGAN：
优点：专门为序列数据设计
缺点：训练过程复杂，需要预训练
Transformer-GAN：
优点：强大的上下文建模能力
缺点：计算资源消耗大

以下是基于 PyTorch 的 SeqGAN 关键组件实现：

import torch
import torch.nn as nn

class Generator(nn.Module):
    def __init__(self, vocab_size, embedding_dim, hidden_dim):
        super().__init__()
        self.embedding = nn.Embedding(vocab_size, embedding_dim)
        self.lstm = nn.LSTM(embedding_dim, hidden_dim)
        self.fc = nn.Linear(hidden_dim, vocab_size)

    def forward(self, x, hidden=None):
        embedded = self.embedding(x)
        output, hidden = self.lstm(embedded, hidden)
        logits = self.fc(output)
        return logits, hidden