第34课：GAN生成

📖 本课概述

生成对抗网络(GAN)让AI学会"创造"——生成逼真的图像、音频、文本。本课深入GAN的原理和实现。

🎭 一、GAN原理

1.1 对抗博弈

1.2 纳什均衡

1.3 GAN训练的挑战

• 模式坍塌(Mode Collapse)：G只生成少数几种样本
• 训练不稳定：D太强→G梯度消失；G太强→D无信号
• 超参数敏感：需要精心平衡D和G的训练

1.4 DCGAN实现

import torch
import torch.nn as nn

# GAN实现
print("=== DCGAN生成对抗网络 ===")

# 生成器
class Generator(nn.Module):
    def __init__(self, latent_dim=100, img_channels=1):
        super().__init__()
        self.net = nn.Sequential(
            nn.ConvTranspose2d(latent_dim, 128, 4, 1, 0, bias=False),
            nn.BatchNorm2d(128), nn.ReLU(True),
            nn.ConvTranspose2d(128, 64, 4, 2, 1, bias=False),
            nn.BatchNorm2d(64), nn.ReLU(True),
            nn.ConvTranspose2d(64, 32, 4, 2, 1, bias=False),
            nn.BatchNorm2d(32), nn.ReLU(True),
            nn.ConvTranspose2d(32, img_channels, 4, 2, 1, bias=False),
            nn.Tanh()
        )
    
    def forward(self, z):
        return self.net(z)

# 判别器
class Discriminator(nn.Module):
    def __init__(self, img_channels=1):
        super().__init__()
        self.net = nn.Sequential(
            nn.Conv2d(img_channels, 32, 4, 2, 1, bias=False),
            nn.LeakyReLU(0.2, True),
            nn.Conv2d(32, 64, 4, 2, 1, bias=False),
            nn.BatchNorm2d(64), nn.LeakyReLU(0.2, True),
            nn.Conv2d(64, 128, 4, 2, 1, bias=False),
            nn.BatchNorm2d(128), nn.LeakyReLU(0.2, True),
            nn.Conv2d(128, 1, 4, 1, 0, bias=False),
            nn.Sigmoid()
        )
    
    def forward(self, x):
        return self.net(x).view(-1)

# 初始化
G = Generator()
D = Discriminator()

print(f"生成器参数: {sum(p.numel() for p in G.parameters()):,}")
print(f"判别器参数: {sum(p.numel() for p in D.parameters()):,}")

# 测试前向传播
z = torch.randn(8, 100, 1, 1)
fake_img = G(z)
print(f"\n生成: z{list(z.shape)} → img{list(fake_img.shape)}")
print(f"判别: img{list(fake_img.shape)} → score{list(D(fake_img).shape)}")

# GAN训练
opt_G = torch.optim.Adam(G.parameters(), lr=0.0002, betas=(0.5, 0.999))
opt_D = torch.optim.Adam(D.parameters(), lr=0.0002, betas=(0.5, 0.999))
loss_fn = nn.BCELoss()

# 模拟真实数据
real_data = torch.randn(32, 1, 32, 32) * 0.5 + 0.5  # 模拟真实图像
real_data = torch.clamp(real_data, -1, 1)

print("\nGAN训练:")
for epoch in range(0, 51, 10):
    # 训练判别器
    opt_D.zero_grad()
    
    real_label = torch.ones(32)
    fake_label = torch.zeros(32)
    
    # 真实数据
    d_real = D(real_data)
    loss_real = loss_fn(d_real, real_label)
    
    # 生成数据
    z = torch.randn(32, 100, 1, 1)
    fake = G(z).detach()
    d_fake = D(fake)
    loss_fake = loss_fn(d_fake, fake_label)
    
    d_loss = loss_real + loss_fake
    d_loss.backward()
    opt_D.step()
    
    # 训练生成器
    opt_G.zero_grad()
    z = torch.randn(32, 100, 1, 1)
    fake = G(z)
    d_fake = D(fake)
    g_loss = loss_fn(d_fake, real_label)  # 生成器希望判别器认为生成数据是真实的
    g_loss.backward()
    opt_G.step()
    
    print(f"Epoch {epoch:2d}: D_loss={d_loss.item():.4f}, G_loss={g_loss.item():.4f}, "
          f"D(real)={d_real.mean().item():.3f}, D(fake)={D(fake.detach()).mean().item():.3f}")

🔬 深入拓展

核心要点回顾

本课的核心知识点构成了实战项目学习的重要一环。让我们从更高维度审视这些知识之间的关系：

• 理论层面：理解数学原理是正确应用的前提，每个公式背后都有直觉
• 工程层面：PyTorch提供了高效实现，但理解底层原理才能正确调试
• 实践层面：没有银弹，不同场景需要不同的策略组合

常见陷阱与最佳实践

与前后课程的联系

深度学习是一个整体——每一课的知识都不是孤立的：

• 优化器（第5课）的选择影响正则化（第6课）的效果
• 初始化（第7课）决定了训练能否开始
• CNN（第8-14课）的成功依赖训练技巧（第22-28课）
• Transformer（第20-21课）结合了注意力和位置编码
• 实战项目（第29-35课）综合运用所有知识

📖 延伸阅读

📝 练习

💡 GAN训练技巧

稳定GAN

• 判别器多训练几步
• 使用谱归一化
• 特征匹配损失
• 渐进增长训练

常见错误与解决方案

性能优化建议

🔬 深度拓展：从理论到实践

核心概念网络

理解本课内容需要将其置于更大的知识网络中。每个核心概念都不是孤立的，它们相互关联、相互支撑：

• 数学基础：线性代数、微积分、概率论是理解所有深度学习算法的根基
• 计算基础：自动微分、GPU并行计算让理论变为现实
• 工程基础：数据处理、模型设计、训练技巧的有机结合
• 领域知识：CV、NLP、语音等领域的先验知识指导模型设计

关键洞察与直觉

建立正确的直觉比记住公式更重要：

与其他课程的关联

本课作为实战项目阶段的核心内容，与前后课程紧密关联：

面试常见问题

进阶学习路径

掌握本课内容后，可以通过以下方式继续深入：

• 阅读本课相关的一手论文，理解原始动机和推导
• 复现论文的实验结果，验证自己的理解
• 尝试改进方法，思考为什么现有方法有局限
• 在真实项目或Kaggle竞赛中应用
• 关注该方向的最新进展（arXiv、顶级会议）