实战项目来了!用CIFAR10数据集从零训练一个图像分类器,综合运用前面学到的所有知识。
10个类别:飞机、汽车、鸟、猫、鹿、狗、青蛙、马、船、卡车
训练集:50000张 32×32 彩色图片
测试集:10000张
import torch
import torch.nn as nn
import torch.nn.functional as F
# CIFAR10分类实战(简化版,使用随机数据模拟)
print("=== CIFAR10图像分类实战 ===")
# 模拟CIFAR10数据
torch.manual_seed(42)
num_classes = 10
class_names = ['飞机','汽车','鸟','猫','鹿','狗','青蛙','马','船','卡车']
# 使用随机数据(实际项目用torchvision.datasets.CIFAR10)
X_train = torch.randn(1000, 3, 32, 32)
y_train = torch.randint(0, 10, (1000,))
X_test = torch.randn(200, 3, 32, 32)
y_test = torch.randint(0, 10, (200,))
# ResNet-18简化版
class BasicBlock(nn.Module):
def __init__(self, in_ch, out_ch, stride=1):
super().__init__()
self.conv1 = nn.Conv2d(in_ch, out_ch, 3, stride, 1, bias=False)
self.bn1 = nn.BatchNorm2d(out_ch)
self.conv2 = nn.Conv2d(out_ch, out_ch, 3, 1, 1, bias=False)
self.bn2 = nn.BatchNorm2d(out_ch)
self.shortcut = nn.Sequential()
if stride != 1 or in_ch != out_ch:
self.shortcut = nn.Sequential(
nn.Conv2d(in_ch, out_ch, 1, stride, bias=False),
nn.BatchNorm2d(out_ch))
def forward(self, x):
out = F.relu(self.bn1(self.conv1(x)))
out = self.bn2(self.conv2(out))
out += self.shortcut(x)
return F.relu(out)
class ResNet18(nn.Module):
def __init__(self, num_classes=10):
super().__init__()
self.conv1 = nn.Conv2d(3, 64, 3, 1, 1, bias=False)
self.bn1 = nn.BatchNorm2d(64)
self.layer1 = self._make_layer(64, 64, 2, 1)
self.layer2 = self._make_layer(64, 128, 2, 2)
self.layer3 = self._make_layer(128, 256, 2, 2)
self.layer4 = self._make_layer(256, 512, 2, 2)
self.fc = nn.Linear(512, num_classes)
def _make_layer(self, in_ch, out_ch, blocks, stride):
layers = [BasicBlock(in_ch, out_ch, stride)]
for _ in range(1, blocks):
layers.append(BasicBlock(out_ch, out_ch))
return nn.Sequential(*layers)
def forward(self, x):
x = F.relu(self.bn1(self.conv1(x)))
x = self.layer1(x)
x = self.layer2(x)
x = self.layer3(x)
x = self.layer4(x)
x = F.adaptive_avg_pool2d(x, 1)
x = x.view(x.size(0), -1)
return self.fc(x)
model = ResNet18()
params = sum(p.numel() for p in model.parameters())
print(f"ResNet-18参数量: {params:,}")
# 训练
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)
loss_fn = nn.CrossEntropyLoss()
print("\n训练进度:")
for epoch in range(0, 51, 10):
model.train()
optimizer.zero_grad()
loss = loss_fn(model(X_train), y_train)
loss.backward()
optimizer.step()
model.eval()
with torch.no_grad():
train_acc = (model(X_train).argmax(1) == y_train).float().mean()
test_acc = (model(X_test).argmax(1) == y_test).float().mean()
print(f"Epoch {epoch:3d}: loss={loss.item():.4f}, train_acc={train_acc:.2%}, test_acc={test_acc:.2%}")
# 每类精度
print("\n各类别精度:")
with torch.no_grad():
pred = model(X_test).argmax(1)
for c in range(num_classes):
mask = y_test == c
if mask.sum() > 0:
acc = (pred[mask] == c).float().mean()
print(f" {class_names[c]}: {acc:.2%} ({mask.sum()}样本)")
本课的核心知识点构成了实战项目学习的重要一环。让我们从更高维度审视这些知识之间的关系:
⚠️ 初学者常犯的错误:
💡 最佳实践:
深度学习是一个整体——每一课的知识都不是孤立的:
💡 继续深入的学习路径:
下载CIFAR10数据集,训练ResNet-18达到90%+精度。
尝试ResNet-34或WideResNet,对比精度。
分析模型最常犯的错误,提出改进方案。
⚠️ 需要避免的典型错误:
💡 提升模型性能的系统方法:
理解本课内容需要将其置于更大的知识网络中。每个核心概念都不是孤立的,它们相互关联、相互支撑:
建立正确的直觉比记住公式更重要:
1. 维度直觉:高维空间中,数据分布与低维直觉截然不同(维度诅咒)
2. 信息瓶颈:神经网络逐层压缩信息,保留任务相关的、丢弃无关的
3. 流形假设:高维数据实际分布在低维流形上,学习即发现流形结构
4. 偏差-方差权衡:简单模型欠拟合(高偏差),复杂模型过拟合(高方差)
本课作为实战项目阶段的核心内容,与前后课程紧密关联:
| 关联课程 | 关联点 | 协同效应 |
|---|---|---|
| 前序课程 | 提供了本课的基础知识 | 循序渐进的理解 |
| 后续课程 | 本课内容是后续的基础 | 逐步构建能力 |
| 平行课程 | 同一阶段的互补知识 | 多角度深入理解 |
| 实战项目 | 综合运用所有知识 | 理论与实践结合 |
💡 准备面试时,确保能回答以下问题:
掌握本课内容后,可以通过以下方式继续深入:
将本课涉及的关键公式整理如下,方便回顾和记忆。理解每个公式背后的直觉比死记硬背更重要——试着用自然语言解释每个公式在做什么。
| 概念A | 概念B | 关键区别 |
|---|---|---|
| 参数 | 超参数 | 参数通过训练学习,超参数需要手动设定 |
| 训练误差 | 泛化误差 | 训练误差衡量拟合程度,泛化误差衡量预测能力 |
| 偏差 | 方差 | 偏差是系统性误差,方差是随机波动 |
| L1正则 | L2正则 | L1产生稀疏解,L2产生平滑解 |
| BatchNorm | LayerNorm | BN沿batch维度,LN沿特征维度 |
以下是本课核心概念的标准PyTorch实现模板,可以直接用于实际项目:
💡 调试建议:当结果不符合预期时,先检查数据,再检查损失函数,最后检查模型结构。90%的问题出在前两个环节。
完整图像分类项目——你做到了!