Sinh ảnh: GAN & Diffusion

Mở đầu: 170 mẫu dồn về 1 phía, phía kia trống trơn — mode collapse thật

Train $1$ GAN nhỏ để bắt chước phân bố $2$ nhóm điểm tách biệt (mean $-2$ và $+2$) — nếu Discriminator học nhanh hơn Generator quá nhiều ($5$ bước cập nhật D cho mỗi $1$ bước G), verify bằng số thật: trong $200$ mẫu Generator sinh ra, $170$ mẫu dồn hết về nhóm $-2$, đúng $0$ mẫu rơi vào nhóm $+2$. Generator đã tìm ra $1$ "chiêu" duy nhất đánh lừa được Discriminator và LẶP LẠI mãi nó — bỏ hẳn nửa kia của phân bố mục tiêu. Đây gọi là mode collapse, cạm bẫy nổi tiếng nhất khiến GAN khét tiếng khó train.

Cùng bài toán sinh mẫu, diffusion đi hướng khác hẳn: không đối kháng, chỉ có $1$ hàm hồi quy đơn thuần. Bài này verify diffusion không chỉ train ổn định hơn (không có bên nào "phá" bên nào) mà còn thực sự SINH ĐƯỢC mẫu giống dữ liệu gốc — điểm sinh ra từ nhiễu thuần gần hình xoắn ốc mục tiêu hơn $5{,}8$ lần so với điểm nhiễu ngẫu nhiên chưa qua xử lý gì.

1. Bài toán sinh: học cả phân bố, không chỉ học ánh xạ

Toàn bộ $14$ bài trước (trừ Bài 4) học discriminative: cho input $x$, dự đoán nhãn/giá trị $y$ — một ánh xạ $x\to y$. Mô hình generative học điều khác hẳn: phân bố xác suất $p(x)$ của chính dữ liệu, để sau đó LẤY MẪU MỚI từ phân bố đó — sinh ra ảnh/nhạc/văn bản chưa từng tồn tại nhưng "giống thật".

Đây là "nửa còn lại" của AI hiện đại — cùng nền tảng toán học (gradient descent, backprop, MLP) nhưng nhắm tới mục tiêu hoàn toàn khác: không phải "đoán đúng", mà "tạo ra cái mới hợp lý".

2. GAN: trò chơi minimax Generator vs Discriminator

$2$ mạng đấu nhau: Generator ($G$) nhận nhiễu ngẫu nhiên $z$, cố tạo ra mẫu giả trông như thật; Discriminator ($D$) nhận $1$ mẫu (thật hoặc giả), cố đoán đúng nó từ đâu ra. $G$ học từ chính việc "đánh lừa" $D$ — không có nhãn thật nào cho $G$ ngoài tín hiệu phản hồi từ $D$. Công thức trò chơi đối kháng (minimax):

$$\min_G \max_D \; \mathbb{E}_{x\sim p_{data}}[\log D(x)] + \mathbb{E}_{z\sim p_z}[\log(1-D(G(z)))]$$

$D$ muốn tối đa hoá: đoán đúng mẫu thật là thật ($D(x)\to1$) VÀ đoán đúng mẫu giả là giả ($D(G(z))\to0$). $G$ muốn tối thiểu hoá đúng vế thứ $2$ — nói cách khác, muốn $D(G(z))\to1$ (lừa được $D$ tin mẫu giả là thật). Cài đặt dùng đúng sigmoidCrossEntropy() đã có từ Bài 12 cho cả $2$ mạng — $D$ là bài toán phân loại nhị phân thông thường, $G$ tối ưu hoá gián tiếp qua gradient CHẢY NGƯỢC từ $D$.

3. Diffusion: thêm nhiễu dần, rồi học khử nhiễu ngược

Ý tưởng hoàn toàn khác GAN: quá trình tiến (forward) thêm nhiễu Gauss nhỏ liên tiếp qua $T$ bước cho tới khi dữ liệu biến thành nhiễu thuần $\mathcal{N}(0,1)$ — đây là công thức CỐ ĐỊNH, không học gì cả:

$$x_t = \sqrt{\bar\alpha_t}\,x_0 + \sqrt{1-\bar\alpha_t}\,\epsilon \qquad \epsilon\sim\mathcal{N}(0,1)$$

$\bar\alpha_t$ giảm dần từ gần $1$ (bước $0$, gần như chưa nhiễu) về gần $0$ (bước $T$, nhiễu thuần) — verify với lịch trình $T=50$ bước dùng trong demo: $\bar\alpha_0=0{,}9999$, $\bar\alpha_{49}=0{,}0046$. Quá trình ngược (reverse) là phần DUY NHẤT cần học: $1$ mạng $\epsilon_\theta(x_t, t)$ nhận điểm nhiễu $x_t$ VÀ bước thời gian $t$, dự đoán ĐÚNG lượng nhiễu $\epsilon$ đã cộng vào — huấn luyện bằng MSE đơn giản giữa nhiễu dự đoán và nhiễu thật, không có đối kháng nào cả.

Đây chính là lý do diffusion train ổn định hơn GAN hẳn: chỉ $1$ mạng, $1$ loss hồi quy trơn tru, giảm đều qua epoch (verify: từ $\approx2{,}56$ epoch đầu xuống ổn định quanh $0{,}4$–$0{,}5$) — không có "đối thủ" nào để giằng co, không tương quan âm kiểu Mục 2.

4. Vì sao diffusion soán ngôi — và GAN còn đất sống ở đâu

Từ khoảng $2020$ (Ho et al. — DDPM), diffusion vượt GAN trên hầu hết benchmark ảnh: chất lượng cao hơn, đa dạng hơn (không mode collapse), và train ổn định hơn hẳn (verified Mục 2-3). Đây là kỹ thuật đứng sau Stable Diffusion, DALL-E 2/3, Midjourney.

GAN vẫn còn đất sống ở nơi cần tốc độ sinh tức thì (real-time — game, video call) và siêu phân giải ảnh (super-resolution) — chính vì GAN chỉ cần $1$ lượt forward, không phải đánh đổi hàng chục bước như diffusion.

Sinh có điều kiện (conditional generation): thay vì sinh ngẫu nhiên, "mớm" thêm thông tin (nhãn lớp, hoặc — như Stable Diffusion — embedding của $1$ câu mô tả văn bản) vào mạng denoiser ở mỗi bước, hướng quá trình sinh theo đúng ý muốn. Đây chỉ là cửa sổ khái niệm — cơ chế embedding văn bản đầy đủ (text-to-image) vượt phạm vi bài; tài liệu tham khảo cuối bài dẫn đường đọc tiếp.

5. Thực hành: diffusion 2D và mode collapse GAN 1D

Train denoiser MLP nhỏ trên hình xoắn ốc, rồi bấm từng bước khử nhiễu xem hình "mọc" ra từ đám nhiễu thuần:

Minh hoạ phụ hoạ — GAN 1D: chọn cấu hình huấn luyện, xem mode collapse xảy ra trực tiếp:

Đối chiếu công nghiệp: vòng train diffusion tối giản (PyTorch, ~$40$ dòng) đúng 1-1 với Mục 3, 5:

# Doi chieu 1-1 voi Muc 3 - cai dat: pytorch.org/get-started/locally
import torch, torch.nn as nn

T = 50
betas = torch.linspace(1e-4, 0.2, T)
alphas = 1 - betas
alpha_bars = torch.cumprod(alphas, dim=0)

denoiser = nn.Sequential(nn.Linear(3, 64), nn.ReLU(), nn.Linear(64, 64), nn.ReLU(), nn.Linear(64, 2))
optimizer = torch.optim.Adam(denoiser.parameters(), lr=1e-3)

for epoch in range(60):
    for x0 in data_batches:                       # x0: (batch, 2) - diem that
        t = torch.randint(0, T, (x0.shape[0],))
        eps = torch.randn_like(x0)
        ab = alpha_bars[t].unsqueeze(-1)
        xt = ab.sqrt() * x0 + (1 - ab).sqrt() * eps    # forward - KHONG hoc, cong thuc co dinh
        pred_eps = denoiser(torch.cat([xt, t.unsqueeze(-1) / T], dim=-1))
        loss = ((pred_eps - eps) ** 2).mean()          # MSE thuan - KHONG doi khang
        optimizer.zero_grad(); loss.backward(); optimizer.step()
# Sinh mau: bat dau x ~ N(0,1), lap nguoc t=T-1..0 dung cong thuc reverse Muc 3

Tóm lược

• ✅ Học sinh (generative) học phân bố $p(x)$ để lấy mẫu mới, khác hẳn học discriminative ($x\to y$) của $14$ bài trước — nền tảng sinh ảnh/nhạc/video.
• ✅ GAN = trò chơi minimax $G$ vs $D$; verified mode collapse thật ($D$ quá mạnh: $170/200$ mẫu dồn $1$ phía, phía kia trống trơn) và dao động đối kháng (tương quan loss $D$/$G=-0{,}307$, đúng đặc trưng "bên này thắng, bên kia thua").
• ✅ Diffusion = thêm nhiễu tiến (công thức cố định) + học khử nhiễu ngược (MSE đơn thuần, không đối kháng) — train ổn định hơn GAN hẳn, đổi lại sinh chậm (cần đủ $T$ bước, không phải $1$ lượt forward).
• ✅ Verified: mẫu sinh bằng diffusion từ nhiễu thuần gần hình xoắn ốc gốc hơn $5{,}8$ lần so với điểm nhiễu ngẫu nhiên chưa xử lý — quá trình ngược thực sự "học" được cấu trúc dữ liệu.
• ✅ Diffusion soán ngôi nhờ chất lượng+đa dạng+ổn định (Stable Diffusion, DALL-E); GAN còn đất sống ở real-time/siêu phân giải nhờ sinh tức thì.