Какая математическая идея диффузионных моделей?

Ответ: Какая математическая идея диффузионных моделей?

Основная идея: обратный процесс диффузии

Диффузионные модели (Diffusion Models) основаны на принципе обратимой трансформации данных. Ключевая идея: если мы можем постепенно добавлять случайный шум к данным (forward process), то мы можем научиться обратному процессу — постепенно удалять шум (reverse process) для генерации новых данных.

# Forward process: постепенное добавление шума
# x_0 — исходные данные (например, изображение)
# x_t получается как линейная комбинация исходных данных и шума

x_t = sqrt(alpha_bar_t) * x_0 + sqrt(1 - alpha_bar_t) * epsilon
# где epsilon ~ N(0, I) — гауссовский шум
# alpha_bar_t — коэффициент, уменьшающийся со временем t

Математическая формулировка

Forward diffusion process: На каждом шаге t мы добавляем небольшое количество шума:

q(x_t | x_{t-1}) = N(x_t; sqrt(1 - beta_t) * x_{t-1}, beta_t * I)

После T шагов (обычно T=1000) данные превращаются в чистый гауссовский шум.

Reverse process (что мы учим): Обратный процесс моделируется нейросетью, которая учится предсказывать шум:

p_theta(x_{t-1} | x_t) = N(x_{t-1}; mu_theta(x_t, t), Sigma_theta(x_t, t))

Нейросеть mu_theta предсказывает среднее значение распределения, которое уменьшает шум на один шаг.

Эквивалентная формулировка: Score Matching

Существует математически эквивалентный способ думать о диффузионных моделях — через score function (градиент логарифма вероятности):

# Score function: градиент log p(x_t)
s(x_t, t) = ∇_{x_t} log p(x_t)

# Обратный процесс можно записать как:
dx_{t-1} = (mu(x_t) + sigma(t) * s(x_t, t)) dt

Это означает, что нейросеть учится направлению наибольшего возрастания плотности вероятности.

ELBO (Evidence Lower Bound) и обучение

Обучение диффузионной модели основано на максимизации ELBO:

log p(x_0) ≥ E[log p(x_T)] + sum_t E[log p_theta(x_{t-1} | x_t) / q(x_t | x_{t-1})]

Это сводится к предсказанию шума или остатка на каждом шаге:

# Loss для обучения (simplified)
L = E_t,x_0,epsilon[ ||epsilon - epsilon_theta(x_t, t)||^2 ]

Где epsilon_theta — нейросеть, которая предсказывает добавленный шум.

Сравнение с VAE и GAN

Практические примеры

Генерация изображений (DDPM, Stable Diffusion): Шаг 0: Pure noise Шаг 1: Неразборчивые фигуры Шаг 2: Контуры объектов ... Шаг 1000: Четкое изображение

Текст-в-изображение (DALL-E, Stable Diffusion):

• Embeddings текстового промпта направляют процесс удаления шума в нужную сторону
• Score function учится не просто удалять шум, а удалять его в контексте текста

Почему это работает?

1. Математическая элегантность: Диффузия соединяет теорию вероятности, стохастические дифференциальные уравнения и нейросети
2. Стабильное обучение: Нет adversarial dynamics как в GAN
3. Масштабируемость: Хорошо масштабируется на большие модели (миллиарды параметров)
4. Теоретическая обоснованность: Базируется на доказанных свойствах марковских процессов

Заключение: Диффузионные модели — это революционный подход, который показал, что можно моделировать сложные распределения, научившись постепенно удалять шум. Это простая идея с глубокой математикой и практическими результатами, которые перевернули генеративное моделирование.