Направление диффузии без классификатора

Classifier-Free Diffusion Guidance
Tim Salimans, Jonathan Ho
2022-07-26

направление с классификатором (classifier guidance)безклассификационное направляющее (classifier-free guidance)условная модель диффузииоценка градиента (score estimate)компромисс между качеством и разнообразием выборкибезусловная модель диффузии
Guidance с использованием классификатора — это недавно предложенный метод для балансирования охвата мод и точности выборок в условных диффузионных моделях после обучения, в том же духе, что и выборка при низкой температуре или усечение в других типах генеративных моделей. Guidance с классификатором комбинирует оценку скорорадиента (score) диффузионной модели с градиентом классификатора изображений и потому требует обучения классификатора изображений отдельно от диффузионной модели. Это также ставит вопрос, можно ли выполнять направление без классификатора. Мы показываем, что направление действительно может быть выполнено с помощью чисто генеративной модели без такого классификатора: в том, что мы называем направлением без классификатора, мы совместно обучаем условную и безусловную диффузионные модели и комбинируем полученные условную и безусловную оценки скорорадиента, чтобы достичь компромисса между качеством и разнообразием выборок, сходного с тем, который получается при использовании guidance с классификатором.
1
Руководство с классификатором (classifier guidance) обеспечивает компромисс между покрытием мод и качеством образцов в условных диффузионных моделях, комбинируя оценку градиента модели с градиентом классификатора изображений.
2
Классификатор-независимое руководство обеспечивает схожий компромисс качества и разнообразия с guidance на основе классификатора, устраняя необходимость обучения отдельного классификатора изображений.
3
Классификатор-независимое руководство комбинирует оценки градиента условной и безусловной моделей для управления компромиссом между качеством и разнообразием образцов.
4
В работе предложено классификатор-независимое руководство (classifier-free guidance), выполняющее руководство без отдельного классификатора путем совместной тренировки условной и безусловной диффузионных моделей.

Совместно обученные условная и безусловная диффузионные модели для генеративной выборки изображений

Метод управления без классификатора, объединяющий условные и безусловные оценки скор (градиентов лог‑плотности) для балансировки качества выборок (точности) и разнообразия (покрытия мод) без отдельного обучения классификатора изображений

Publication Details
Publication Date
2022-07-26
Journal
Publisher
ISSN
Cited by
753
Access Type
Author Information
Authors
Tim Salimans
Jonathan Ho
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%