Генеративные состязательные сети с методом наименьших квадратов

Обучение без учителя с использованием генеративных состязательных сетей (GAN) показало высокую эффективность. Обычные GAN рассматривают дискриминатор как классификатор с функцией потерь сигмоидной кросс-энтропии. Однако мы обнаружили, что эта функция потерь может приводить к проблеме исчезающих градиентов в процессе обучения. Чтобы устранить эту проблему, в данной работе мы предлагаем генеративные состязательные сети с методом наименьших квадратов (LSGAN), в которых для дискриминатора используется функция потерь наименьших квадратов. Мы показываем, что минимизация целевой функции LSGAN эквивалентна минимизации дивергенции Пирсона χ2. У LSGAN есть два преимущества по сравнению с обычными GAN: во-первых, они способны генерировать изображения более высокого качества; во-вторых, они демонстрируют более стабильное поведение в процессе обучения. Мы оценивали LSGAN на датасетах LSUN и CIFAR-10; экспериментальные результаты показывают, что изображения, сгенерированные LSGAN, имеют лучшее качество, чем изображения, сгенерированные обычными GAN. Мы также провели два сравнительных эксперимента между LSGAN и обычными GAN, чтобы проиллюстрировать повышенную стабильность LSGAN.