t-SNE на основе лапласиана со стягиванием кластеров для визуализации многомерных данных

Laplacian-based Cluster-Contractive t-SNE for High-Dimensional Data Visualization
Jicong Fan, Yan Sun, Yi Han
2023-08-03

Лапласианный t-SNEграфовый лапласианвизуализация многомерных данныхалгоритм мажоризации-минимизациинелинейное снижение размерности
Методы снижения размерности предназначены для представления многомерных данных в пространствах низкой размерности с целью извлечения скрытой и полезной информации либо облегчения визуального анализа и интерпретации данных. Однако лишь немногие из них учитывают потенциальную кластерную информацию, неявно содержащуюся в многомерных данных. В данной статье предлагается Lap t-SNE — новый нелинейный метод снижения размерности на основе компоновки графа, разработанный на базе t-SNE, одного из ведущих методов визуализации многомерных данных в виде двумерных диаграмм рассеяния. В частности, Lap t-SNE использует информацию о собственных значениях лапласиана графа для стягивания потенциальных кластеров в низкоразмерном вложении, одновременно обучаясь сохранять локальную и глобальную структуру при переходе из многомерного пространства в пространство низкой размерности. Решение предложенной модели нетривиально, поскольку собственные значения нормированного симметричного лапласиана являются функциями переменной решения. Для решения задачи оптимизации Lap t-SNE предложен алгоритм мажоризации–минимизации с гарантией сходимости; также показано, как аналитически вычислять градиент, что может представлять широкий интерес при рассмотрении оптимизации целевой функции, включающей лапласиан. Метод оценён посредством формального сравнения с современными методами на семи эталонных наборах данных — как визуально, так и с использованием общепринятых количественных показателей. Результаты демонстрируют превосходство предложенного метода над базовыми методами, такими как t-SNE и UMAP. Кроме того, для Lap t-SNE предложены расширения для внесения данных вне выборки, крупномасштабных данных и мини-пакетной обработки, что облегчает снижение размерности в различных сценариях.
1
На семи эталонных наборах данных Lap tSNE превосходит базовые методы, включая t-SNE и UMAP, по визуальным и общепринятым количественным оценкам.
2
Поскольку собственные значения нормированного симметричного лапласиана зависят от оптимизируемых переменных, авторы разрабатывают алгоритм мажоризации-минимизации с гарантией сходимости и аналитическим вычислением градиента.
3
Lap tSNE — это нелинейный метод снижения размерности на основе графовой компоновки, расширяющий t-SNE за счёт использования собственных значений лапласиана графа для сжатия неявных кластеров в низкоразмерных представлениях.
4
В метод включены расширения для новых объектов, крупномасштабных данных и мини-пакетной обработки, что расширяет область его применения для снижения размерности.
5
Метод одновременно сохраняет локальную и глобальную структуру данных высокой размерности и сжимает потенциальные кластеры для улучшения двумерной визуализации.

многомерные данные, представленные в низкоразмерных вложениях

сохранение локальной и глобальной структуры с кластерным сжатием в низкоразмерном вложении для визуализации

Publication Details
Publication Date
2023-08-03
Journal
Publisher
ISSN
Cited by
11
Access Type
Author Information
Authors
Jicong Fan
Yan Sun
Yi Han
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%