t-SNE на основе лапласиана со стягиванием кластеров для визуализации многомерных данных
Laplacian-based Cluster-Contractive t-SNE for High-Dimensional Data Visualization
2023-08-03
SCID: 54.1/q9sepqkh
Discuss with AI
Лапласианный t-SNEграфовый лапласианвизуализация многомерных данныхалгоритм мажоризации-минимизациинелинейное снижение размерности
Figures from the paper
Abstract (AI)
Методы снижения размерности предназначены для представления многомерных данных в пространствах низкой размерности с целью извлечения скрытой и полезной информации либо облегчения визуального анализа и интерпретации данных. Однако лишь немногие из них учитывают потенциальную кластерную информацию, неявно содержащуюся в многомерных данных. В данной статье предлагается Lap t-SNE — новый нелинейный метод снижения размерности на основе компоновки графа, разработанный на базе t-SNE, одного из ведущих методов визуализации многомерных данных в виде двумерных диаграмм рассеяния. В частности, Lap t-SNE использует информацию о собственных значениях лапласиана графа для стягивания потенциальных кластеров в низкоразмерном вложении, одновременно обучаясь сохранять локальную и глобальную структуру при переходе из многомерного пространства в пространство низкой размерности. Решение предложенной модели нетривиально, поскольку собственные значения нормированного симметричного лапласиана являются функциями переменной решения. Для решения задачи оптимизации Lap t-SNE предложен алгоритм мажоризации–минимизации с гарантией сходимости; также показано, как аналитически вычислять градиент, что может представлять широкий интерес при рассмотрении оптимизации целевой функции, включающей лапласиан. Метод оценён посредством формального сравнения с современными методами на семи эталонных наборах данных — как визуально, так и с использованием общепринятых количественных показателей. Результаты демонстрируют превосходство предложенного метода над базовыми методами, такими как t-SNE и UMAP. Кроме того, для Lap t-SNE предложены расширения для внесения данных вне выборки, крупномасштабных данных и мини-пакетной обработки, что облегчает снижение размерности в различных сценариях.
Key Findings
1
На семи эталонных наборах данных Lap tSNE превосходит базовые методы, включая t-SNE и UMAP, по визуальным и общепринятым количественным оценкам.
2
Поскольку собственные значения нормированного симметричного лапласиана зависят от оптимизируемых переменных, авторы разрабатывают алгоритм мажоризации-минимизации с гарантией сходимости и аналитическим вычислением градиента.
3
Lap tSNE — это нелинейный метод снижения размерности на основе графовой компоновки, расширяющий t-SNE за счёт использования собственных значений лапласиана графа для сжатия неявных кластеров в низкоразмерных представлениях.
4
В метод включены расширения для новых объектов, крупномасштабных данных и мини-пакетной обработки, что расширяет область его применения для снижения размерности.
5
Метод одновременно сохраняет локальную и глобальную структуру данных высокой размерности и сжимает потенциальные кластеры для улучшения двумерной визуализации.
Research Object
многомерные данные, представленные в низкоразмерных вложениях
Research Subject
сохранение локальной и глобальной структуры с кластерным сжатием в низкоразмерном вложении для визуализации
Publication Details
Publication Date
2023-08-03
Journal
Publisher
ISSN
Cited by
11
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Снижение размерности данных с помощью нейронных сетей2006
Scikit-learn: машинное обучение на Python2011
Ускорение t-SNE с использованием алгоритмов на основе деревьев2014
Искусство применения t-SNE для транскриптомики отдельных клеток2019
t-viSNE: интерактивная оценка и интерпретация проекций t-SNE2020