Ускорение t-SNE с использованием алгоритмов на основе деревьев
Accelerating t-SNE using tree-based algorithms
2014-01-01
SCID: 54.1/dh7t6q8e
Discuss with AI
алгоритм Барнса—Хатаалгоритм двойного деревавизуализация многомерных данныхt-SNEдревовидные алгоритмы
Figures from the paper
Abstract (AI)
В статье исследуется ускорение метода t-SNE — алгоритма построения вложений, который широко используется для визуализации многомерных данных в виде диаграмм рассеяния, — с помощью двух алгоритмов на основе деревьев. В частности, разработаны варианты алгоритма Барнса—Хата и алгоритма с двумя деревьями, аппроксимирующие градиент, используемый для обучения вложений t-SNE, за O(N log N). Эксперименты показывают, что полученные алгоритмы существенно ускоряют t-SNE и позволяют обучать вложения для наборов данных, содержащих миллионы объектов. Несколько неожиданно вариант t-SNE на основе алгоритма Барнса—Хата, по-видимому, превосходит вариант на основе алгоритма с двумя деревьями.
Key Findings
1
Оба древовидных алгоритма существенно ускоряют t-SNE по сравнению со стандартным подходом.
2
Несмотря на ожидания, вариант t-SNE на основе Barnes–Hut экспериментально превосходит вариант на основе dual-tree.
3
Ускоренные методы позволяют обучать вложения t-SNE для наборов данных, содержащих миллионы объектов.
4
В работе разработаны варианты t-SNE на основе алгоритмов Barnes–Hut и dual-tree, аппроксимирующие градиент обучения за O(N log N).
Research Object
t-SNE-эмбеддинг многомерных данных
Research Subject
Ускорение вычисления градиента t-SNE и обучения эмбеддингов с использованием древовидных алгоритмов аппроксимации
Publication Details
Publication Date
2014-01-01
Journal
Publisher
ISSN
Cited by
2226
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Обучение представлений фраз с использованием RNN энкодер–декодера для статистического машинного перевода2014
Обзор программного обеспечения: VOSviewer — компьютерная программа для библиометрического картирования2009
Обучение нескольких слоев признаков на маленьких изображениях2024
Улучшение нейронных сетей путем предотвращения соадаптации детекторов признаков2012
Работы, цитирующие эту статью14
EDA: Простые методы аугментации данных для повышения качества задач классификации текста2019
Молекулярное, пространственное и функциональное профилирование преоптической области гипоталамуса на уровне отдельных клеток2018
Искусство применения t-SNE для транскриптомики отдельных клеток2019
Интерпретируемое машинное обучение: основные принципы и 10 крупных задач2022
Систематический обзор литературы по методам и наборам данных для обнаружения сетевых вторжений на основе аномалий2022
Кластеризация с помощью t-SNE: строгое обоснование2019
Понимание принципов работы методов снижения размерности: эмпирический подход к интерпретации t-SNE, UMAP, TriMAP и PaCMAP для визуализации данных2020
Глубокое обучение для точной диагностики опухолей печени на основе магнитно-резонансной томографии и клинических данных2020
t-viSNE: интерактивная оценка и интерпретация проекций t-SNE2020
Визуализация зависящих от времени данных с использованием динамического t-SNE2016
Теоретические основы t-SNE для визуализации кластеризованных данных высокой размерности2021
Размещения графов с помощью t-SNE2017
t-SNE на основе лапласиана со стягиванием кластеров для визуализации многомерных данных2023
Федеративные t-SNE и UMAP для визуализации распределенных данных2025