Ускорение t-SNE с использованием алгоритмов на основе деревьев

Accelerating t-SNE using tree-based algorithms
Laurens van der Maaten
2014-01-01

алгоритм Барнса—Хатаалгоритм двойного деревавизуализация многомерных данныхt-SNEдревовидные алгоритмы
В статье исследуется ускорение метода t-SNE — алгоритма построения вложений, который широко используется для визуализации многомерных данных в виде диаграмм рассеяния, — с помощью двух алгоритмов на основе деревьев. В частности, разработаны варианты алгоритма Барнса—Хата и алгоритма с двумя деревьями, аппроксимирующие градиент, используемый для обучения вложений t-SNE, за O(N log N). Эксперименты показывают, что полученные алгоритмы существенно ускоряют t-SNE и позволяют обучать вложения для наборов данных, содержащих миллионы объектов. Несколько неожиданно вариант t-SNE на основе алгоритма Барнса—Хата, по-видимому, превосходит вариант на основе алгоритма с двумя деревьями.
1
Оба древовидных алгоритма существенно ускоряют t-SNE по сравнению со стандартным подходом.
2
Несмотря на ожидания, вариант t-SNE на основе Barnes–Hut экспериментально превосходит вариант на основе dual-tree.
3
Ускоренные методы позволяют обучать вложения t-SNE для наборов данных, содержащих миллионы объектов.
4
В работе разработаны варианты t-SNE на основе алгоритмов Barnes–Hut и dual-tree, аппроксимирующие градиент обучения за O(N log N).

t-SNE-эмбеддинг многомерных данных

Ускорение вычисления градиента t-SNE и обучения эмбеддингов с использованием древовидных алгоритмов аппроксимации

Publication Details
Publication Date
2014-01-01
Journal
Publisher
ISSN
Cited by
2226
Access Type
Author Information
Authors
Laurens van der Maaten
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%