Предобусловленная низкоранговая риманова оптимизация для линейных систем со структурой тензорного произведения

Preconditioned low-rank Riemannian optimization for linear systems with tensor product structure
Daniel Kreßner, Michael Steinlechner, Bart Vandereycken
2015-08-12

формат Таккераприближённая риманова схема Ньютонаоптимизация на римановой многообразии низкого рангапредусловленный метод Ричардсонатензорный поезд
Численное решение задач с частными производными на многомерных областях приводит к вычислительно трудным линейным системам. При использовании стандартных методов дискретизации размер линейной системы экспоненциально растет с числом размерностей, что делает применение классических итерационных решателей невыполнимым. В последние годы были разработаны низкоранговые тензорные подходы, позволяющие смягчить эту «проклятие размерности» за счет использования внутренней структуры линейного оператора. В данной работе мы сосредоточены на тензорах, представленных в тензорных форматах Таккера и тензорного поезда (tensor train). Мы предлагаем два предобусловленных градиентных метода на соответствующих многообразиях низкого ранга: риманову версию предобусловленного метода Рихардсона и приближённую схему Ньютона на основе риманова гессиана. Для последней уделяется значительное внимание эффективному решению возникающего уравнения Ньютона. В численных экспериментах мы сравниваем эффективность наших римановых алгоритмов с другими зарекомендовавшими себя тензорными подходами, такими как усечённый предобусловленный метод Рихардсона и попеременная линейная схема. Результаты показывают, что наша приближённая риманова схема Ньютона существенно быстрее в тех случаях, когда применение линейного оператора дорогостоящо.
1
Разработан эффективный подход для решения уравнения Ньютона, возникающего из риманова гессиана в приближённой ньютонианской схеме.
2
Проведены численные эксперименты, сравнивающие предложенные римановские алгоритмы с усечённым предобусловленным методом Рихарда и схемой поочерёдного решения (alternating linear scheme).
3
Предложены два предобусловленных градиентных метода на многообразиях низкого ранга для форматов Tucker и tensor train: римановский предобусловленный метод Рихарда и приближённая римановская схема Ньютона.
4
Приближённая римановская ньютонианская схема значительно быстрее конкурирующих тензорных методов в случаях дорогого применения линейного оператора.

Высокоразмерные линейные системы с тензорной структурой произведения, представленные в низкоранговых форматах Tucker и tensor-train

Предусловленные методы низкоранговой римановой оптимизации (предусловленный метод Ричардсона и аппроксимированная риманова схема Ньютона) и их эффективность/поведение как решателей для решения этих тензорно-структурированных линейных систем, включая эффективное решение уравнения риманова Ньютона

Publication Details
Publication Date
2015-08-12
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Daniel Kreßner
Michael Steinlechner
Bart Vandereycken
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%