Обучение фотонных нейронных сетей методом in situ обратного распространения ошибки и измерения градиента

Training of photonic neural networks through in situ backpropagation and gradient measurement
Yu Shi, Tyler W. Hughes, Momchil Minkov, Shanhui Fan
2018-07-19

методы присоединённой переменнойизмерение градиента через измерения интенсивностиобратное распространение на местефотонные нейронные сетиобучение нейронных сетей на интегрированной фотонике
В последнее время интегрированная оптика привлекает внимание как аппаратная платформа для реализации алгоритмов машинного обучения. Особый интерес представляют искусственные нейронные сети, поскольку матрично-векторные умножения, интенсивно используемые в нейронных сетях, могут быть эффективно выполнены в фотонных цепях. Обучение искусственной нейронной сети является ключевым этапом её применения. Однако в настоящее время для платформы интегральной фотоники отсутствует эффективный протокол обучения таких сетей. В данной работе мы предлагаем метод, обеспечивающий высокоэффективное in situ обучение фотонной нейронной сети. Мы используем методы присоединённой переменной (adjoint variable methods) для вывода фотонного аналога алгоритма обратного распространения ошибки (backpropagation), стандартного метода вычисления градиентов в обычных нейронных сетях. Мы также показываем, как эти градиенты могут быть получены точно путём измерения интенсивности внутри устройства. В качестве примера мы демонстрируем обучение численно смоделированной фотонной искусственной нейронной сети. Помимо обучения фотонных реализаций машинного обучения, наш метод может быть широко полезен для экспериментального анализа чувствительности фотонных систем и оптимизации перенастраиваемых оптических платформ.
1
Продемонстрировано обучение численно смоделированной фотонной искусственной нейронной сети с использованием предложенного метода.
2
Выведён фотонный аналог алгоритма обратного распространения ошибок с использованием методов сопряжённой переменной для вычисления градиентов в фотонных схемах.
3
Предложен метод, позволяющий эффективно проводить in situ обучение фотонных нейронных сетей на интегрированных оптических платформах.
4
Метод применим также к экспериментальному анализу чувствительности и оптимизации перенастраиваемых фотонных систем.
5
Показано, что градиенты можно точно получить путём измерения интенсивности внутри фотонного устройства.

Интегрированная фотонная нейронная сеть (фотонная искусственная нейронная сеть), реализованная в фотонных схемах

Обучение in situ посредством фотонного аналога обратного распространения ошибки: выведение и точное измерение градиентов с помощью методов сопряжённых переменных и измерений интенсивности для эффективного обучения и оптимизации

Publication Details
Publication Date
2018-07-19
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Yu Shi
Tyler W. Hughes
Momchil Minkov
Shanhui Fan
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%