Уплотнённые оптические нейронные сети с мультиплексированными наборами нейронов и соответствующим алгоритмом обучения методом обратного распространения ошибки
Slimmed Optical Neural Networks with Multiplexed Neuron Sets and a Corresponding Backpropagation Training Algorithm
2023-12-18
SCID: 54.1/hn9uhcfm
Discuss with AI
алгоритм обучения обратного распространения ошибкимножества мультиплексированных нейронов (MNS)оптические нейронные сетиполупроводниковые оптические усилителимультиплексирование по длине волны
Figures from the paper
Abstract (AI)
Оптические нейронные сети (ONN) в последние годы привлекают большой интерес как потенциальная альтернатива электронным искусственным нейронным сетям благодаря их присущим возможностям параллельной обработки сигналов при снижении энергопотребления и низкой задержке. Предварительное подтверждение параллелизма в оптических вычислениях широко выполнялось с применением мультиплексирования по длине волны (WDM) к линейным преобразованиям нейронных сетей. Однако межканальная наводка препятствовала использованию WDM в нелинейных активациях ONN. В настоящей работе мы предлагаем универсальную WDM-структуру, называемую мультиплексированными наборами нейронов (MNS), которая применяет WDM к оптическим нейронам и позволяет дополнительно сжать ONN. Для компенсации или даже устранения влияния межканальной наводки в WDM-ONN на основе MNS предложен соответствующий алгоритм обучения методом обратного распространения ошибки (BP). Для простоты в качестве примера MNS используются полупроводниковые оптические усилители для построения WDM-ONN, обучаемой с помощью нового алгоритма. Результаты показывают, что сочетание MNS и соответствующего алгоритма BP существенно уменьшает размер системы и повышает энергоэффективность примерно в 10 раз при обеспечении сходной производительности по сравнению с традиционными ONN.
Key Findings
1
Комбинация MNS и соответствующего BP‑алгоритма уменьшает размеры системы и повышает энергоэффективность в 10 раз.
2
Показан пример реализации с использованием полупроводниковых оптических усилителей в роли элементов MNS для построения WDM‑ONN, обучаемой новым алгоритмом.
3
Представлены множества мультиплексированных нейронов (MNS) — универсальная WDM‑структура, применяющая мультиплексирование по длине волны к оптическим нейронам и позволяющая дополнительно сжимать ONN.
4
Предложен соответствующий алгоритм обратного распространения (BP), который ослабляет или может аннулировать межканальную помеху в WDM‑ONN на основе MNS.
5
WDM‑ONN на основе MNS с BP‑алгоритмом достигает сопоставимой производительности с традиционными ONN несмотря на сжатие и подавление помех.
Research Object
Оптические нейронные сети на основе WDM с мультиплексированными наборами нейронов (MNS), с примерами нейронов на полупроводниковых оптических усилителях
Research Subject
Сжатие и повышение энергоэффективности WDM-ОНС через мультиплексированные наборы нейронов и соответствующий алгоритм обратного распространения ошибки, снижающий межканальные помехи при сохранении производительности
Publication Details
Publication Date
2023-12-18
Journal
Publisher
ISSN
Cited by
1
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest