Уплотнённые оптические нейронные сети с мультиплексированными наборами нейронов и соответствующим алгоритмом обучения методом обратного распространения ошибки

Slimmed Optical Neural Networks with Multiplexed Neuron Sets and a Corresponding Backpropagation Training Algorithm
Kejie Huang, Chenhui Li, Bowen Wang, Yi-Feng Liu, Rui-Yao Ren, Dai‐Bao Hou, Hai‐Zhong Weng, Xing Lin, Feng Liu, Chao‐Yuan Jin
2023-12-18

алгоритм обучения обратного распространения ошибкимножества мультиплексированных нейронов (MNS)оптические нейронные сетиполупроводниковые оптические усилителимультиплексирование по длине волны
Оптические нейронные сети (ONN) в последние годы привлекают большой интерес как потенциальная альтернатива электронным искусственным нейронным сетям благодаря их присущим возможностям параллельной обработки сигналов при снижении энергопотребления и низкой задержке. Предварительное подтверждение параллелизма в оптических вычислениях широко выполнялось с применением мультиплексирования по длине волны (WDM) к линейным преобразованиям нейронных сетей. Однако межканальная наводка препятствовала использованию WDM в нелинейных активациях ONN. В настоящей работе мы предлагаем универсальную WDM-структуру, называемую мультиплексированными наборами нейронов (MNS), которая применяет WDM к оптическим нейронам и позволяет дополнительно сжать ONN. Для компенсации или даже устранения влияния межканальной наводки в WDM-ONN на основе MNS предложен соответствующий алгоритм обучения методом обратного распространения ошибки (BP). Для простоты в качестве примера MNS используются полупроводниковые оптические усилители для построения WDM-ONN, обучаемой с помощью нового алгоритма. Результаты показывают, что сочетание MNS и соответствующего алгоритма BP существенно уменьшает размер системы и повышает энергоэффективность примерно в 10 раз при обеспечении сходной производительности по сравнению с традиционными ONN.
1
Комбинация MNS и соответствующего BP‑алгоритма уменьшает размеры системы и повышает энергоэффективность в 10 раз.
2
Показан пример реализации с использованием полупроводниковых оптических усилителей в роли элементов MNS для построения WDM‑ONN, обучаемой новым алгоритмом.
3
Представлены множества мультиплексированных нейронов (MNS) — универсальная WDM‑структура, применяющая мультиплексирование по длине волны к оптическим нейронам и позволяющая дополнительно сжимать ONN.
4
Предложен соответствующий алгоритм обратного распространения (BP), который ослабляет или может аннулировать межканальную помеху в WDM‑ONN на основе MNS.
5
WDM‑ONN на основе MNS с BP‑алгоритмом достигает сопоставимой производительности с традиционными ONN несмотря на сжатие и подавление помех.

Оптические нейронные сети на основе WDM с мультиплексированными наборами нейронов (MNS), с примерами нейронов на полупроводниковых оптических усилителях

Сжатие и повышение энергоэффективности WDM-ОНС через мультиплексированные наборы нейронов и соответствующий алгоритм обратного распространения ошибки, снижающий межканальные помехи при сохранении производительности

Publication Details
Publication Date
2023-12-18
Journal
Publisher
ISSN
Cited by
1
Access Type
Author Information
Authors
Kejie Huang
Chenhui Li
Bowen Wang
Yi-Feng Liu
Rui-Yao Ren
Dai‐Bao Hou
Hai‐Zhong Weng
Xing Lin
Feng Liu
Chao‐Yuan Jin
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%