Оптимизация вычислительной сложности эквалайзеров на основе нейронных сетей в цифровой обработке сигналов: комплексный подход

Computational Complexity Optimization of Neural Network-Based Equalizers in Digital Signal Processing: A Comprehensive Approach
Sergei K. Turitsyn, Jaroslaw E. Prilepsky, Pedro J. Freire, Sasipim Srivallapanondh, Bernhard Spinnler, Antonio Napoli, Nelson M. S. Costa
2024-04-10

вычислительная сложностьаппаратный синтезнейросетевые эквалайзерыоптические коммуникационные системыцифровая обработка сигналов в реальном времени
Экспериментальные результаты, основанные на автономной обработке и представленные на конференциях по оптическим технологиям, все чаще используют эквалайзеры на основе нейронных сетей для точного восстановления данных. Однако создание реализаций с низкой вычислительной сложностью, эффективных для цифровой обработки сигналов в реальном времени, по-прежнему остается сложной задачей. В данной работе решается эта актуальная задача путем разработки систематического подхода к проектированию и оценке нейросетевых эквалайзеров с низкой вычислительной сложностью. Предлагаемый подход охватывает три ключевых этапа: обучение, вывод и синтез аппаратной реализации. Представлен всесторонний обзор существующих методов снижения сложности на каждом этапе, что позволяет принимать обоснованные проектные решения. Для этапов обучения и вывода предложена новая методика количественной оценки сложности. Она включает новые метрики, связывающие программные и аппаратные аспекты, и выявляет взаимосвязь между сложностью, конкретными архитектурами нейронных сетей и гиперпараметрами. Описан расчет этих метрик для полносвязных и рекуррентных слоев с указанием подходящего выбора в зависимости от приоритетов приложения — программной или аппаратной реализации. Наконец, для демонстрации практической ценности подхода показано, как вычислительная сложность нейросетевых эквалайзеров может быть существенно снижена и измерена для архитектур учителя (biLSTM+CNN) и ученика (1D-CNN) в различных сценариях. Данная работа направлена на стандартизацию оценки и оптимизации вычислительной сложности нейронных сетей, применяемых для цифровой обработки сигналов в реальном времени, и открывает путь к созданию более эффективных и пригодных для развертывания систем оптической связи.
1
Эксперименты демонстрируют значительное измеримое снижение сложности эквалайзеров на архитектурах учителя biLSTM+CNN и ученика 1D-CNN в различных сценариях.
2
Введены метрики сложности для обучения и инференса, связывающие программные оценки с особенностями аппаратной реализации.
3
Методика связывает вычислительную сложность с архитектурами нейронных сетей и гиперпараметрами для полносвязанных и рекуррентных слоев.
4
Предложен выбор метрик сложности в зависимости от цели оптимизации — программного выполнения или аппаратной реализации.
5
В работе предложена систематическая трехэтапная методика проектирования и оценки нейросетевых эквалайзеров низкой сложности: обучение, инференс и аппаратный синтез.

эквалайзеры на основе нейронных сетей для цифровой обработки сигналов в реальном времени в оптических коммуникационных системах

количественная оценка и оптимизация вычислительной сложности, а также аппаратно-эффективная реализация на этапах обучения, вывода и аппаратного синтеза

Publication Details
Publication Date
2024-04-10
Journal
Publisher
ISSN
Cited by
102
Access Type
Author Information
Authors
Sergei K. Turitsyn
Jaroslaw E. Prilepsky
Pedro J. Freire
Sasipim Srivallapanondh
Bernhard Spinnler
Antonio Napoli
Nelson M. S. Costa
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%