Разделённое обучение для совместного глубокого обучения в здравоохранении
Split Learning for collaborative deep learning in healthcare
2019-12-27
SCID: 54.1/vm85bdtf
Discuss with AI
рентгеновские снимки грудной клеткисовместное глубокое обучениераспределённое машинное обучениефотографии глазного днаклассификация медицинских изображенийраздельное обучение
Figures from the paper
Abstract (AI)
Недостаток размеченных данных сдерживает развитие глубокого обучения в здравоохранении, поскольку размеры выборок часто невелики, информацией о пациентах нельзя открыто обмениваться, а многоцентровые совместные исследования трудно организовать. Методы распределённого машинного обучения позволяют смягчить эти проблемы. Мы предлагаем подход на основе разделённого обучения и впервые применяем этот метод распределённого обучения в медицинской области, чтобы сравнить его эффективность с (1) централизованной и (2) несотрудничающей конфигурациями при различном числе участников. Для сравнения разделённого обучения с традиционными одноцентровыми и многоцентровыми подходами используются две задачи глубокого обучения в медицине: задача бинарной классификации на наборе данных из 9 000 фотографий глазного дна и задача многометочной классификации на наборе данных из 156 535 рентгеновских снимков грудной клетки. Различные конфигурации распределённого обучения сравниваются для 1–50 распределённых участников. По сравнению с одноцентровым исследованием производительность конфигурации разделённого обучения оставалась постоянной независимо от числа клиентов, демонстрируя существенное отличие от несотрудничающей конфигурации после подключения 2 клиентов (p < 0,001) для обоих наборов данных. Наши результаты подтверждают преимущества совместного обучения глубоких нейронных сетей в здравоохранении. Данная работа демонстрирует существенные преимущества распределённого обучения в здравоохранении и открывает путь к его дальнейшему внедрению в реальных условиях.
Key Findings
1
При числе участников от 1 до 50 качество split learning оставалось сопоставимым с обучением в одном центре, несмотря на распределение процесса обучения.
2
После подключения двух клиентов split learning статистически значимо превосходил несотрудничающие конфигурации в обеих медицинских задачах (p < 0,001).
3
Метод оценивали на задаче бинарной классификации фотографий глазного дна и многометочной классификации рентгеновских снимков грудной клетки, содержащих 9 000 и 156 535 изображений соответственно.
4
Результаты подтверждают, что совместное распределённое обучение может смягчить проблемы ограниченного числа размеченных данных, требований к конфиденциальности и сложности многоцентровых исследований в здравоохранении.
5
В работе впервые применяется split learning — распределённый подход к глубокому обучению — для совместных исследований в сфере здравоохранения.
Research Object
Совместное глубокое обучение в здравоохранении с использованием фотографий глазного дна и рентгеновских снимков грудной клетки
Research Subject
Производительность и масштабируемость распределённого обучения на основе split learning по сравнению с централизованными и несотрудничающими конфигурациями при различном числе участников
Publication Details
Publication Date
2019-12-27
Journal
Publisher
ISSN
Cited by
186
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Глубокое остаточное обучение для распознавания изображений2016
Adam: метод стохастической оптимизации2014
ImageNet: крупномасштабная иерархическая база изображений2009
Глубокое обучение в здравоохранении: обзор, возможности и проблемы2017
Подробное сравнение эффективности коммуникации при раздельном и федеративном обучении2019