Сверточные нейронные сети для анализа медицинских изображений: полная тренировка или дообучение?
Convolutional Neural Networks for Medical Image Analysis: Full Training or Fine Tuning?
2016-03-07
SCID: 54.1/6hztenaf
Discuss with AI
дообучение (покомпонентное)анализ медицинских изображенийпредобученные сверточные нейронные сетиустойчивость к размеру обучающего набораобучение CNN с нуля
Figures from the paper
Abstract (AI)
Обучение глубокой сверточной нейронной сети (CNN) с нуля затруднено, поскольку требует большого объёма размеченных данных и значительного опыта для обеспечения корректной сходимости. Многообещающей альтернативой является дообучение (fine-tuning) CNN, предварительно обученной, например, на большом наборе размеченных естественных изображений. Однако существенные различия между естественными и медицинскими изображениями могут ставить под сомнение целесообразность такой передачи знаний. В этой статье мы решаем следующий ключевой вопрос в контексте анализа медицинских изображений: может ли использование предварительно обученных глубоких CNN с достаточным дообучением устранить необходимость обучения глубокой CNN с нуля? Для ответа на этот вопрос мы рассмотрели четыре различных приложения в медицинской визуализации в трёх специальностях (радиология, кардиология и гастроэнтерология), включающих задачи классификации, детекции и сегментации на данных трёх различных модальностей, и исследовали, как соотносится производительность CNN, обученных с нуля, и предварительно обученных CNN, дообученных послойно. Наши эксперименты последовательно показали, что: (1) использование предварительно обученной CNN с адекватным дообучением превосходит или, в худшем случае, сопоставимо по результату с обучением CNN с нуля; (2) дообученные CNN более устойчивы к размеру обучающих наборов по сравнению с CNN, обученными с нуля; (3) ни мелкое (shallow) дообучение, ни глубокое (deep) дообучение не являются универсально оптимальным выбором для конкретного приложения; и (4) наша схема послойного дообучения может предоставить практический способ достижения наилучшей производительности для конкретного приложения в зависимости от объёма доступных данных.
Key Findings
1
Послойная схема тонкой настройки предоставляет практический способ достигать наилучшей производительности в зависимости от объёма доступных данных.
2
Тонко настроенные CNN были более устойчивы к изменению размера обучающего набора по сравнению с CNN, обученными с нуля.
3
Тонкая настройка предварительно обученных CNN с адекватной послойной адаптацией превосходила или соответствовала по качеству CNN, обученным с нуля, в четырёх медицинских приложениях.
4
Ни поверхностная настройка, ни глубокая настройка по отдельности не были универсально оптимальными; оптимальная глубина настройки зависела от конкретного приложения.
Research Object
Глубокие сверточные нейронные сети (CNN) для анализа медицинских изображений
Research Subject
Сравнение стратегий обучения — полное обучение с нуля против поуровневой донастройки (fine-tuning) предобученных CNN — включая их эффективность в задачах классификации/детекции/сегментации, устойчивость к размеру обучающей выборки и выбор оптимальной глубины донастройки для различных медицинских приложений и модальностей
Publication Details
Publication Date
2016-03-07
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest