Сверточные нейронные сети для анализа медицинских изображений: полная тренировка или дообучение?

Convolutional Neural Networks for Medical Image Analysis: Full Training or Fine Tuning?
Michael B. Gotway, Suryakanth Gurudu, Nima Tajbakhsh, J. Shin, R. Todd Hurst, Christopher B. Kendall, Jianming Liang
2016-03-07

дообучение (покомпонентное)анализ медицинских изображенийпредобученные сверточные нейронные сетиустойчивость к размеру обучающего набораобучение CNN с нуля
Обучение глубокой сверточной нейронной сети (CNN) с нуля затруднено, поскольку требует большого объёма размеченных данных и значительного опыта для обеспечения корректной сходимости. Многообещающей альтернативой является дообучение (fine-tuning) CNN, предварительно обученной, например, на большом наборе размеченных естественных изображений. Однако существенные различия между естественными и медицинскими изображениями могут ставить под сомнение целесообразность такой передачи знаний. В этой статье мы решаем следующий ключевой вопрос в контексте анализа медицинских изображений: может ли использование предварительно обученных глубоких CNN с достаточным дообучением устранить необходимость обучения глубокой CNN с нуля? Для ответа на этот вопрос мы рассмотрели четыре различных приложения в медицинской визуализации в трёх специальностях (радиология, кардиология и гастроэнтерология), включающих задачи классификации, детекции и сегментации на данных трёх различных модальностей, и исследовали, как соотносится производительность CNN, обученных с нуля, и предварительно обученных CNN, дообученных послойно. Наши эксперименты последовательно показали, что: (1) использование предварительно обученной CNN с адекватным дообучением превосходит или, в худшем случае, сопоставимо по результату с обучением CNN с нуля; (2) дообученные CNN более устойчивы к размеру обучающих наборов по сравнению с CNN, обученными с нуля; (3) ни мелкое (shallow) дообучение, ни глубокое (deep) дообучение не являются универсально оптимальным выбором для конкретного приложения; и (4) наша схема послойного дообучения может предоставить практический способ достижения наилучшей производительности для конкретного приложения в зависимости от объёма доступных данных.
1
Послойная схема тонкой настройки предоставляет практический способ достигать наилучшей производительности в зависимости от объёма доступных данных.
2
Тонко настроенные CNN были более устойчивы к изменению размера обучающего набора по сравнению с CNN, обученными с нуля.
3
Тонкая настройка предварительно обученных CNN с адекватной послойной адаптацией превосходила или соответствовала по качеству CNN, обученным с нуля, в четырёх медицинских приложениях.
4
Ни поверхностная настройка, ни глубокая настройка по отдельности не были универсально оптимальными; оптимальная глубина настройки зависела от конкретного приложения.

Глубокие сверточные нейронные сети (CNN) для анализа медицинских изображений

Сравнение стратегий обучения — полное обучение с нуля против поуровневой донастройки (fine-tuning) предобученных CNN — включая их эффективность в задачах классификации/детекции/сегментации, устойчивость к размеру обучающей выборки и выбор оптимальной глубины донастройки для различных медицинских приложений и модальностей

Publication Details
Publication Date
2016-03-07
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Michael B. Gotway
Suryakanth Gurudu
Nima Tajbakhsh
J. Shin
R. Todd Hurst
Christopher B. Kendall
Jianming Liang
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%