О неустойчивости глубокого обучения при реконструкции изображений и потенциальных издержках искусственного интеллекта
On instabilities of deep learning in image reconstruction and the potential costs of AI
2020-05-11
SCID: 54.1/25vesw73
Discuss with AI
адверсариальные возмущенияглубокое обучениереконструкция изображенийнестабильность реконструкциивозмущения в области дискретизации
Figures from the paper
Abstract (AI)
Благодаря беспрецедентному успеху в таких задачах, как классификация изображений, глубокое обучение стало новым инструментом реконструкции изображений, способным изменить эту область. В настоящей работе мы демонстрируем ключевое явление: методы реконструкции изображений, основанные на глубоком обучении, как правило, являются неустойчивыми. Неустойчивость обычно проявляется в нескольких формах: (1) определённые небольшие, почти незаметные возмущения как в изображении, так и в области выборки могут приводить к появлению значительных артефактов при реконструкции; (2) небольшое структурное изменение, например опухоль, может не отображаться на реконструированном изображении; и (3) при контринтуитивном типе неустойчивости увеличение числа отсчётов может приводить к ухудшению результатов. Наш тест на устойчивость, включающий алгоритмы и простое в использовании программное обеспечение, выявляет эти явления неустойчивости. Тест предназначен для исследователей, чтобы проверять свои нейронные сети на наличие неустойчивости, а также для государственных органов, таких как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), чтобы обеспечить безопасное использование методов глубокого обучения.
Key Findings
1
Парадоксальным образом, увеличение числа образцов может ухудшать качество реконструкции.
2
Методы глубокого обучения для реконструкции изображений обычно нестабильны, несмотря на их успехи в классификации изображений.
3
Глубокие реконструкционные сети могут не обнаруживать небольшие структурные изменения, например опухоли, на реконструированных изображениях.
4
Предложенный тест стабильности и сопутствующее программное обеспечение выявляют такие нестабильности для исследователей и поддерживают оценку безопасности методами регулирующими органами, включая FDA.
5
Незначительные, почти незаметные возмущения изображения или области выборки могут приводить к сильным артефактам реконструкции.
Research Object
методы глубокого обучения для реконструкции изображений
Research Subject
явления нестабильности и связанные с ними сбои реконструкции при возмущениях изображения и выборки, структурных изменениях и увеличении числа образцов
Publication Details
Publication Date
2020-05-11
Journal
Publisher
ISSN
Cited by
792
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Классификация ImageNet с использованием глубоких сверточных нейронных сетей2017
Очень глубокие сверточные сети для масштабного распознавания изображений2014
Adam: метод стохастической оптимизации2014
Интригующие свойства нейронных сетей2013
DeepFool: простой и точный метод обмана глубоких нейронных сетей2016
Работы, цитирующие эту статью3
FISTA-Net: обучение сети быстрого итеративного усечения и пороговой обработки для решения обратных задач визуализации2021
Реконструкция компьютерной томографии с использованием глубокого априорного представления изображения и обучаемых методов реконструкции2020
Повышение отношения сигнал/шум в низкопольной МРТ с помощью глубокой нейросетевой реконструкции изображений2021