О неустойчивости глубокого обучения при реконструкции изображений и потенциальных издержках искусственного интеллекта

On instabilities of deep learning in image reconstruction and the potential costs of AI
Francesco Renna, Ben Adcock, Vegard Antun, Clarice Poon, Anders C. Hansen
2020-05-11

адверсариальные возмущенияглубокое обучениереконструкция изображенийнестабильность реконструкциивозмущения в области дискретизации
Благодаря беспрецедентному успеху в таких задачах, как классификация изображений, глубокое обучение стало новым инструментом реконструкции изображений, способным изменить эту область. В настоящей работе мы демонстрируем ключевое явление: методы реконструкции изображений, основанные на глубоком обучении, как правило, являются неустойчивыми. Неустойчивость обычно проявляется в нескольких формах: (1) определённые небольшие, почти незаметные возмущения как в изображении, так и в области выборки могут приводить к появлению значительных артефактов при реконструкции; (2) небольшое структурное изменение, например опухоль, может не отображаться на реконструированном изображении; и (3) при контринтуитивном типе неустойчивости увеличение числа отсчётов может приводить к ухудшению результатов. Наш тест на устойчивость, включающий алгоритмы и простое в использовании программное обеспечение, выявляет эти явления неустойчивости. Тест предназначен для исследователей, чтобы проверять свои нейронные сети на наличие неустойчивости, а также для государственных органов, таких как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), чтобы обеспечить безопасное использование методов глубокого обучения.
1
Парадоксальным образом, увеличение числа образцов может ухудшать качество реконструкции.
2
Методы глубокого обучения для реконструкции изображений обычно нестабильны, несмотря на их успехи в классификации изображений.
3
Глубокие реконструкционные сети могут не обнаруживать небольшие структурные изменения, например опухоли, на реконструированных изображениях.
4
Предложенный тест стабильности и сопутствующее программное обеспечение выявляют такие нестабильности для исследователей и поддерживают оценку безопасности методами регулирующими органами, включая FDA.
5
Незначительные, почти незаметные возмущения изображения или области выборки могут приводить к сильным артефактам реконструкции.

методы глубокого обучения для реконструкции изображений

явления нестабильности и связанные с ними сбои реконструкции при возмущениях изображения и выборки, структурных изменениях и увеличении числа образцов

Publication Details
Publication Date
2020-05-11
Journal
Publisher
ISSN
Cited by
792
Access Type
Author Information
Authors
Francesco Renna
Ben Adcock
Vegard Antun
Clarice Poon
Anders C. Hansen
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%