Объяснимое, надежное и этичное машинное обучение в здравоохранении: обзор

С появлением приложений на основе машинного обучения (ML) и глубокого обучения (DL) для таких критически важных областей, как здравоохранение, возникли вопросы, связанные с ответственностью, надежностью и интерпретируемостью их результатов. Природа «черного ящика», характерная для различных моделей глубокого обучения, препятствует их клиническому применению. Поэтому для завоевания доверия врачей и пациентов необходимо предоставлять объяснения решений моделей. Исследователи развивают область объяснимого машинного обучения (XML), которая призвана повысить надежность и прозрачность моделей типа «черного ящика». В статье представлен всесторонний обзор методов объяснимого и интерпретируемого машинного обучения для различных приложений в здравоохранении. Помимо рассмотрения проблем безопасности, защищенности и робастности, препятствующих обеспечению надежности машинного обучения, обсуждаются этические вопросы, возникающие вследствие применения ML/DL в здравоохранении. Также описано, каким образом объяснимое и надежное машинное обучение может решить эти этические проблемы. Наконец, рассмотрены ограничения существующих подходов и выделены различные открытые исследовательские задачи, требующие дальнейшего развития.