Обзор объяснимого искусственного интеллекта (XAI): на пути к медицинскому XAI

В последнее время искусственный интеллект и машинное обучение в целом продемонстрировали впечатляющую эффективность при решении множества задач — от обработки изображений до обработки естественного языка, особенно с появлением глубокого обучения (DL). По мере развития исследований они распространились на множество различных областей и дисциплин. Некоторые из них требуют высокого уровня подотчётности и, следовательно, прозрачности, например медицинская сфера. Поэтому необходимы объяснения решений и прогнозов, принимаемых системами машинного обучения, чтобы обосновать их надёжность. Это требует большей интерпретируемости, что часто означает необходимость понять механизмы, лежащие в основе алгоритмов. К сожалению, проблема «чёрного ящика», характерная для глубокого обучения, по-прежнему не решена, и многие решения машин остаются недостаточно понятными. Мы представляем обзор методов интерпретируемости, предложенных в различных исследованиях, и классифицируем их. Выделенные категории отражают различные направления исследований интерпретируемости — от подходов, предоставляющих «очевидно» интерпретируемую информацию, до исследований сложных закономерностей. Применение той же классификации к интерпретируемости в медицинских исследованиях призвано способствовать тому, чтобы: 1) клиницисты и практикующие специалисты впоследствии с осторожностью применяли эти методы; 2) понимание интерпретируемости развивалось с учётом особенностей медицинской практики; и 3) поощрялись инициативы, направленные на развитие основанного на данных, математически и технически обоснованного медицинского образования.