Интерпретируемое машинное обучение: основные принципы и 10 крупных задач

Интерпретируемость в машинном обучении (ML) имеет решающее значение для принятия решений в критических ситуациях и отладки. В этой работе мы излагаем основные принципы интерпретируемого ML и развенчиваем распространённые заблуждения, которые умаляют важность этой темы. Мы также выделяем 10 технических областей задач в интерпретируемом машинном обучении и приводим историю и фон каждой проблемы. Некоторые из этих задач классически важны, а некоторые появились за последние несколько лет. Эти задачи включают: (1) оптимизацию разреженных логических моделей, таких как деревья решений; (2) оптимизацию скоринговых систем; (3) введение ограничений в модель обобщённых аддитивных моделей для поощрения разреженности и улучшения интерпретируемости; (4) современное казуистическое (case-based) рассуждение, включая нейронные сети и сопоставление для каузального вывода; (5) полное супервизированное разъединение (disentanglement) нейронных сетей; (6) полное или частичное несупервизированное разъединение нейронных сетей; (7) уменьшение размерности для визуализации данных; (8) модели машинного обучения, способные учитывать физические и другие генеративные или каузальные ограничения; (9) характеристику «множества Рашомона» (Rashomon set) хороших моделей; и (10) интерпретируемое обучение с подкреплением. Этот обзор может служить отправной точкой для статистиков и специалистов по компьютерным наукам, заинтересованных в работе в области интерпретируемого машинного обучения.