На пути к строгой науке об интерпретируемом машинном обучении

По мере того как системы машинного обучения становятся повсеместными, наблюдается всплеск интереса к интерпретируемому машинному обучению — системам, предоставляющим объяснения своих результатов. Эти объяснения часто используются для качественной оценки других критериев, таких как безопасность или недискриминация. Однако, несмотря на интерес к интерпретируемости, существует очень мало согласия относительно того, что представляет собой интерпретируемое машинное обучение и как его следует измерять. В этой концептуальной статье мы сначала определяем интерпретируемость и описываем, когда она необходима, а когда нет. Затем мы предлагаем таксономию для строгой оценки и выявляем открытые вопросы на пути к формированию более строгой науки об интерпретируемом машинном обучении.