Единый подход к интерпретации предсказаний моделей

Во многих приложениях понимание причин, по которым модель делает определённое предсказание, может быть столь же важным, как и точность самого предсказания. Однако наивысшая точность на больших современных наборах данных часто достигается с помощью сложных моделей, интерпретация которых затруднительна даже для экспертов, например ансамблевых моделей или моделей глубокого обучения, что создаёт противоречие между точностью и интерпретируемостью. В связи с этим в последнее время были предложены различные методы, помогающие пользователям интерпретировать предсказания сложных моделей, однако зачастую неясно, как эти методы связаны между собой и в каких случаях один метод предпочтительнее другого. Для решения этой проблемы мы представляем единую платформу интерпретации предсказаний — SHAP (SHapley Additive exPlanations, аддитивные объяснения Шепли). SHAP присваивает каждому признаку значение важности для конкретного предсказания. К её новым компонентам относятся: (1) выявление нового класса аддитивных мер важности признаков и (2) теоретические результаты, показывающие существование единственного решения в этом классе, обладающего набором желательных свойств. Новый класс объединяет шесть существующих методов; это особенно примечательно, поскольку некоторые недавно разработанные методы, относящиеся к этому классу, не обладают предложенными желательными свойствами. Основываясь на выводах, полученных в результате этого объединения, мы представляем новые методы, демонстрирующие более высокую вычислительную эффективность и/или лучшее соответствие человеческой интуиции по сравнению с ранее предложенными подходами.