Обзор интерпретируемости обучения с учителем

Прогнозы, полученные, например, с помощью искусственных нейронных сетей, обладают высокой точностью, однако люди часто воспринимают такие модели как «чёрные ящики». Представление о процессе принятия решений в значительной степени остаётся непрозрачным для человека. В частности, понимание принятия решений в таких чрезвычайно чувствительных областях, как здравоохранение и финансы, имеет первостепенное значение. Поэтому процессы принятия решений, лежащие в основе моделей типа «чёрного ящика», должны стать более прозрачными, подотчётными и понятными для людей. В данной обзорной статье приведены основные определения и представлен обзор различных принципов и методологий интерпретируемого обучения с учителем (SML). Проведён обзор современного состояния исследований, в рамках которого рассмотрены прежние и недавние подходы к интерпретируемому SML и выполнена их классификация в соответствии с введёнными определениями. Наконец, эти принципы проиллюстрированы на примере пояснительного тематического исследования и обсуждены важные направления дальнейших исследований.