Обзор интерпретируемости обучения с учителем
A Survey on the Explainability of Supervised Machine Learning
2021-01-19
SCID: 54.1/zthrg4tf
Discuss with AI
алгоритмическая прозрачностьмодели типа «чёрного ящика»объяснимое обучение с учителемпояснительное исследование случаяинтерпретируемость моделей
Figures from the paper
Abstract (AI)
Прогнозы, полученные, например, с помощью искусственных нейронных сетей, обладают высокой точностью, однако люди часто воспринимают такие модели как «чёрные ящики». Представление о процессе принятия решений в значительной степени остаётся непрозрачным для человека. В частности, понимание принятия решений в таких чрезвычайно чувствительных областях, как здравоохранение и финансы, имеет первостепенное значение. Поэтому процессы принятия решений, лежащие в основе моделей типа «чёрного ящика», должны стать более прозрачными, подотчётными и понятными для людей. В данной обзорной статье приведены основные определения и представлен обзор различных принципов и методологий интерпретируемого обучения с учителем (SML). Проведён обзор современного состояния исследований, в рамках которого рассмотрены прежние и недавние подходы к интерпретируемому SML и выполнена их классификация в соответствии с введёнными определениями. Наконец, эти принципы проиллюстрированы на примере пояснительного тематического исследования и обсуждены важные направления дальнейших исследований.
Key Findings
1
Принципы объяснимости проиллюстрированы на пояснительном тематическом исследовании, а также обозначены важные направления будущих исследований.
2
Систематически рассмотрены прошлые и современные подходы к объяснимому обучению с учителем и классифицированы в соответствии с предложенными определениями.
3
Подчёркивается важность объяснения решений «чёрных ящиков» в чувствительных областях, таких как здравоохранение и финансы.
4
В обзоре сформулированы определения и принципы объяснимого обучения с учителем, ориентированные на прозрачность, подотчётность и понятность для человека.
Research Object
модели обучения с учителем, включая искусственные нейронные сети
Research Subject
их объяснимость, прозрачность, подотчётность и понятность процесса принятия решений для человека
Publication Details
Publication Date
2021-01-19
Journal
Publisher
ISSN
Cited by
1005
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai12
Единый подход к интерпретации предсказаний моделей2017
Суждение в условиях неопределённости: эвристики и предвзятости1974
Почему я должен вам доверять?2016
Фрейминг решений и психология выбора1981
Нейронный машинный перевод посредством совместного обучения выравниванию и переводу2014
Least angle regression2004
Эффективные подходы к нейронному машинному переводу на основе механизма внимания2015
На пути к строгой науке об интерпретируемом машинном обучении2017
Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)2018
Обзор объяснимого искусственного интеллекта (XAI): на пути к медицинскому XAI2020
Причинная объяснимость и объяснимость искусственного интеллекта в медицине2019
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Работы, цитирующие эту статью6
Объяснимый искусственный интеллект (XAI): что нам известно и чего еще необходимо достичь для создания заслуживающего доверия искусственного интеллекта2023
От анекдотических свидетельств к количественным методам оценки: систематический обзор оценки объяснимого искусственного интеллекта2023
Обзор методов объяснимого обнаружения аномалий2023
Объяснимый искусственный интеллект на основе графов знаний: систематический обзор2022
Современные применения объяснимого искусственного интеллекта (XAI): систематический обзор литературы2024
Объяснимый искусственный интеллект для автоматического обнаружения дефектов в деталях, изготовленных аддитивным способом, с использованием анализа компьютерно-томографических изображений2023