Интерпретируемое машинное обучение: основные принципы и 10 крупных задач
Interpretable machine learning: Fundamental principles and 10 grand challenges
2022-01-01
SCID: 54.1/bpq64gzr
Discuss with AI
множество Рэшомонапрецедентное рассуждениепричинные ограничениясопоставление для причинного выводавизуализация данныхдеревья решенийснижение размерностидизентанглированиеобобщенные аддитивные моделигенеративные ограниченияинтерпретируемое машинное обучениеинтерпретируемое обучение с подкреплениеммашинное обучение с учетом физических законовсистемы оцениванияразреженные логические моделинесупервизированное дизентанглирование
Figures from the paper
Abstract (AI)
Интерпретируемость в машинном обучении (ML) имеет решающее значение для принятия решений в критических ситуациях и отладки. В этой работе мы излагаем основные принципы интерпретируемого ML и развенчиваем распространённые заблуждения, которые умаляют важность этой темы. Мы также выделяем 10 технических областей задач в интерпретируемом машинном обучении и приводим историю и фон каждой проблемы. Некоторые из этих задач классически важны, а некоторые появились за последние несколько лет. Эти задачи включают: (1) оптимизацию разреженных логических моделей, таких как деревья решений; (2) оптимизацию скоринговых систем; (3) введение ограничений в модель обобщённых аддитивных моделей для поощрения разреженности и улучшения интерпретируемости; (4) современное казуистическое (case-based) рассуждение, включая нейронные сети и сопоставление для каузального вывода; (5) полное супервизированное разъединение (disentanglement) нейронных сетей; (6) полное или частичное несупервизированное разъединение нейронных сетей; (7) уменьшение размерности для визуализации данных; (8) модели машинного обучения, способные учитывать физические и другие генеративные или каузальные ограничения; (9) характеристику «множества Рашомона» (Rashomon set) хороших моделей; и (10) интерпретируемое обучение с подкреплением. Этот обзор может служить отправной точкой для статистиков и специалистов по компьютерным наукам, заинтересованных в работе в области интерпретируемого машинного обучения.
Key Findings
1
Определены десять конкретных технических областей вызовов в интерпретируемом МО, охватывающих классические и недавние проблемы.
2
В статье представлены фундаментальные принципы интерпретируемого машинного обучения и проясняются распространённые заблуждения, ослабляющие его значение.
3
Обзор даёт историю и фон для каждой проблемы и предназначен как отправная точка для статистиков и компьютерных учёных, интересующихся интерпретируемым МО.
4
Эти десять областей включают: оптимизацию разреженных логических моделей (напр., деревья решений); оптимизацию скоринговых систем; введение ограничений в обобщённые аддитивные модели для разреженности и интерпретируемости; современные методы на основе прецедентов, включая нейросети и сопоставление для каузального вывода; полную супервайзинговую дисентанглментацию нейросетей; полную или частичную несупервайзинговую дисентанглментацию нейросетей; понижение размерности для визуализации данных; включение физических или генеративных/каузальных ограничений в модели МО; характеристику множества «Рашомон» хороших моделей; и интерпретируемое обучение с подкреплением.
Research Object
Интерпретируемое машинное обучение (область и её модели/практики)
Research Subject
Фундаментальные принципы, распространённые заблуждения и десять крупных технических задач в интерпретируемом МО (включая оптимизацию разреженных логических моделей, скоринговых систем, ограниченные GAM, современное кейс-основанное рассуждение, контролируемую и неконтролируемую дезентанглементацию нейросетей, уменьшение размерности для визуализации, интеграцию физических/каузальных ограничений, характеристику множества «Рашомон» хороших моделей и интерпретируемое обучение с подкреплением)
Publication Details
Publication Date
2022-01-01
Journal
Publisher
ISSN
Cited by
954
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai10
Классификация ImageNet с использованием глубоких сверточных нейронных сетей2017
Scikit-learn: машинное обучение на Python2012
Greedy function approximation: A gradient boosting machine.2001
Обучение представлений: обзор и новые перспективы2013
Понимание и устранение патологий потока градиентов в физически информированных нейронных сетях2021
Обучение с подкреплением в робототехнике: обзор2013
Ускорение t-SNE с использованием алгоритмов на основе деревьев2014
Искусство применения t-SNE для транскриптомики отдельных клеток2019
Достоверный искусственный интеллект2020
Понимание принципов работы методов снижения размерности: эмпирический подход к интерпретации t-SNE, UMAP, TriMAP и PaCMAP для визуализации данных2020
Работы, цитирующие эту статью6
Интерпретация моделей «чёрного ящика»: обзор объяснимого искусственного интеллекта2023
Научное машинное обучение с использованием физически информированных нейронных сетей: современное состояние и дальнейшие перспективы2022
Объяснимый искусственный интеллект (XAI): что нам известно и чего еще необходимо достичь для создания заслуживающего доверия искусственного интеллекта2023
Объяснимый искусственный интеллект для вариантов использования 6G: технические аспекты и исследовательские задачи2024
Искусственный интеллект для климатического прогнозирования экстремальных явлений: современное состояние, проблемы и перспективы2024
Диагностика аккумуляторных батарей в реальных условиях на основе искусственного интеллекта2024