Почему я должен вам доверять?
"Why Should I Trust You?": Explaining the Predictions of Any Classifier
2016-08-08
SCID: 54.1/m5w6g3zc
Discuss with AI
модели типа «чёрный ящик»интерпретируемость моделейпрозрачность моделейобъяснение предсказанийдоверенное машинное обучение
Figures from the paper
Abstract (AI)
Несмотря на широкое распространение, модели машинного обучения по-прежнему в основном остаются «чёрными ящиками». Однако понимание причин, лежащих в основе предсказаний, крайне важно для оценки доверия, которое имеет фундаментальное значение, если предполагается принимать решения на основе предсказания или выбирать, следует ли внедрять новую модель. Такое понимание также позволяет получить представление о модели, что может быть использовано для преобразования ненадёжной модели или предсказания в надёжные.
Key Findings
1
Объяснения предсказаний могут раскрывать особенности поведения модели и помогать находить способы преобразования ненадёжных моделей или предсказаний в надёжные.
2
Аннотация выделяет непрозрачность широко используемых моделей машинного обучения как основную проблему для доверия и решений о внедрении.
3
Понимание причин, лежащих в основе предсказаний машинного обучения, важно для оценки доверия перед действиями на основе предсказаний или внедрением моделей.
Research Object
Модели машинного обучения и их предсказания
Research Subject
Интерпретируемость предсказаний моделей как основа оценки и повышения надёжности, а также принятия решений о развёртывании
Publication Details
Publication Date
2016-08-08
Journal
Publisher
ISSN
Cited by
28124
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai3
Работы, цитирующие эту статью20
Единый подход к интерпретации предсказаний моделей2017
Обзор глубокого обучения: концепции, архитектуры сверточных нейронных сетей, проблемы, применения и перспективные направления2021
Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)2018
EEGNet: компактная сверточная нейронная сеть для интерфейсов мозг–компьютер на основе ЭЭГ2018
Глубокое обучение в здравоохранении: обзор, возможности и проблемы2017
Интерпретация моделей «чёрного ящика»: обзор объяснимого искусственного интеллекта2023
Обзор объяснимого искусственного интеллекта (XAI): на пути к медицинскому XAI2020
Причинная объяснимость и объяснимость искусственного интеллекта в медицине2019
Прогнозирование временных рядов с использованием глубокого обучения: обзор2021
Объяснимый искусственный интеллект (XAI): что нам известно и чего еще необходимо достичь для создания заслуживающего доверия искусственного интеллекта2023
Интерпретируемость машинного обучения: обзор методов и метрик2019
Последние достижения в области обработки естественного языка с использованием крупномасштабных предварительно обученных языковых моделей: обзор2023
Объяснимое машинное обучение для получения научных знаний и открытий2020
Искусственный интеллект в строительной отрасли: обзор современного состояния, возможностей и будущих вызовов2021
Смещение в управляемых данными системах искусственного интеллекта: вводный обзор2020
Методы машинного и глубокого обучения для систем обнаружения вторжений: обзор2019
Глубокое обучение в диагностике рака, прогнозировании исходов и выборе лечения2021
Унифицирующий обзор глубоких и поверхностных методов обнаружения аномалий2021
Обзор интерпретируемости обучения с учителем2021
Вопросы к ИИ: развитие практик проектирования пользовательского опыта для объяснимого искусственного интеллекта2020