Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)
Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)
2018-01-01
SCID: 54.1/gv9g8fjq
Discuss with AI
Объяснимый искусственный интеллект (XAI)модели-«чёрный ящик»методы объясненияпрозрачностьдоверие к ИИ
Figures from the paper
Abstract (AI)
На заре четвертой промышленной революции мы наблюдаем быструю и широкую интеграцию искусственного интеллекта (ИИ) в повседневную жизнь, что способствует ускорению перехода к более алгоритмическому обществу. Однако даже при таких беспрецедентных достижениях ключевым препятствием для использования систем на основе ИИ является то, что они часто лишены прозрачности. Действительно, природа этих систем как «черных ящиков» обеспечивает мощные предсказания, но не позволяет прямо объяснить их работу. Эта проблема вызвала новый виток дискуссий об объяснимом ИИ (XAI). Это исследовательское направление обладает значительным потенциалом для повышения доверия и прозрачности систем на основе ИИ. Оно признается необходимым условием для того, чтобы ИИ мог продолжать устойчивое развитие без сбоев. В данном обзоре представлен входной пункт для заинтересованных исследователей и практиков, позволяющий ознакомиться с ключевыми аспектами молодой и быстрорастущей совокупности исследований, связанных с XAI. Сквозь призму литературы мы рассматриваем существующие подходы к этой теме, обсуждаем тенденции в её области и представляем основные исследовательские траектории.
Key Findings
1
Черный ящик AI-систем даёт мощные предсказания, но лишён прозрачности, что препятствует широкому внедрению.
2
Объяснимый ИИ (XAI) необходим для повышения доверия и прозрачности ИИ-систем.
3
Область XAI молода, быстро растёт и становится всё более важной в условиях четвёртой промышленной революции.
4
Этот обзор систематизирует существующие подходы XAI, тенденции и основные исследовательские траектории для практиков и исследователей.
5
XAI рассматривается как необходимое условие для дальнейшего устойчивого развития ИИ без сбоев.
Research Object
Системы на основе искусственного интеллекта (AI) — «чёрные ящики»
Research Subject
Объяснимость и прозрачность систем на основе ИИ, включая методы, подходы, тенденции и направления исследований в области Explainable Artificial Intelligence (XAI)
Publication Details
Publication Date
2018-01-01
Journal
Publisher
ISSN
Cited by
6294
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai7
Единый подход к интерпретации предсказаний моделей2017
Почему я должен вам доверять?2016
Дистилляция знаний в нейронной сети2015
Распределённые представления слов и фраз и их композиционность2013
Обучение глубоких признаков для дискриминативной локализации2016
На пути к строгой науке об интерпретируемом машинном обучении2017
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Работы, цитирующие эту статью20
Искусственный интеллект (ИИ): междисциплинарные перспективы новых вызовов, возможностей и повестки исследований, практики и политики2019
Машинное обучение и глубокое обучение2021
Интерпретация моделей «чёрного ящика»: обзор объяснимого искусственного интеллекта2023
Объяснимый искусственный интеллект (XAI): что нам известно и чего еще необходимо достичь для создания заслуживающего доверия искусственного интеллекта2023
Интерпретируемость машинного обучения: обзор методов и метрик2019
Объяснимое машинное обучение для получения научных знаний и открытий2020
Смещение в управляемых данными системах искусственного интеллекта: вводный обзор2020
Машинное обучение с участием человека: современное состояние2022
Будущее индустрии 5.0 в обществе: ориентированные на человека решения, проблемы и перспективные области исследований2022
Обзор интерпретируемости обучения с учителем2021
Вопросы к ИИ: развитие практик проектирования пользовательского опыта для объяснимого искусственного интеллекта2020
FinBERT: большая языковая модель для извлечения информации из финансовых текстов2022
Применение искусственного интеллекта к медицинским изображениям: от машинного обучения до глубокого обучения2021
Куда идёт искусственный интеллект?2022
Объяснимый искусственный интеллект (XAI) в финансах: систематический обзор литературы2024
Оценка качества объяснений в машинном обучении: обзор методов и метрик2021
Этика и управление доверием к медицинскому искусственному интеллекту2023
Методы объяснимого искусственного интеллекта (XAI) для энергетических и электроэнергетических систем: обзор, проблемы и перспективы2022
Достоверный искусственный интеллект2020
От анекдотических свидетельств к количественным методам оценки: систематический обзор оценки объяснимого искусственного интеллекта2023