Объяснимый искусственный интеллект (XAI) в финансах: систематический обзор литературы
Explainable artificial intelligence (XAI) in finance: a systematic literature review
2024-07-26
SCID: 54.1/8srqqtfz
Discuss with AI
Управление кредитованиемОбъяснимый искусственный интеллектОценка финансовых рисковОбнаружение мошенничестваСистематический обзор литературы
Figures from the paper
Abstract (AI)
По мере расширения спектра решений, принимаемых с использованием искусственного интеллекта (ИИ), потребность в объяснимом искусственном интеллекте (XAI) становится всё более критичной. Обоснование конкретных результатов, получаемых сложными и непрозрачными финансовыми моделями, требует тщательного объяснения для повышения качества оценки рисков, минимизации утраты доверия и содействия формированию более устойчивой и надёжной финансовой экосистемы. В настоящем систематическом обзоре литературы (SLR) выявлено 138 релевантных статей, опубликованных в период с 2005 по 2022 год, и представлены эмпирические примеры, демонстрирующие потенциальные преимущества XAI в финансовой отрасли. Статьи были классифицированы по финансовым задачам, решаемым с использованием искусственного интеллекта и XAI, по различиям между методами XAI в разных приложениях и задачах, а также по разработке и применению новых методов XAI. Наиболее распространёнными финансовыми задачами, решаемыми с применением ИИ и XAI, оказались управление кредитованием, прогнозирование цен на акции и выявление мошенничества. Тремя наиболее часто используемыми в финансах методами ИИ типа «чёрного ящика», объяснимость которых оценивалась, были искусственные нейронные сети (ANN), экстремальный градиентный бустинг (XGBoost) и случайные леса. В большинстве рассмотренных публикаций использовались оценка важности признаков, аддитивные объяснения Шепли (SHAP) и методы на основе правил. Кроме того, применялись фреймворки объяснимости, интегрирующие несколько методов XAI. Также кратко определены существующие проблемы, требования и нерешённые вопросы, связанные с применением XAI в финансовом секторе.
Key Findings
1
Искусственные нейронные сети, Extreme Gradient Boosting и Random Forest — наиболее распространённые чёрные ящики, объяснимость которых оценивается в финансовых исследованиях.
2
Управление кредитами, прогнозирование цен акций и обнаружение мошенничества являются наиболее часто изучаемыми финансовыми задачами с использованием XAI.
3
Важность признаков, SHAP и методы на основе правил являются преобладающими методами XAI в рассмотренных работах.
4
Обзор подчёркивает потенциал XAI для улучшения оценки рисков, сохранения доверия и повышения устойчивости финансовой системы, одновременно выявляя нерешённые проблемы внедрения.
5
Систематический обзор выявляет 138 статей о применении XAI в финансах, опубликованных в период с 2005 по 2022 год.
Research Object
Применение объяснимого искусственного интеллекта (XAI) в финансовом секторе
Research Subject
Методы, применения и проблемы XAI для объяснения решений и моделей, основанных на ИИ, в финансовой сфере
Publication Details
Publication Date
2024-07-26
Journal
Publisher
ISSN
Cited by
625
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai8
Единый подход к интерпретации предсказаний моделей2017
Почему я должен вам доверять?2016
На пути к строгой науке об интерпретируемом машинном обучении2017
Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)2018
Интерпретация моделей «чёрного ящика»: обзор объяснимого искусственного интеллекта2023
Системный подход к проведению эффективного обзора литературы в поддержку исследований информационных систем2006
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Оценка качества объяснений в машинном обучении: обзор методов и метрик2021