«Кто», «что» и «как» в управлении ответственным ИИ: систематический обзор и метаанализ инструментов, специфичных для пар «актор — этап»
The ``Who", ``What", and ``How" of Responsible AI Governance: A Systematic Review and Meta-Analysis of (Actor, Stage)-Specific Tools
2025-06-23
SCID: 54.1/smjqdffe
Discuss with AI
Инструменты управления ИИЖизненный цикл ИИМетаанализОтветственное управление ИИСистематический обзор
Figures from the paper
Abstract (AI)
Внедрение ответственного искусственного интеллекта (ИИ) в организации изначально является сложной задачей, поскольку предполагает участие множества заинтересованных сторон, каждая из которых имеет собственный набор целей и обязанностей на протяжении всего жизненного цикла ИИ. Эти обязанности часто определяются и распределяются неоднозначно, что приводит к путанице, нарушениям коммуникации и снижению эффективности. Даже когда обязанности четко определены и закреплены за конкретными ролями, соответствующие участники процессов ИИ не располагают эффективными инструментами для их выполнения. Для устранения этих пробелов мы представляем систематический обзор и всеобъемлющий метаанализ современного состояния инструментов для ответственного ИИ, уделяя особое внимание их соответствию конкретным ролям заинтересованных сторон и их обязанностям на различных этапах жизненного цикла ИИ. Мы классифицируем более 220 инструментов по участникам процессов ИИ и охватываемым ими этапам. Наши результаты выявляют значительные дисбалансы между представленными ролями заинтересованных сторон и этапами жизненного цикла. Подавляющее большинство доступных инструментов разработано для поддержки проектировщиков и разработчиков ИИ, главным образом на этапах, ориентированных на данные, и статистического моделирования, тогда как другие роли, такие как руководители организаций, специалисты по внедрению, конечные пользователи и затронутые сообщества, а также такие этапы, как формирование ценностного предложения и развертывание, остаются без должного внимания. Это неравномерное распределение указывает на критические пробелы, существующие сегодня в исследованиях и практике управления ответственным ИИ. Наш анализ показывает, что, несмотря на множество фреймворков и инструментов для ответственного ИИ, по-прежнему неясно, кто именно внутри организации должен применять тот или иной инструмент и на каком этапе жизненного цикла ИИ. Кроме того, существующие инструменты редко проходят валидацию, что создает существенные пробелы в понимании их удобства использования и эффективности. Эти пробелы служат отправной точкой для исследователей и практиков, стремящихся разработать более эффективные и целостные подходы к разработке и управлению ответственным ИИ.
Key Findings
1
Доступные инструменты преимущественно ориентированы на разработчиков ИИ и специалистов по проектированию на этапах работы с данными и статистического моделирования.
2
Несмотря на множество фреймворков и инструментов, остаётся неясным, какие организационные акторы должны применять конкретные инструменты и на каком этапе жизненного цикла.
3
Существующие инструменты ответственного ИИ редко проходят валидацию, поэтому их удобство использования и эффективность остаются неопределёнными.
4
Организационные руководители, специалисты по внедрению, конечные пользователи и затронутые сообщества, а также этапы формулирования ценностного предложения и внедрения существенно недостаточно обеспечены инструментами.
5
Обзор классифицирует более 220 инструментов ответственного ИИ по ролям заинтересованных сторон и этапам жизненного цикла ИИ.
Research Object
инструменты ответственного управления ИИ, рассматриваемые в контексте ролей организационных заинтересованных сторон и этапов жизненного цикла ИИ
Research Subject
соответствие, распределение, удобство использования и эффективность инструментов в отношении обязанностей участников ИИ и этапов жизненного цикла ИИ
Publication Details
Publication Date
2025-06-23
Journal
Publisher
ISSN
Cited by
47
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Единый подход к интерпретации предсказаний моделей2017
Почему я должен вам доверять?2016
От чего к тому, как: предварительный обзор общедоступных инструментов, методов и исследований в области этики искусственного интеллекта для перевода принципов в практику2019
Корпоративная цифровая ответственность2019
Применение этических принципов искусственного интеллекта: систематический обзор инструментов для разработки и оценки систем на основе ИИ2024