«Кто», «что» и «как» в управлении ответственным ИИ: систематический обзор и метаанализ инструментов, специфичных для пар «актор — этап»

The ``Who", ``What", and ``How" of Responsible AI Governance: A Systematic Review and Meta-Analysis of (Actor, Stage)-Specific Tools
Hoda Heidari, Jodi Forlizzi, Blaine Kuehnert, Rachel Kim
2025-06-23

Инструменты управления ИИЖизненный цикл ИИМетаанализОтветственное управление ИИСистематический обзор
Внедрение ответственного искусственного интеллекта (ИИ) в организации изначально является сложной задачей, поскольку предполагает участие множества заинтересованных сторон, каждая из которых имеет собственный набор целей и обязанностей на протяжении всего жизненного цикла ИИ. Эти обязанности часто определяются и распределяются неоднозначно, что приводит к путанице, нарушениям коммуникации и снижению эффективности. Даже когда обязанности четко определены и закреплены за конкретными ролями, соответствующие участники процессов ИИ не располагают эффективными инструментами для их выполнения. Для устранения этих пробелов мы представляем систематический обзор и всеобъемлющий метаанализ современного состояния инструментов для ответственного ИИ, уделяя особое внимание их соответствию конкретным ролям заинтересованных сторон и их обязанностям на различных этапах жизненного цикла ИИ. Мы классифицируем более 220 инструментов по участникам процессов ИИ и охватываемым ими этапам. Наши результаты выявляют значительные дисбалансы между представленными ролями заинтересованных сторон и этапами жизненного цикла. Подавляющее большинство доступных инструментов разработано для поддержки проектировщиков и разработчиков ИИ, главным образом на этапах, ориентированных на данные, и статистического моделирования, тогда как другие роли, такие как руководители организаций, специалисты по внедрению, конечные пользователи и затронутые сообщества, а также такие этапы, как формирование ценностного предложения и развертывание, остаются без должного внимания. Это неравномерное распределение указывает на критические пробелы, существующие сегодня в исследованиях и практике управления ответственным ИИ. Наш анализ показывает, что, несмотря на множество фреймворков и инструментов для ответственного ИИ, по-прежнему неясно, кто именно внутри организации должен применять тот или иной инструмент и на каком этапе жизненного цикла ИИ. Кроме того, существующие инструменты редко проходят валидацию, что создает существенные пробелы в понимании их удобства использования и эффективности. Эти пробелы служат отправной точкой для исследователей и практиков, стремящихся разработать более эффективные и целостные подходы к разработке и управлению ответственным ИИ.
1
Доступные инструменты преимущественно ориентированы на разработчиков ИИ и специалистов по проектированию на этапах работы с данными и статистического моделирования.
2
Несмотря на множество фреймворков и инструментов, остаётся неясным, какие организационные акторы должны применять конкретные инструменты и на каком этапе жизненного цикла.
3
Существующие инструменты ответственного ИИ редко проходят валидацию, поэтому их удобство использования и эффективность остаются неопределёнными.
4
Организационные руководители, специалисты по внедрению, конечные пользователи и затронутые сообщества, а также этапы формулирования ценностного предложения и внедрения существенно недостаточно обеспечены инструментами.
5
Обзор классифицирует более 220 инструментов ответственного ИИ по ролям заинтересованных сторон и этапам жизненного цикла ИИ.

инструменты ответственного управления ИИ, рассматриваемые в контексте ролей организационных заинтересованных сторон и этапов жизненного цикла ИИ

соответствие, распределение, удобство использования и эффективность инструментов в отношении обязанностей участников ИИ и этапов жизненного цикла ИИ

Publication Details
Publication Date
2025-06-23
Journal
Publisher
ISSN
Cited by
47
Access Type
Author Information
Authors
Hoda Heidari
Jodi Forlizzi
Blaine Kuehnert
Rachel Kim
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%