Управление искусственным интеллектом: систематический обзор литературы
AI governance: a systematic literature review
2025-01-14
SCID: 54.1/2jkeyn9j
Discuss with AI
жизненный цикл разработки ИИуправление искусственным интеллектомструктуры управления ИИснижение рисков ИИсистематический обзор литературы
Figures from the paper
Abstract (AI)
По мере того как искусственный интеллект (ИИ) преобразует широкий спектр отраслей и стимулирует инновации, он также создает различные типы рисков, которые необходимо выявлять, оценивать и снижать. В последнее время правительства, организации и компании разработали различные системы управления ИИ для снижения рисков, связанных с ИИ. Однако заинтересованным сторонам в сфере ИИ может быть сложно получить целостное представление о доступных системах, инструментах и моделях управления ИИ и определить наиболее подходящий вариант для своей системы ИИ. Для восполнения этого пробела мы представляем обзор литературы, посвященный ключевым вопросам: КТО несет ответственность за управление системами ИИ, ЧЕМУ подвергаются управленческие воздействия, КОГДА осуществляется управление в рамках жизненного цикла разработки ИИ и КАК оно реализуется посредством систем, инструментов, политик или моделей. Используя методологию систематического обзора литературы (SLR), в настоящем исследовании были тщательно выполнены поиск, отбор и анализ 28 статей, что создало основу для понимания различных аспектов управления ИИ. Анализ дополнительно углублен путем классификации артефактов управления ИИ по пяти уровням: уровень команды, уровень организации, отраслевой, национальный и международный. Результаты исследования существующих решений в области управления ИИ могут помочь научному сообществу в разработке комплексных практик управления ИИ.
Key Findings
1
Артефакты управления ИИ классифицированы по пяти уровням: командному, организационному, отраслевому, национальному и международному.
2
Существующие рамочные модели, инструменты, политики и модели направлены на выявление, оценку и снижение рисков, создаваемых системами ИИ.
3
Обзор создаёт основу для сравнения подходов к управлению ИИ и разработки более комплексных практик управления.
4
Обзор рассматривает управление ИИ через четыре вопроса: кто несёт ответственность, чем управляют, когда управление осуществляется в жизненном цикле ИИ и как оно реализуется.
5
Систематический обзор литературы анализирует 28 статей, характеризующих существующие исследования и решения в области управления ИИ.
Research Object
Фреймворки, инструменты, политики и модели управления системами искусственного интеллекта
Research Subject
Ответственность, регулируемые элементы, этапы жизненного цикла, способы реализации и уровни управления искусственным интеллектом
Publication Details
Publication Date
2025-01-14
Journal
Publisher
ISSN
Cited by
752
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Этика и управление доверием к медицинскому искусственному интеллекту2023
Определение организационного управления искусственным интеллектом2022
Доступ к финансированию в контексте регулирования искусственного интеллекта в индустрии финансовых услуг2020
Каталог паттернов ответственного ИИ: собрание лучших практик для управления и разработки систем ИИ2023
Внедрение этики искусственного интеллекта на практике: модель «песочных часов» организационного управления ИИ2022
Работы, цитирующие эту статью5
Разработка структуры управления искусственным интеллектом для безопасного и ответственного применения ИИ в медицинских организациях: протокол мультиметодного исследования2025
GENXAI: система ответственного управления ИИ для генеративных моделей в регулируемых отраслях2026
Операционализация управления искусственным интеллектом2026
За пределами связности: агенты искусственного интеллекта, обеспечивающие перцептивные, адаптивные и проактивные сети 6G2026
Управление ИИ и агентными системами: проблемы и методологии2025