Внедрение этики искусственного интеллекта на практике: модель «песочных часов» организационного управления ИИ
Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance
2022-06-01
SCID: 54.1/7yktt499
Discuss with AI
жизненный цикл системы ИИЕвропейский закон об ИИэтические принципы ИИмодель песочных часоворганизационное управление ИИ
Figures from the paper
Abstract (AI)
Использование искусственного интеллекта (ИИ) в организациях быстро распространилось в различных секторах. Наряду с осознанием преимуществ, которые дает ИИ, растет консенсус относительно необходимости устранения рисков и потенциального вреда, таких как предвзятость и дискриминация, связанных с передовыми технологиями ИИ. Для устранения этих рисков было предложено множество принципов этики ИИ, однако организационные процессы и практики, обеспечивающие социально ответственную разработку ИИ, пока находятся на начальной стадии формирования. Для восполнения недостатка комплексных моделей управления мы представляем концептуальную основу управления ИИ — модель «песочных часов» организационного управления ИИ, ориентированную на организации, разрабатывающие и использующие системы ИИ. Эта концептуальная основа призвана помочь организациям, внедряющим системы ИИ, претворять принципы этичного ИИ в практику и согласовывать свои системы и процессы с будущим Европейским законом об искусственном интеллекте. Модель «песочных часов» включает требования к управлению на уровнях внешней среды, организации и системы ИИ. На уровне системы ИИ мы связываем требования к управлению с жизненными циклами систем ИИ, чтобы обеспечить управление на протяжении всего срока существования системы. Модель управления подчеркивает системный характер управления ИИ и открывает новые направления исследований, посвященных ее практической реализации, механизмам взаимосвязи различных уровней управления ИИ и динамике взаимодействия субъектов управления ИИ. Модель также служит отправной точкой для руководителей организаций при рассмотрении компонентов управления, необходимых для обеспечения социальной приемлемости, снижения рисков и реализации потенциала ИИ.
Key Findings
1
На уровне ИИ-систем требования к управлению связаны с жизненными циклами систем, обеспечивая надзор на протяжении всего срока их существования.
2
Требования к управлению определены на экологическом, организационном и системном уровнях, что отражает системный характер управления ИИ.
3
Модель предназначена для организаций, разрабатывающих или внедряющих системы ИИ, и поддерживает их согласование с будущим Европейским законом об искусственном интеллекте.
4
Модель предоставляет руководителям организаций компоненты управления для повышения социальной приемлемости, снижения рисков ИИ и реализации его преимуществ.
5
В статье представлена модель «песочных часов» — комплексная структура для перевода принципов этики ИИ в организационные практики управления.
Research Object
организационное управление ИИ в организациях, разрабатывающих и использующих системы ИИ
Research Subject
требования и механизмы управления для преобразования этических принципов ИИ в социально ответственную разработку и использование ИИ на экологическом, организационном уровнях и на всех этапах жизненного цикла системы ИИ
Publication Details
Publication Date
2022-06-01
Journal
arXiv (Cornell University)
Publisher
Cornell University
ISSN
2331-8422
Cited by
121
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai7
Этика этики искусственного интеллекта: оценка руководящих принципов2020
Готовы или нет — искусственный интеллект приходит: интервью-исследование факторов организационной готовности к внедрению ИИ2020
Управление искусственным интеллектом2021
От чего к тому, как: предварительный обзор общедоступных инструментов, методов и исследований в области этики искусственного интеллекта для перевода принципов в практику2019
Этические последствия и ответственность за алгоритмы2018
Достоверный искусственный интеллект2020
Определение организационного управления искусственным интеллектом2022