Внедрение этики искусственного интеллекта на практике: модель «песочных часов» организационного управления ИИ

Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance
Matti Mäntymäki, Matti Minkkinen, Teemu Birkstedt, Mika Viljanen
2022-06-01

жизненный цикл системы ИИЕвропейский закон об ИИэтические принципы ИИмодель песочных часоворганизационное управление ИИ
Использование искусственного интеллекта (ИИ) в организациях быстро распространилось в различных секторах. Наряду с осознанием преимуществ, которые дает ИИ, растет консенсус относительно необходимости устранения рисков и потенциального вреда, таких как предвзятость и дискриминация, связанных с передовыми технологиями ИИ. Для устранения этих рисков было предложено множество принципов этики ИИ, однако организационные процессы и практики, обеспечивающие социально ответственную разработку ИИ, пока находятся на начальной стадии формирования. Для восполнения недостатка комплексных моделей управления мы представляем концептуальную основу управления ИИ — модель «песочных часов» организационного управления ИИ, ориентированную на организации, разрабатывающие и использующие системы ИИ. Эта концептуальная основа призвана помочь организациям, внедряющим системы ИИ, претворять принципы этичного ИИ в практику и согласовывать свои системы и процессы с будущим Европейским законом об искусственном интеллекте. Модель «песочных часов» включает требования к управлению на уровнях внешней среды, организации и системы ИИ. На уровне системы ИИ мы связываем требования к управлению с жизненными циклами систем ИИ, чтобы обеспечить управление на протяжении всего срока существования системы. Модель управления подчеркивает системный характер управления ИИ и открывает новые направления исследований, посвященных ее практической реализации, механизмам взаимосвязи различных уровней управления ИИ и динамике взаимодействия субъектов управления ИИ. Модель также служит отправной точкой для руководителей организаций при рассмотрении компонентов управления, необходимых для обеспечения социальной приемлемости, снижения рисков и реализации потенциала ИИ.
1
На уровне ИИ-систем требования к управлению связаны с жизненными циклами систем, обеспечивая надзор на протяжении всего срока их существования.
2
Требования к управлению определены на экологическом, организационном и системном уровнях, что отражает системный характер управления ИИ.
3
Модель предназначена для организаций, разрабатывающих или внедряющих системы ИИ, и поддерживает их согласование с будущим Европейским законом об искусственном интеллекте.
4
Модель предоставляет руководителям организаций компоненты управления для повышения социальной приемлемости, снижения рисков ИИ и реализации его преимуществ.
5
В статье представлена модель «песочных часов» — комплексная структура для перевода принципов этики ИИ в организационные практики управления.

организационное управление ИИ в организациях, разрабатывающих и использующих системы ИИ

требования и механизмы управления для преобразования этических принципов ИИ в социально ответственную разработку и использование ИИ на экологическом, организационном уровнях и на всех этапах жизненного цикла системы ИИ

Publication Details
Publication Date
2022-06-01
Journal
arXiv (Cornell University)
Publisher
Cornell University
ISSN
2331-8422
Cited by
121
Access Type
Author Information
Authors
Matti Mäntymäki
Matti Minkkinen
Teemu Birkstedt
Mika Viljanen
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%